DataScience 板


LINE

各位大大 试着把h5的档案转为 int8 的 tflite 我想厘清转换後权重与scale与zero point的关系,但遇到了一些问题,我的模型很简单 ,如下 tf.keras.layers.Conv2D(16, (5,5), input_shape=(width,height, 1), activati on='relu', padding='same') tf.keras.layers.GlobalAveragePooling2D() tf.keras.layers.Dense(3, activation='softmax') 我用以下代码试着inference一张图片 interpreter = tf.lite.Interpreter(model_path="test.tflite") interpreter.allocate_tensors() input_index = interpreter.get_input_details()[0]["index"] output_index = interpreter.get_output_details()[0]["index"] input_scale, input_zero_point = interpreter.get_input_details()[0]['quantizati on'] image_ = image_input / input_scale + input_zero_point interpreter.set_tensor(input_index, image_.astype(np.int8)) interpreter.invoke() interpreter.tensor(output_index)() 得到结果array([[-123, 77, -82]], dtype=int8),这应该是符合预期的分类结果 我想试着看 tflite 每一层中的关系,想先从GlobalAveragePooling2D着手 经过conv2後得到一个80*80*16的矩阵以及经过GAV计算後得到一个1*16的矩阵,如下 https://i.imgur.com/Zq9OZST.jpg 依我对权重与scale与zero point的理解,我的计算如下 https://i.imgur.com/JyBw6nv.jpg 但结果似乎跟tflite真正计算的结果有很大的差异 这是我自己计算的结果 array([[ 63, 12, 8, 31, 67, 32, 16, 16, 34, 2, 51, -15, 66, 43, 64, 5]], dtype=int8) 这是tflite计算的结果 array([[-123, 77, -82, 32, 67, 32, 17, 16, 35, 2, 52, -15, 67, 44, 65, 5]], dtype=int8) 不知道是不是我哪里忽略算错了呢 感谢!! --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 1.161.29.180 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1649204986.A.2AF.html
1F:→ chang1248w: 为啥不全丢截图... 04/09 19:08
2F:→ jack155861: 抱歉 因为最重点的就是 这两张截图的计算啦 04/09 21:08
3F:→ chang1248w: 前三个数字发生什麽事我没有头绪,後面几个的差异是 04/11 20:08
4F:→ chang1248w: 因为你直接把tensor 压进int里 04/11 20:08
5F:→ chang1248w: 印象中不管是tf还是np都是做无条件舍去 04/11 20:08
6F:→ chang1248w: 中间补个round吧 04/11 20:09







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Boy-Girl站内搜寻

TOP