DataScience 板


LINE

自己文章自己回XD 感謝推文版友提供的建議,我後來差不多就是那樣做的 我覺得 TFRecords 相關的東西很複雜,而且文件不全或是很費解, 在踩了一堆坑之後想在這邊留個紀錄給剛開始碰的人看, 包含 TFRecords 和 multiple input 的東西 因為我不是 CS 背景,如果我有理解錯再麻煩大家跟我說 1. TFRecords 只是一個檔案格式,就像 json 或 pickle 2. TFRecordDataset 是一個 TF 物件,可以直接餵進 .fit() 內建記憶體管理防止 RAM 爆掉、有方便的 chaining method 可以做 shuffle 等操作 例如 dataset.shuffle().batch() 有一個實用的是 prefetch(), 可以提早把資料移動到 GPU, 加快速度 總之可以說製作 dataset 的目標就是得到一個 TFRecords Dataset 3. 製作 TFRecordDataset 的大致流程如下 a. 先拿好需要的數據,可以是一個 numpy array 或是其它格式 b. 把需要的數據用 writer 寫成 TFRecords,這邊要定義好數據欄位 c. 寫一個 parse function 讀取 b,這邊一樣要提供數據欄位,而且要跟 b 一樣 我在這邊遇到一個問題是,parse function 沒辦法讀取 TFRecords 後來採取的解法是在寫入的時候把數據都先 .tolist() 這邊也是一知半解,但暫時沒有去深究 4. 如果有 multiple input, 在 parse function 的地方可以先把 input 寫成 dict, 例如我的輸出是 x, y 但是 x 是 {"x0": [1,2,3,4,5], "x1": [1,2,3,4,5]} 這樣的形式 5. 如果使用 keras.Input, 在 name 欄位要和上面的 x0, x1 一致 6. keras.Model 可以吃 multiple input 或輸出 multiple output, 方法是像這樣: keras.Model([x0, x1], y) 最後推薦 Hands-on Machine Leanring with Scikit-Learn, Keras & TensorFlow 這本書上對於 TFRecordDataset 有滿詳盡好懂的內容 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 109.58.161.252 (丹麥)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/DataScience/M.1615455910.A.F00.html ※ 編輯: Sheepforpart (109.58.161.252 丹麥), 03/11/2021 17:46:54
1F:推 st1009: 謝謝大大無私的分享 03/11 23:18
2F:推 joe120519: 感謝分享 03/13 18:37
3F:推 janus7799: 以前有寫TFRecord的簡單操作教學,分享給大家當參考資 03/14 16:37
4F:→ janus7799: 料。 03/14 16:37
5F:→ janus7799: https://link.medium.com/XLyaOzNaCeb 03/14 16:37







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:Gossiping站內搜尋

TOP