機器學習開發流程與參數調校

機器學習開發流程與參數調校

深智數位資訊講堂2021-08-26 15:31

深度學習-最佳入們邁向AI專題實戰 看更多請點我

一般來說,機器學習開發流程(Machine learning workflow),有許多種建議的模型,例如資料探勘(Data Mining)流程,包括CRISP-DM (cross-industry standard process for data mining,)、Google Cloud建議的流程...等,個人偏好的流程如下:

概分為10個步驟,不含較高層次的企業需求瞭解(Business Understanding),只包括實際開發的步驟:

  1. 蒐集資料,彙整為資料集(Dataset)。
  2. 資料清理(Data Cleaning)、資料探索與分析(Exploratory Data Analysis, EDA):EDA通常是以描述統計量及統計圖觀察資料的分佈,瞭解資料的特性、極端值(Outlier)、變數之間的關聯性。
  3. 特徵工程(Feature Engineering):原始蒐集的資料未必是影響預測目標的關鍵因素,有時候需要進行資料轉換,以找到關鍵的影響變數。
  4. 資料切割(Data Split):切割為訓練資料(Training Data)及測試資料(Test Data),一份資料提供模型訓練之用,另一份資料則用在衡量模型效能,例如準確度,切割的主要原因是確保測試資料不會參與訓練,以維持其公正性,即 Out-of-Sample Test。
  5. 選擇演算法(Learning Algorithms):依據問題的類型選擇適合的演算法。
  6. 模型訓練(Model Training):以演算法及訓練資料,進行訓練產出模型。
  7. 模型計分(Score Model):計算準確度等效能指標,評估模型的準確性。
  8. 模型評估(Evaluate Model):比較多個參數組合、多個演算法的準確度,找到最佳參數與演算法。
  9. 佈署(Deploy):複製最佳模型至正式環境(Production Environment),製作使用介面或提供API,通常以網頁服務(Web Services) 作為預測的API。
  10. 預測(Predict):用戶端傳入新資料或檔案,系統以模型進行預測,傳回預測結果。

其中第8個步驟 -- 模型評估(Evaluate Model),要比較多個模型的效能,可能是採用不同的演算法或不同的超參數(Hyperparameter),如果是後者,要如何取得最佳參數值呢? 如要同時調校多個超參數,有一些套件可以幫忙,包括Keras Tuner、hyperopt、Ray Tune、Ax…等。本文介紹Keras Tuner,步驟如下:

 

可以設置一些參數組合,每一組合建立一個模型,再比較各個模型的效能,參數測試範圍的設定有下列方式:

  • Boolean:真/假。
  • Choice:多個設定選項。
  • Int/Float:整數/浮點數的連續範圍。
  • Fixed:測試所有參數(tune_new_entries=True),除了目前的參數,也可依賴其他參數(parent_name)的設定。只有當其他參數值為特定值時,這個參數才會生效。
  • conditional_scope:條件式,類似Fixed,依賴其他參數,只有當其他參數值為特定值時,這個條件才會生效。

測試方法(Tuners)有下列幾種,可擇一使用:

  • Hyperband:測試所有組合。
  • RandomSearch:若測試範圍過大,可隨機抽樣部份組合,加以測試。
  • BayesianOptimization:搭配高斯過程(Gaussian process),依照前次的測試結果,決定下次的測試內容。

測試結果如下圖表,可觀察每一參數組合的優劣,選取其中的最佳參數組合。

 

相關程式可詳閱『深度學習-最佳入們邁向AI專題實戰』一書說明。

熱門文章
女星台中出遊住摩鐵…進房間5分鐘突頭痛 「上網一查傻了」連夜回彰化
女星台中出遊住摩鐵…進房間5分鐘突頭痛 「上網一查傻了」連夜回彰化

CTWANT

接機「一錯誤舉動」害BA.5入侵社區!   羅一鈞公布接機新5大規範
接機「一錯誤舉動」害BA.5入侵社區! 羅一鈞公布接機新5大規範

匯流新聞網CNEWS

藝能界的哀慟!細數在2022過世的名人 這對兄弟半年內先後離開
藝能界的哀慟!細數在2022過世的名人 這對兄弟半年內先後離開

四季線上4gtv

盤點/余苑綺「為母則強」為2兒挺70次化療抗癌 瘦成骷髏人照搶業配扛家計
盤點/余苑綺「為母則強」為2兒挺70次化療抗癌 瘦成骷髏人照搶業配扛家計

CTWANT

小暑禁忌一次看!3生肖健康恐亮紅燈 冷氣吹整天也不行
小暑禁忌一次看!3生肖健康恐亮紅燈 冷氣吹整天也不行

TVBS新聞網

黃嘉千驚爆16年婚變 傳暑假後與夏克立「法院見」打離婚官司原因曝
黃嘉千驚爆16年婚變 傳暑假後與夏克立「法院見」打離婚官司原因曝

CTWANT

斷魂望高寮!19歲男大生騎車看夜景 自摔「牙齒噴飛」頭顱變形慘死
斷魂望高寮!19歲男大生騎車看夜景 自摔「牙齒噴飛」頭顱變形慘死

CTWANT

恭喜!李沛旭結婚 曬愛妻超閃對戒 曝喜訊李先生&李太太
恭喜!李沛旭結婚 曬愛妻超閃對戒 曝喜訊李先生&李太太

SETN三立新聞網

車停路邊警報器響不停 警查看赫見肚子撐爆腐屍
車停路邊警報器響不停 警查看赫見肚子撐爆腐屍

CTWANT

黃嘉千也陷《爸爸去哪兒》魔咒?開播9年已有「3對夫妻離婚」
黃嘉千也陷《爸爸去哪兒》魔咒?開播9年已有「3對夫妻離婚」

CTWANT

演唱會倒數…羅志祥突就醫 經紀人揭原因:痛3天沒講
演唱會倒數…羅志祥突就醫 經紀人揭原因:痛3天沒講

CTWANT

特斯拉爽睡不夠!男國道飆246公里炫耀:台北台中46分鐘
特斯拉爽睡不夠!男國道飆246公里炫耀:台北台中46分鐘

TVBS新聞網

3凶星逆行!命理師曝「這16天超衰」禍難躲殺傷力強
3凶星逆行!命理師曝「這16天超衰」禍難躲殺傷力強

TVBS新聞網

7-11早餐減肥怎麼吃?營養師推薦7種低脂搭配,除了無糖豆漿和沙拉,還可以這樣吃!
7-11早餐減肥怎麼吃?營養師推薦7種低脂搭配,除了無糖豆漿和沙拉,還可以這樣吃!

Bella.tw儂儂

吃比薩不用等週末!必勝客平日優惠週一至四外帶大比薩只要199元起7/25截止
吃比薩不用等週末!必勝客平日優惠週一至四外帶大比薩只要199元起7/25截止

威傳媒

看仔細!醫曝猴痘患者房間病毒分布 這2個地方爆量
看仔細!醫曝猴痘患者房間病毒分布 這2個地方爆量

上報Up Media

《原子少年》來了!「TDI台灣夢幻學院」首期新生開學 林毓家代表學員致詞
《原子少年》來了!「TDI台灣夢幻學院」首期新生開學 林毓家代表學員致詞

凱渥 CatWalk

「潭中惡霸」魚虎入侵高雄驚見「死亡泡泡」 疑遭放生害慘全池原生種
「潭中惡霸」魚虎入侵高雄驚見「死亡泡泡」 疑遭放生害慘全池原生種

CTWANT

長新冠症狀逾半出現疲倦 跨科別「整合門診」定期追蹤
長新冠症狀逾半出現疲倦 跨科別「整合門診」定期追蹤

NOW健康

確診新冠真「沒半髮」?  7成康復者有掉髮風險!  重症醫曝:慎防「3大禿頭型態」
確診新冠真「沒半髮」? 7成康復者有掉髮風險! 重症醫曝:慎防「3大禿頭型態」

潮健康

兒童腦霧怎麼辦?醫建議補充「這個」抗發炎 症狀持續4周去就醫
兒童腦霧怎麼辦?醫建議補充「這個」抗發炎 症狀持續4周去就醫

TVBS新聞網

車停路邊警報器響不停 警查看赫見肚子撐爆腐屍
車停路邊警報器響不停 警查看赫見肚子撐爆腐屍

CTWANT

【飯店夏季線上旅展】住大倉久和一晚 3 千有找!礁溪晶泉丰旅「一泊二食住宿券」享壽喜燒吃到飽
【飯店夏季線上旅展】住大倉久和一晚 3 千有找!礁溪晶泉丰旅「一泊二食住宿券」享壽喜燒吃到飽

上報Up Media

夏天喝啤酒消暑等同「直接喝油」?  營養師警告:一天2瓶熱量就超標
夏天喝啤酒消暑等同「直接喝油」? 營養師警告:一天2瓶熱量就超標

潮健康

射手座走心深陷其中!盤點最容易暈船星座Top5,巨蟹座默默奉獻認定對方,小心別把曖昧錯當喜歡
射手座走心深陷其中!盤點最容易暈船星座Top5,巨蟹座默默奉獻認定對方,小心別把曖昧錯當喜歡

Bella.tw儂儂

全臺史上第一 高空跳傘臺東熱血登場
全臺史上第一 高空跳傘臺東熱血登場

爽爆新聞網

彰化產業道路突被丟「大型廢棄物」 警消獲報一看竟是刺青男陳屍草叢
彰化產業道路突被丟「大型廢棄物」 警消獲報一看竟是刺青男陳屍草叢

CTWANT

影/一人確診全家人都中鏢!空氣清淨機、冷氣空調成病毒傳染途徑
影/一人確診全家人都中鏢!空氣清淨機、冷氣空調成病毒傳染途徑

觀傳媒

58
0
分享