【iThome新聞】AI領先者的決斷

來源
iThome新聞

內容
「要訓練出媲美ChatGPT的對話水準,就算玉山投入所有算力,也要一到兩年才能訓練出LLM模型。」玉山金控科技長張智星指出,去年3月初,ChatGPT API一發布,玉山AI團隊就馬上開始評估,決定先用KYC調查中負面新聞查詢的重點整理和摘要來測試,發現效果不錯,也替作業人員省下不少時間。但問題來了,當時若不是採用雲端企業級的ChatGPT服務,就得自行訓練LLM模型。要不要自己訓練LLM?成了關鍵的抉擇。
因為算力不夠,玉山要自行訓練LLM模型得花上2年,但是可以擁有最大的自主權,若是採用業者的LLM服務,雖然可以快速上手,但得考慮綁定風險,還有金融業諸多嚴格的法遵和資安規範。