羅廷瑋 質詢 吳誠文、涂君怡：本土語言模型、生成式AI、企業AI訓練
2024/5/23，立法院第11屆第1會期教育及文化委員會第13次全體委員會議（事由：一、邀請國家科學及技術委員會主任委員吳誠文列席報告業務概況，並備質詢。 二、審查113年度中央政府總預算有關國家科學及技術委員會主管預算(公務預算)解凍案7案。 【5月22日及23日二天一次會】）
委員詢問國科會本土大型語言模型的訓練資料、與國際模型的差距及產業應用，並要求研議企業訓練方案與中小企業可用的簡易工具。官員表示國科會目前以微調及持續訓練為主，並將鼓勵學界投入。
- 要求國科會研議企業大型語言模型訓練方案。
- 要求發展適合中小企業使用的簡易大型語言模型訓練工具。
摘要由 AI 依質詢逐字稿整理，可能有誤，以影片為準。
問答重點
- 接任主委後的執行風格及政策重點為何？／國家科學及技術委員會 主任委員 吳誠文：主委任內除延續科技產業研發與推動，也會運用科技協助社會文化提升及各行各業。
- 主委有沒有使用生成式AI？／國家科學及技術委員會 主任委員 吳誠文：主委個人用過生成式AI，但還不是很滿意。
- 主委對生成式AI不滿意，是使用過程不滿意嗎？／國家科學及技術委員會 主任委員 吳誠文：主要是要了解生成式AI的能力與限制，其統計式方法無法保證答案百分之百準確。
- 主委會使用生成式AI的指令咒語嗎？／國家科學及技術委員會 主任委員 吳誠文：目前沒有使用相關咒語。
- IC新創計畫半年來的具體執行狀況如何？／執行秘書：已開始全球徵案競賽規劃，並於年底之前再向委員報告整體狀態。
- 計畫半年來做了什麼，接下來有沒有具體方向與進展？／國家科學及技術委員會生命科學研究發展處 副處長 涂君怡：5月14日啟動Grand Challenge，6月30日結案，目前正與相關半導體領域單位促案。
- 主委在ChatGPT剛問世時有沒有使用過？／國家科學及技術委員會 主任委員 吳誠文：有使用過。
- TAIDE模型的資料庫來源來自哪一國？／國家科學及技術委員會 主任委員 吳誠文：資料是在臺灣本土收集的。
- 以Llama 2為基礎的模型是否已有簡體中文資料？／國家科學及技術委員會 主任委員 吳誠文：簡體中文資料可能存在。
- 若要重新訓練繁體中文模型，臺灣目前的GPU數量足夠嗎？／國家科學及技術委員會 主任委員 吳誠文：正在努力加速建置運算資源；國網中心有72片H100，另有臺灣杉二號的V100運算資源。
- 繁簡中文訓練資料比例如何，TAIDE與ChatGPT及Google模型的差距在哪？／主任：簡體與繁體比例沒有精確統計；與大型模型相比，TAIDE採微調及持續預訓練，確實有差距。
- TAIDE 7B還計畫用於哪些具體產業？／執行秘書：目前醫療體系有表達使用TAIDE的興趣；不同專業需要用不同資料訓練。
- 主委能否答應研議適合中小企業訓練LLM的簡易工具？／國家科學及技術委員會 主任委員 吳誠文：會鼓勵學界努力做企業LLM訓練方案。
官員答應的事
- 執行秘書：向委員報告IC新創計畫的整體狀態（期限：年底之前）
問答重點與官員答應的事由 AI 依立法院公報整理，可能有誤，以影片與公報為準。
引用：羅廷瑋委員質詢，2024-05-23，立法院第11屆第1會期教育及文化委員會第13次全體委員會議。立法院議事轉播 IVOD 152917：https://ivod.ly.gov.tw/Play/Clip/1M/152917；立法院公報第 113 卷第 50 期（第 1 冊），第 155–216 頁。