台灣人工智慧實驗室與群聯電子強強聯手,提供台灣多模態、多專家FedGPT一體機解決方案

  【2024年3月27日】台灣人工智慧實驗室(Taiwan AI Labs)創辦人杜奕瑾與群聯電子執行長潘健成,今(27)日於「AI EXPO Taiwan 2025」針對AI發展趨勢深入對談。雙方將攜手推動具備多模態、多專家能力的FedGPT軟硬整合一體機方案,讓企業建立以aiDAPTIV+技術平台為基礎的純地端部署,可信任的能源永續生成式AI(ReGenerative AI)解方,普及真正能落地、成本可掌握、符合ESG、台灣專業知識與國際AI法規的企業級應用。

圖說 台灣人工智慧實驗室(Taiwan AI Labs)創辦人杜奕瑾(右)與群聯電子執行長潘健成(左)於「AI EXPO Taiwan 2025」針對AI發展趨勢深入對談。

杜奕瑾進一步表示,2025年軟硬體AI基礎架構進步,企業可以藉由台灣人工智慧實驗室訓練的落地基礎模型,運用台灣人工智慧實驗室企業級聯邦式GPT(FedGPT)平台,建構企業內部專屬的專家模型 (Domain Expert Models)

他提到,「2025年是永續 AI(ReGenerative AI)元年,台灣AI產業,可藉由台灣軟硬體優勢結合,FedGPT平台能在產業學習內部知識,不需連外網、不需訂閱服務。就可建立多專家、多模態模型。FedGPT對標國內外先進AI法規、驗證需求與ESG節能減碳規範,同時控制企業運營成本,建立ROI最高的企業專屬多專家、多模態大腦。與群聯共同發展軟硬韌體先進技術,做到單一機器全參數模型訓練、也可多專家、多模態模型同時服務。」

2024法規治理與聯邦式AI開源民主化後、2025年永續AI將為趨勢,由台灣人工智慧實驗室開發的 FedGPT,是台灣團隊幫助企業建立專屬落地模型解決方案,打造的繁體中文聯邦式生成式AI。其訓練過程涵蓋1,000億繁體中文語料,並整合150億醫療語料、10億商業、金融與法規資料,經台灣實際場域淬鍊,實現輕量化與節能設計,同時在多個專業領域展現優異效能,快速達成「以有限資源,達成謹言慎行的內行專業模型,取代傳統大型網路八卦模型」的應用價值。

潘健成則表示,AI硬體技術未來將朝高效能、低功耗與可擴展方向前進。群聯電子獨家專利研發的aiDAPTIV+方案,整合硬體與軟體,致力降低邊緣地端AI部署門檻且保護用戶的資料隱私不外洩。該方案將SSD整合進AI計算框架,運用專利技術讓SSD擴充部分AI運算所需的DRAM,配合一般GPU即可運行大型語言模型微調訓練 (Fine-tuning),進而有效降低AI伺服器建構成本,使更多企業得以部署生成式AI,更重要的是,企業在邊緣地端訓練AI可確認資料隱私。

此外,群聯在推動生成式AI應用過程中也發現,不少企業對AI應用感到陌生,也缺乏熟悉產業應用的AI人才。呼應這點,杜奕瑾指出,FedGPT是一套標準工具,讓各行各業皆可以此為基礎,訓練適用自身領域的專屬模型。他比喻,FedGPT的預訓練模型就如同人才在「Taiwan AI Labs研究所」取得博士學位後,進一步進入特定產業深耕。主修金融的博士走進金融業,醫學博士則進入臨床現場。AI模型進入產業後,也能透過FedGPT平台工具增加內部知識、透過內部資料再訓練各種專業模型。從「校園畢業生」走向「內部專才」,才能真正發揮在各行各業的價值。

自2024年FedGPT上市以來,在金融、醫療、教育、公部門等多個領域,已經累積多個成功落地案例。在醫療領域,花蓮慈濟醫院採用FedGPT輔助醫院流程;在金融業,與台新金控攜手合作打造 「台新腦」;教育部分,則獲東華大學採用,打造對話式AI校務助理「NDHU-GPT」。

 

台灣人工智慧實驗室與群聯電子合作研發的技術方向,包含:

  • 促進AI永續與全產業化:賦能使用者依自身需求,降低技術與設備門檻,讓AI專業模型的建構與應用全產業化。此外,利用台灣已經建立的通用型大型模型為基礎,台灣人工智慧實驗室與群聯電子攜手,在群聯aiDAPTIV+方案與FedGPT平台的AutoML、AutoKB基礎上,讓企業可以自行不連外網之下,也可依照任務需求打造的「專家模型」與「內部知識庫」。做到全產業化專家模型。
  • 推廣資料與隱私正義,協助資料標準化及聯合學習普及化:過去企業為了要進入人工智慧領域,往往會喪失資料自主性進而被平台綁架。FedGPT所搭載的聯合學習平台(Federated Platform, FP)除了是企業內部的平台,同時具備分散式機器學習技術,能讓多個單位在「不需要分享原始資料」的情況下,共同參與AI多模態多專家模型的訓練與精進。平台可同時讓不同企業專屬大腦在企業同意之下,結合跨領域跨組織的經驗訓練模型,同時不會讓營業秘密、客戶資料、隱私資料外流。
  • 主動適足國際先進法規、資料隱私與資訊安全:在未來產業供應鏈,可信任是未來產業最強的品牌價值,群聯與台灣人工智慧的合作雙方的合作是基於台灣在地的技術團隊,完整提供可符合全球法規,如歐盟人工智慧法案(AI Act)治理、GDPR隱私法規與ISO資安驗證需求的解決方案。
  • 最佳化企業AI速度與成本效益:雙方將共同推動企業可控合理的軟硬體架構,目標為有效降低AI導入的資金壓力、移除不確定風險、降低時間與成本。搭載台灣人工智慧實驗室的FedGPT平台與群聯電子整合的地端生成式AI解決方案aiDAPTIV+,以一體機、純地端的方式,不需要AI專業人員、不需訂閱外部服務,費用合理可控,即可為企業建立企業專屬大腦。降低導入門檻,協助企業快速部署並未來彈性擴充。

未來,雙方將針對不同行業進行研發、並推出企業專屬AI純落地解決方案,促進生成式AI技術全產業的應用。


圖說 台灣人工智慧實驗室(Taiwan AI Labs)與群聯電子執行長將攜手推動具備多模態、多專家能力的FedGPT軟硬整合一體機方案,讓企業建立以aiDAPTIV+技術平台為基礎的純地端部署,可信任的能源永續生成式AI(ReGenerative AI)解方,普及真正能落地、成本可掌握、符合ESG、台灣專業知識與國際AI法規的企業級應用

 


圖說 ​​台灣人工智慧實驗室(Taiwan AI Labs)創辦人杜奕瑾(右)與群聯電子執行長潘健成(左)於「AI EXPO Taiwan 2025」合影。



關於台灣人工智慧實驗室(Taiwan AI Labs)

台灣人工智慧實驗室 (https://ailabs.tw)  在可信任AI的宗旨下,有效結合生成式AI,推出智慧醫療、 聯合學習、AI虛擬主播、未來場景生成攝影棚、新聞分析平台等解決方案。在人機介面領域,發展AI音樂藝術生成及語音辨識、語意理解等技術,應用於現今最受世界關注之假訊息、假新聞操作議題,觀察資訊操作的脈絡,相關成果在國際間興起熱烈討論,並屢獲國際權威期刊認證及刊登。

台灣人工智慧實驗室的研究持續走在世界前沿,期望集結 AI 國家隊,整合人才、資源、產業鏈,建立台灣聯合學習產業大聯盟,從公有雲與私有雲聯邦式解決方案,推廣到全世界。

 


關於群聯電子 (Phison Electronics Corp.)

群聯電子 (Phison Electronics Corp.) (TPEX:8299) 為全球快閃記憶體(NAND Flash)控制晶片及儲存解決方案領導廠商。身為快閃記憶體專家,從IP技術授權、晶片設計、系統架構解決方案、系統整合、成品,提供不同需求的客戶最佳的產品及服務。在各項產品類別上,包括SSD (PCIe/SATA/PATA)、eMMC/UFS、SD、或是USB介面皆可提供完整的儲存解決方案,客戶應用亦遍及各類消費性電子、企業級、以及工業車用。在標準制定上,群聯電子擔任SDA、ONFI、UFSA的董事會成員,並積極貢獻JEDEC、PCI-SIG、MIPI、NVMe、IEEE-SA等規範。

 


媒體聯絡人

台灣人工智慧實驗室 PR

陳莞欣 Ellie Chen

Mail:wanhsin.chen@ailabs.tw

群聯電子 代理發言人

呂國鼎 Kuo-Ting Lu

Mail:kuoting_lu@phison.com