東華大學攜手Taiwan AI Labs,半年讀1,000萬字打造東華萬事通AI

【2025年1月23日】國立東華大學與台灣人工智慧實驗室(Taiwan AI Labs)於2025年1月23日舉行聯合記者會,宣布雙方共同合作打造AI校務助理「NDHU-GPT」的合作成果。GPT不僅為全校教職員省下近1,000小時的重複問答、加速校務行政效率,更如同充滿智慧的萬事通,以正確、無偏見的知識,回應學生校園生活的疑難雜症。

杜奕瑾指出,本次與東華大學的合作,校方採用台灣自行開發、訓練的落地式大型語言模型 FedGPT平台,打造全校1萬多位師生專屬的對話式GPT。訓練過程中,FedGPT的知識來源超過5000份文件。上至招生規定、選課說明、外籍生如何申請健保,下至學校內午餐要吃什麼、宿舍有沒有掃把⋯⋯等。散落在各處室的重要資訊、資深東華人才懂的校內歷史,悉數收入GPT資料庫中。

圖說 台灣人工智慧實驗室創辦人杜奕瑾(左)與東華大學校長徐輝明(右)合影。


2024年,東華大學與台灣人工智慧室合作,導入AI校務助理一學期,預估效益包括

節省1,000小時校務人員訓練時間:NDHU-GPT的知識來源涵蓋超過1,000萬字。若要訓練校務人員熟悉這些文件、可以妥善回答相關問題,需超過4個月才能完成培訓。(備註一)。

24小時上線,立即回覆正確資訊:GPT能立即處理並整合超過數千萬字的資訊,為學生與行政人員提供即時、準確的解答。以新生入學為例,在一學期內,GPT每天24小時運作,回應新生的疑難雜症,累計已經處理超過1,000則問答,大幅減少學生等待時間並提升解決問題的效率。

此外,NDHU-GPT還支援繁體中文、英文對話,讓初到臺灣的外籍生跨越語言障礙,取得在東華大學學習、生活所需的必要資訊,像是如何註冊、申請健保、獎學金資訊等。

以一般境外生入學必問的健保申請問題為例,由於語言差異、申請規定繁瑣,過去平均每個詢問需由行政人員或導師花近1小時耐心解釋。每年近1千位境外生的提問,相當於每學期花費125人的工作天。GPT協助後,光是健保流程,每學期即可省下125人/工作天,提升校務行政效率。(備註二)

約會去哪、被分手怎麼辦都問他!FedGPT打造大學專屬校務助理

杜奕瑾也強調,FedGPT是專屬於企業、組織的「大腦」。無需連結到外部公有雲,不受與組織無關的知識污染。AI校務助理進入校園,逐步學習大學知識,就像一位訓練有素、對組織忠誠的員工,能正確又快速地回答校務問題,且絕不外洩師生的機敏資訊。

以東華學生常見的校園生活問題,實際詢問開源大型語言模型和NDHU-GPT,即可看出兩者差異。例如,當問及「我沒有機車,在校園有接駁車嗎?」,前者僅能粗略指引使用者上校方官方網站查詢,NDHU-GPT則可根據校內資料,正確答覆接駁車的路線。

在教育領域,可信任的 AI 尤其重要。然而,許多開源AI 模型的訓練素材來源於未經嚴格篩選的網路內容,在回答校務問題時,容易答非所問,甚至「一本正經地胡說八道」像是詢問「東華最美麗的約會勝地是哪裡?」,開源大型語言模型可能出現幻覺提供錯誤資訊,NDHU-GPT則會根據官方資訊回覆。

此外,台灣人工智慧實驗室在訓練FedGPT時,也特別設計保護功能,阻隔種族、性別、地區、貧富差距歧視、髒話、色情等言詞,確保GPT 可生成合宜、適合教育場域的內容。

記者會上現場示範,以網路論壇上大學生的發文詢問GPT:「到花蓮念書,是不是好山好水好無聊?」、「過年前夕,我被分手了,誰可以幫我?」、「我考好爛,成績單可以不寄回家嗎?」NDHU-GPT的都能給出適切的建議,例如回覆花東值得探索的景點、正面引導學生尋求相關資源協助,如同一位溫暖的前輩,陪伴學生走過校園生活中的喜怒哀樂。

圖說 AI校務助理NDHU-GPT每日24小時運作,回答學生關於校園生活的疑難雜症。

產學合作推動智慧校園,培育新AI世代人才

東華大學校長徐輝明表示,在2024年的世界創新大學排名(World University Rankings for InnovationI)中,東華在全球千所大學中名列第86名,在「生成式AI應用」項目中更取得全球第11名的優異成績。隨著AI時代來臨,東華大學始終秉持著前瞻的精神,全力推動智慧校園。

徐輝明表示,東華大學跟台灣人工智慧實驗室合作的AI校務助理,是智慧校園願景的第一步。下一階段,雙方將近一步深化合作,在各學院導入AI課程、建置AI助教、整合產官學界資源,培育未來產業所需的AI人才。在導入工具的同時,也著力於培養學生的AI素養,讓年輕世代學會以負責任的方式與AI協作,在知識殿堂中,更加自信地穩步前行。

備註一:平均每份文件 2,000字,合計超過5,000 份文件,約1,000萬字,人工閱讀以每小時 10,000 字計算,要讀1,000小時,每天讀8小時需近125天。
備註二:假設近1000名境外生每人問1小時,每個工作天8小時,1,000/8=125。

關於FedGPT

FedGPT (https://yating.tw/zh-hant/fedgpt-landing)是台灣人工智慧實驗室開發的落地式的大語言模型技術,由台灣自建的LLM技術,收集超過1000億token的繁體中文語料來訓練GPT。注重讓 FedGPT 的回答要有所本的回答,基於內部建立的知識庫或透過聯合學習的聯盟驗證方式來達到可信任AI模型。落實可信任負責任的科技原則,保障資訊安全。

關於台灣人工智慧實驗室(Taiwan AI Labs)

台灣人工智慧實驗室 (https://ailabs.tw)  在可信任AI的宗旨下,有效結合生成式AI,推出智慧醫療、 聯合學習、AI虛擬主播、未來場景生成攝影棚、新聞分析平台等解決方案。在人機介面領域,發展AI音樂藝術生成及語音辨識、語意理解等技術,應用於現今最受世界關注之假訊息、假新聞操作議題,觀察資訊操作的脈絡,相關成果在國際間興起熱烈討論,並屢獲國際權威期刊認證及刊登。

台灣人工智慧實驗室的研究持續走在世界前沿,期望集結 AI 國家隊,整合人才、資源、產業鏈,建立台灣聯合學習產業大聯盟,從公有雲與私有雲聯邦式解決方案,推廣到全世界。

媒體聯絡人

台灣人工智慧實驗室 PR

陳莞欣 Ellie Chen

Mail:wanhsin.chen@ailabs.tw

 

《2025台灣AI產業年會》以繁中打造全球第一個聯邦式GPT 杜奕瑾:台灣在全球AI賽局勝出的3大關鍵

【2024年1月22日】生成式AI熱潮席捲全球,2025年成為企業轉型與創新的核心驅動力。台灣人工智慧實驗室今(22)日舉辦2025台灣AI產業年會,與會者包括台灣人工智慧實驗室創辦人杜奕瑾、科技部前部長暨台灣大學名譽教授陳良基、臺北醫學大學董事長陳瑞杰、中華民國資訊軟體協會理事長沈柏延等,共同討論從後生成式AI(Gen AI) 、全球通用人工智慧(AGI)戰局到永續AI(Regenerative AI),為台灣企業打造突破競爭的成功策略,樹立全球AI版圖中的關鍵地位。

圖說 2025台灣AI產業年會「大師對談」主持人與對談人,由左至右為:台灣人工智慧實驗室內容執行長黃兆徽、科技部前部長暨台灣大學名譽教授陳良基、臺北醫學大學董事長陳瑞杰、中華民國資訊軟體協會理事長沈柏延、台灣人工智慧實驗室創辦人杜奕瑾。

2025 全球AGI競賽時代:台灣機會與挑戰

根據Statista資料庫統計,2025年全球AI市場規模預計將達到2437億美元。與會專家指出,2025 AI發展要從GenAI到AGI,有數項重要趨勢,包括領域專精(Domain Expert)、主動發掘(Issue-Awaring)與主動修正(Self-Improving)。

未來的GPT將不像整天只沈浸網路推播資訊的通才,什麼都懂卻又什麼都不專精。產業需要的GPT是能根據組織需求、量身打造,具備深厚的專業知識,不僅能在特定領域中提供精準解決方案,還具備自我意識,可自主學習、解決問題並優化效能,適應多變的環境。

然而,生成式AI雖發展迅速,開發成本亦相當可觀。以微軟OpenAI為例,ChatGPT-4 最新版開發成本約為 4100 萬美元至 7800 萬美元。這些花費主要來自訓練大型AI模型所需的硬體和運算成本。另一科技巨頭Meta使用超過1.6萬張H100 GPU訓練其新模型,耗時45天,並計劃在2024年購買35萬張GPU。顯示生成式AI雖具潛力,但對一般企業而言入門門檻高、不易使用,推動技術進步需付出的代價高昂。

此外,歐盟人工智慧法案在2024年8月正式生效,逐步實施。法規強化對生成式AI的透明度要求、內容標識義務,違反法案的企業可能面臨高達數千萬歐元、或企業全球營收至高 7%的罰款。2024年底,義大利資料保護管理署 (Garante)認定Open AI 在訓練ChatGPT時,蒐集、儲存個人資料的方式違反《一般資料保護規定》(GDPR)的隱私原則,對其科處超過1500萬歐元的罰金面對新興的法規監理議題,企業又該如何應對

在這場賽局中,台灣提供永續、可信任、負責任的永續AI(Regenerative AI)解決方案,符合國際監管法規的趨勢會是台灣最主要的挑戰,同時也是以軟實力邁向全球機會。

圖說 杜奕瑾指出,提供永續AI解決方案,是台灣以軟實力邁向全球的機會。

AI TEAM Taiwan 如何在全球賽局中勝出?

杜奕瑾指出,2025年的AI賽局中,台灣成為新的「矽島」,讓AI可量產、進入家家戶戶。想成為在市場中引領趨勢、掌握商機的先行者,有3大關鍵:

1.全球電力軍備競賽中,打造可負擔、能源永續的GPT

AI的廣泛應用,促使國際科技大廠紛紛建設資料中心,電力需求上升,背後主因是科技大廠要求使用者將資料上傳至雲端,以使用其AI服務。AI模型的訓練和推論需要極高的計算能力,帶動資料中心的電力消耗快速增長。德勤(Deloitte)預測,以美國為例,資料中心用電量可能從全國總用電量的3%至4%,增至11%至12%。

在這場電力與算力的軍備競賽中,許多國際科技大廠採取建設、收購電廠的策略,確保充足的電力供給。台灣在地緣政治與乾淨網路上能從AI資料中心(AI DC)獲益。杜奕瑾認為,但台灣因先天能源有限,企業在追尋AI便利的同時,需考量企業、社會和環境的外部成本。未來AI模型的趨勢將從傳統大型通用模型,轉向企業最適規模專用模型。以節能減碳最低成本、最高效率,達標企業任務。

「企業不需全知全能的GPT,在特定領域,我們需要的是受專業訓練、謹言慎行的GPT。」杜奕瑾以台灣人工智慧實驗室專門為銀行開發的金融FedGPT專業經驗為例,銀行所需的GPT不是會聊八卦的GPT,而是能專業輔助員工服務銀行客戶的業務助手。

在繁體中文金融知識測試「TMMLU+」中,FedGPT Pro專業版以34B參數超越了搭載70B參數的TW-LLama3和LLama3.1-405B大參數模型,在開啟RAG功能後,許多表現更是超過GPT-4。

此外,FedGPT採用聯邦式資料治理模式,企業可搭配原本內部資料中心建立專屬的FedGPT,無需重複投資雲端資料中心,從而減少為用GPT所造成的資料遷移、重置與能源浪費問題。

2.GDPR、AI ACT上路,跟隨先進法規提早佈局市場

隨著全球市場對數據隱私、AI倫理的意識提升,可預期在2025年,將有更多國家針對AI治理、數據保護,實施更嚴謹的法規管制。無偏見、可解釋的AI,也將成為關鍵議題。企業若忽視此議題,不僅將面臨監管機構的壓力,也可能導致企業形象受損。

杜奕瑾提到,歐盟在2018年實施的《一般資料保護規定》(GDPR)常被誤解為最嚴格的個資法規,2024年上路的《人工智慧法案》(AI ACT)更引發不少企業的焦慮。然而,比起缺乏明確指引導致企業無所適從,清晰的法規反而有助產業健全發展,讓企業知道如何在可信任的框架下使用資料。

「可信任科技是台灣的強項,抗拒是因為不夠了解。」杜奕瑾觀察,歐盟《一般資料保護規定》和《人工智慧法案》的合規要求,正對全球產生深遠影響。只要應用涉及歐盟國籍的使用者,就必須符合其法規,這正是所謂「布魯塞爾效應」。雖然合規初期看似挑戰重重,但不遵循規範將導致競爭力下降。企業愈早採取行動、建立符合先進法規的成果,愈能優先進入全球市場。

他提到,台灣人工智慧實驗室長期倡議的聯合學習模式,組織不必上傳自己的機敏資料至機構外部,即可透過聯合學習平台FedGPT訓練自家的專屬模型,無痛跟上全球法規治理標準

3.率全球之先打造國家級聯邦GPT,聯合學習模式守護企業機敏資料

杜奕瑾指出,台灣在高效能運算(High-Speed Computing)製造方面具備全球領先的實力,有能力訓練強大的 AI 模型。台灣產業與台灣人工智慧實驗室更率先全球,建立了全球第一個國家級聯邦式資料治理平台。今年更建立跨中心機構內部專屬的FedGPT服務,在符合國際AI法規治理之下,為台灣 AI 產業開創主動學習發展的新局面。

聯合學習平台最大優勢,在於允許不同機構在「不分享」原始數據的前提下,資料留在原地、模型參數聚集,達成主動式持續優化模型。在醫療和金融等高度重視數據隱私與合規性的領域,聯合學習不僅能強化隱私保障,也能提升模型的準確性,為行業帶來更大價值。

杜奕瑾比喻,以聯合學習平台訓練專業GPT,就像由專業機構培訓專屬員工到各企業內部任職。專職員工不只專業能力訓練有素,還全心全意待在組織內部,完全不混用外部派遣員工、不洩漏任何工作機密。例如,台灣人工智慧實驗室協助多家銀行以聯合學習平台訓練的鷹眼識詐模型,各銀行的機密資料不出門,不使用任何外部API、一樣可強化GPT辨識詐騙型態的能力,並共享訓練模型的成果。

台灣人工智慧實驗室2025 年展望:FedGPT 新功能與應用場景

2024 年,台灣人工智慧實驗室攜手多個產業合作夥伴,將 FedGPT 引入醫療、金融、教育及多媒體娛樂等領域,針對各產業的核心需求與痛點,助力實現數位化轉型與創新。

2025 年,FedGPT 作為 AI 代理(AI Agent),整合影視音多模態模型(VLM)與自動語音對話技術,具備圖片、影片和音檔解析能力,以及人臉辨識與物件偵測功能,拓展了其在企業場景中的應用範圍。

圖說 台灣人工智慧實驗室攜手多個產業合作夥伴,將 FedGPT 引入醫療、金融、教育及多媒體娛樂等領域。

FedGPT的特色包括:

1.「主動知識庫」(AutoKB)快速將企業內部知識轉化為GPT知識庫,回答專業問題。

2.「主動學習」(AutoML)在基礎模型之上,可建立執行特定任務的專屬模型。

3.「時事分析」(infodemic)2025年將推出的時事分析功能,GPT可即時理解並摘要當前重要議題時事,區分真實輿論以及網路虛假誤導操作,迅速為員工提供準確的市場資訊支持。例如,金融業可藉此建立即時KYB(Know Your Business) 報告,掌握與分析全球市場脈動,優化決策與服務

4.「主動助手」(AutoCopilot)規劃與執行組織內部複雜任務。透過模擬業務情境,搭配企業內部API、知識庫(KB)。可以把企業內部複雜的流程讓GPT學習並自動化。完全部署於組織內部,可藉由GPT學習組織學有專精人員、進而協助新進人員,加速新員工的成長,達成提升工作效率與業績。

「卓越中心計畫」啟動 為台灣培育下一代永續AI人才  

台灣人工智慧實驗室於本次產業年會中亦正式宣布啟動「卓越中心計劃」,目標是透過尖端技術與資源整合,推動全台大專院校的AI應用與人才培育。

計劃首波邀請6位頂尖學者參與,分別為臺灣大學電機系教授李宏毅、資工系教授陳縕儂,臺灣科技大學工業管理系教授許嘉裕、自動化及控制研究所副教授李敏凡,政治大學資管系教授蔡瑞煌,以及東海大學資工系終身特聘教授楊朝棟。

「卓越中心計劃」的要點包括:

  • 推動學術應用與提升研究競爭力

透過台灣自主研發的大型語言模型 FedGPT,鼓勵全台大專院校採用尖端技術,提高學術研究效率,支援文獻摘要、數據分析與資料清理等多元應用,並增強國際研究產出之競爭力,讓台灣在全球AI發展中占有一席之地。

  • 建立台灣AI研究倫理規範,保障資料隱私與著作權

與學術界攜手合作,制定AI學術研究倫理規範,確保AI使用過程符合可信任與負責任的原則。AI模型應保障資料隱私與資料擁有者的著作權,避免使用者上傳資料被平台挪用或侵權,營造值得信賴的AI開發與應用環境。

  • 培育國際級人才,強化台灣AI軟實力

提供便捷且安全的平台與技術支持,助力教師與研究生提升AI技能,並吸引外國優秀人才來台、本國籍頂尖人才回流,進一步強化台灣AI軟實力,創造全球競爭優勢。

關於FedGPT

FedGPT (https://yating.tw/zh-hant/fedgpt-landing)是台灣人工智慧實驗室開發的落地式的大語言模型技術,由台灣自建的LLM技術,收集超過1000億token的繁體中文語料來訓練GPT。注重讓 FedGPT 的回答要有所本的回答,基於內部建立的知識庫或透過聯合學習的聯盟驗證方式來達到可信任AI模型。落實可信任負責任的科技原則,保障資訊安全。

關於台灣人工智慧實驗室(Taiwan AI Labs)

台灣人工智慧實驗室 (https://ailabs.tw)  在可信任AI的宗旨下,有效結合生成式AI,推出智慧醫療、 聯合學習、AI虛擬主播、未來場景生成攝影棚、新聞分析平台等解決方案。在人機介面領域,發展AI音樂藝術生成及語音辨識、語意理解等技術,應用於現今最受世界關注之假訊息、假新聞操作議題,觀察資訊操作的脈絡,相關成果在國際間興起熱烈討論,並屢獲國際權威期刊認證及刊登。

台灣人工智慧實驗室的研究持續走在世界前沿,期望集結 AI 國家隊,整合人才、資源、產業鏈,建立台灣聯合學習產業大聯盟,從公有雲與私有雲聯邦式解決方案,推廣到全世界。

媒體聯絡人

台灣人工智慧實驗室 PR

陳莞欣 Ellie Chen

Mail:wanhsin.chen@ailabs.tw

AI 學姐助新人準時下班,護理師滿意度高達9成!台灣人工智慧實驗室攜手花蓮慈濟,研發成果醫療科技展亮相

【2024年12月6日】亞太最大AI醫療盛會「台灣醫療科技展」開展,花蓮慈濟醫院展示與台灣人工智慧實驗室合作的3大成果:生成式AI FedGPT輔助護理交班、製作入院、出院護理摘要,以及會說太魯閣語的虛擬衛教師,吸引眾人焦點。

花蓮慈濟醫院院長林欣榮表示,「國外慈濟的朋友看到,也覺得台灣走得好前面!」花蓮慈濟醫院是東部唯一醫學中心,護理師人力約1000人出頭,每年來院病患超過80萬人次。與台灣人工智慧實驗室合作後,由FedGPT製作的護理交班、出入院紀錄,生成準確度也超過8成,可減輕護理團隊工作負擔,護理師滿意度高達4.7分(滿分5分)。

圖說 花蓮慈濟醫院院長林欣榮(左)、台灣人工智慧實驗室創辦人杜奕瑾(中)與花蓮慈濟醫院副院長吳彬安(右)合影。

FedGPT做護理交班紀錄,「AI學姊」助新進護理師準時下班

花慈虛擬衛教師的原型、花蓮慈濟醫院護理部主任鍾惠君觀察,在繁忙的醫療現場,對新人挑戰最高的就是「護理交班」。

圖說 台灣人工智慧實驗室創辦人杜奕瑾(左)與花蓮慈濟醫院護理部主任、虛擬衛教師原型鍾惠君(右)合影。

護理交班指的是紀錄病人的病況變化、生命跡象、接下來8小時的照顧重點等資訊,完整而詳細的交付給下一班護理團隊。過往的護理交班多是師徒制,一位護理師需同時整合6、7位病人的資訊,由資深學姊口述資訊,學妹筆記重點。不只考驗新人整理龐雜資訊的能力,手動紀錄也容易有所遺漏。除了影響照顧品質,也變相延長護理師的工時。

現在,只要一鍵按下錄音,由台灣人工智慧實驗室所開發的FedGPT就能根據醫病對話,整理病況資訊、製作交班紀錄,並列出交班事項提醒。哪一床病人該換藥、該檢查,代辦事項都有詳盡的文字紀錄可查看。GPT有如「資深學姊」,不只為學妹完成交班紀錄,還會細心叮嚀別遺漏工作。

圖說 一鍵按下錄音,FedGPT就能根據醫病對話,整理病況資訊、製作交班紀錄。

鍾惠君提到,近年的新人護理師,因為經歷了Covid-19疫情,護理實習大多改為線上進行。新人要獨當一面,往往需要學姊一對一指導3、4個月,甚至也有人需要將近一年的時間。有了FedGPT協助交班,學妹可以更快上手,學姐也能專注於手邊的工作,提高團隊效率。期望藉由AI助力,可達「輕鬆交班新常態,準時下班無障礙」的目標。

最懂醫療的GPT!FedGPT醫療知識理解更勝大模型 

由台灣人工智慧實驗室團隊所打造的FedGPT,是全球首創無縫串接逐字稿 (ASR)、語音生成(TTS)、虛擬主播(Avatar) 以及聯合學習平台 (Federated Platform)的生成式AI。因應醫療場景,團隊蒐集超過150億token(詞元)的生物醫學知識語料,訓練具有生物醫學專業的醫療GPT。

隨著AI應用在醫療領域日漸普及,如何防止AI偏見、保護高度敏感性的醫療數據不外流,也成為各界關注的議題。杜奕瑾指出,台灣人工智慧實驗室長期倡議「保障人權隱私」的AI解方。聯合學習模式應用在醫療場景,可讓各醫院共享模型、不共享資料,確保高度機密的病患資料不外流,但仍可訓練強大的醫療語言模型。

此外,FedGPT「以小博大」,耗費少量算力資源,但以英文醫療驗證集「Open Medical-LLM」測試各家GPT 模型對於醫療知識的理解表現,FedGPT Pro的醫療知識理解表現在同等級 14B 參數模型的表現最優,在醫療領域的表現更與GPT-4相當,甚至勝過22B、34B等更大參數模型。FedGPT節能減碳,可輔助企業與機構更符合ESG永續發展目標。

花蓮慈濟醫院與台灣人工智慧實驗室合作,導入AI輔助護理應用解方已有半年,並根據護理現場的回饋持續優化。例如,虛擬衛教師能提供18種語言的服務,甚至包含全球獨創的太魯閣語,已是一大突破。團隊也留意到病人提出「希望虛擬衛教師笑容更親切」的建議,進一步調整人物表情等細節,致力於打造更有溫度的護理科技。

鐘惠君表示,身為資深護理師,她期待AI引入護理現場後,不只可大幅改善同仁的工作負擔、減輕重複性的勞務,更能賦能病人與新進護理師,提升健康識能、專業職能,「挺護理師,才有未來!」

關於FedGPT

FedGPT (https://yating.tw/zh-hant/fedgpt-landing)是台灣人工智慧實驗室開發的落地式的大語言模型技術,由台灣自建的LLM技術,收集超過1000億token的繁體中文語料來訓練GPT。注重讓 FedGPT 的回答要有所本的回答,基於內部建立的知識庫或透過聯合學習的聯盟驗證方式來達到可信任AI模型。落實可信任負責任的科技原則,保障資訊安全。

關於台灣人工智慧實驗室(Taiwan AI Labs)

台灣人工智慧實驗室 (https://ailabs.tw)  在可信任AI的宗旨下,有效結合生成式AI,推出智慧醫療、 聯合學習、AI虛擬主播、未來場景生成攝影棚、新聞分析平台等解決方案。在人機介面領域,發展AI音樂藝術生成及語音辨識、語意理解等技術,應用於現今最受世界關注之假訊息、假新聞操作議題,觀察資訊操作的脈絡,相關成果在國際間興起熱烈討論,並屢獲國際權威期刊認證及刊登。

台灣人工智慧實驗室的研究持續走在世界前沿,期望集結 AI 國家隊,整合人才、資源、產業鏈,建立台灣聯合學習產業大聯盟,從公有雲與私有雲聯邦式解決方案,推廣到全世界。

媒體聯絡人

台灣人工智慧實驗室 PR

陳莞欣 Ellie Chen

Mail:wanhsin.chen@ailabs.tw

 

 

境外勢力意圖干預美國大選,台灣人工智慧實驗室發布美選全年觀察報告

【2024年12月4日】台灣人工智慧實驗室(Taiwan AI Labs)今(4)日發布美國總統大選前為期一年的協同資訊操作報告,有多項證據顯示存在俄羅斯、中國等境外勢力干預的跡象。境外勢力協同群(troll groups)意圖強化傳播無論選舉結果如何,美國都會被威權政權控制的印象。這種操作手法讓日趨對立的美國政治陣營進一步極化,加劇社會分裂,傷害民主社會。

此外報告使用台灣人工智慧實驗室所開發的認知安全工具Infodemic,分析2023年10月至2024年11月之間,涵蓋FacebookYouTubeX、微博、TikTok……等多個平台的383重點議題戰場(Battlefield)和330篇來自俄羅斯中國官方媒體的報導(State-affiliated media report)。

反猶太境外介選、移民、候選人司法與槍擊案件為主要議題戰場,操作美國衰退敘事

報告發現,2023年10月至2024年6月間,協同群主要聚焦於川普的豁免權爭議與拜登的健康狀況。然而,隨著7月川普遇刺事件的發生,操作重點出現顯著轉向。原先針對最高法院關於川普豁免權裁決的批評,逐漸轉移到推動擁槍議題,並散布川普自導自演或由「深層政府」(Deep State)策劃槍擊事件等陰謀論。

8月期間,這些協同群藉由「美國明尼蘇達州州長華茲(Tim Walz)將成為民主黨副總統候選人」一事,炒作反猶太陰謀論,宣稱猶太人將控制美國政壇。同時,他們藉由「川普與馬斯克在X平台上的直播訪談」事件,指控訪談前遭受的網路攻擊源自德國與加拿大,並以此對比宣傳中國資安防範的即時性與有效性。

到了9月,操作群體進一步炒作外國勢力介入議題。YouTube、Facebook及TikTok上的協同群描繪川普與賀錦麗勾結俄羅斯的形象,而X上的帳號則試圖淡化外界對俄羅斯干預美國大選的擔憂。與此同時,微博上的帳號則同時散布上述兩種論述。

10月,協同操作的重心轉向美國內政,包括候選人健康狀況、非法移民、颶風災害應對,以及富人圖利等議題。11月大選結束後,微博上的操作活動明顯增加,散布美國社會日益分裂及衰退無可避免的敘事,試圖進一步加深社會對立。

協同群呼應官媒敘事,削弱民主聯盟信任關係  

報告指出,協同群呼應官媒的主要操作策略,有3大方向:

  1. 協同群的敘事和策略經常與俄羅斯、中國的官方媒體一致;  
  2. 協同群塑造候選人與俄羅斯勾結的形象,傳播無論選舉結果如何,美國都會被威權政權控制的印象,進一步極化美國政治,加劇社會分裂。協同群的主要策略是指控川普和賀錦麗皆與俄羅斯勾結、批評美國的經濟與外交政策,並利用邊境與非法移民等議題削弱選民對兩黨的信任。 

  3. 除了操作美國內政,協同群也操作了北約協防、歐盟課徵中國電動車關稅、美中關係等國際議題,試圖削弱西方民主聯盟的夥伴關係,並將中國塑造為遭受西方打壓的受害者。  

台灣人工智慧實驗室的報告揭示了協同帳號群資訊操作的演變策略,凸顯出在數位時代,應對此類複雜且跨平台的資訊戰所面臨的挑戰與重要性。

完整報告下載 : One Year Cross-Platform Analysis of Troll Activities and Foreign Influence in 2024 U.S. Presidential Election

關於Infodemic

Infodemic (https://infodemic.cc) 是台灣人工智慧實驗室(Taiwan AI Labs)開發的認知安全工具,可即時監控社群媒體上的資訊,希望透過AI技術來揭露資訊操弄與協同行動、阻絕惡意資訊的傳播,並辨識協同群的策略。

Infodemic平台使用FedGPT (https://fedgpt.cc) 揭露資訊操控、揭示協同行為與惡意資訊的傳播,並能識別協同群的敘事策略。透過該平台的認知安全掃描系統,企業可以驗證任何形式的資訊,例如網址、圖片、影片或文字。只需在該平台輸入資料並啟動掃描,系統就會告知該資訊是否為自然生成,或是否由利用演算法操縱公眾認知的協同行為者所傳播。一旦偵測到協同行動,該平台將揭露協同行為者隱藏的企圖,提供社群媒體機器人(bots)活動的詳細分析。此外,企業也能透過該平台上的圖表掌握資訊戰的複雜局勢、評估其影響,並觀察協同行為者與境外勢力的潛在聯繫。

關於Taiwan AI Labs

台灣人工智慧實驗室 (https://ailabs.tw ) 以開放演算法、原始碼與聯合學習發展國際可信任的研發成果;整合台灣人才、半導體產業鏈優勢,和累積的龐大綜合健康醫療資料,推動智慧醫療、人機介面、生成式AI等領域的人工智慧發展。 

在可信任AI的宗旨下,Taiwan AI Labs有效結合生成式AI,推出智慧醫療、 聯合學習、AI虛擬主播、未來場景生成攝影棚、新聞分析平台等解決方案。人機介面領域,發展AI音樂藝術生成及語音辨識、語意理解等技術,一大應用於現今最受世界關注之假訊息、假新聞操作議題,觀察資訊操作的脈絡,相關成果在國際間興起熱烈討論,並屢獲國際權威期刊認證及刊登。 

新聞聯絡人

台灣人工智慧實驗室 PR

陳莞欣 Ellie Chen

Mail:wanhsin.chen@ailabs.tw

快速啟用可信任AI,機敏資料有保障!台灣人工智慧實驗室多項解決方案上架政府共契平台

2024122日】呼應總統賴清德推動人工智慧島的願景,政府機關逐步導入AI服務,數位發展部更提出5年期政府AI發展戰略計畫,推動自動化行政服務等目標。然而,善用AI優化工作流程之餘,如何確保國民機敏資料不外洩,已是公部門的重要課題。

台灣人工智慧實驗室(Taiwan AI Labs)長期倡議可信任、負責任的AI解方,建立台灣最完整的繁體中文語言模型,提供多項解決方案,入選政府共同供應契約平台服務採購項目,助力公部門在AI時代穩健前行,同時支持台灣人工智慧實驗室與台灣AI產業聯盟的發展。

台灣人工智慧實驗室創辦人杜奕瑾指出,便利的AI技術確實可改善機關人力不足、業務負擔沉重等問題。然而,生成式AI工具若沒有瞭解境外平台使用的風險,缺乏完善的資安資料保護機制,意外讓AI偏見影響認知安全、洩漏組織營業秘密與個資的案例在全球也層出不窮。

2024年4月,網路安全公司UpGuard揭露,美國政府的主要AI承包商在雲端資料庫存放了約550GB的機密數據,且未設置適當的保護措施,以致於民眾可在網路上任意查看、存取,形成國安漏洞。主流通用大型語言模型也可以透過API或與其對話,進而建立相對的資料記憶。透過逆向工程,可回覆機密資料,包括使用者密碼、對話紀錄、簡報內容,對組織的資訊安全將是挑戰。

台灣人工智慧實驗室打造可信任AI解方  國家機密有保障

隨著生成式AI科技的突破,百工百業競相運用人工智慧技術加速組織效率。但一般市面上的主流模型,組織機構須將資料傳上雲端,增加機敏資料外流的風險。台灣人工智慧實驗室所採用的聯邦式GPT技術,則是組織內部專屬GPT,所有機密資料皆保留在組織內部。專用模型、不共享資料,更符合法規嚴謹產業的需求。

杜奕瑾比喻,公部門使用聯邦式GPT,就像擁有一位經驗豐富、記憶力超強的資深員工加入團隊,而不是使用外部國際派遣員工。這位專職員工組織歷練深厚,能力出眾、認真忠誠,全心全意待在組織內部,工作時不混合派遣員工,不會洩漏任何工作機密。

過去,台灣人工智慧實驗室與公部門的多項AI解方合作,皆以「可解釋、可追蹤、可驗證、可審計」為核心精神。

目前,台灣人工智慧實驗室入選政府共同供應契約平台雲端服務的解決方案,包括:

1.FedGPT生成式可信任負責任AI解決方案

FedGPT為台灣人工智慧實驗室自建標準版大型語言模型(LLM),具文本理解、文章摘要功能,可快速解析政策文件、分析民眾意見、新聞輿情,生成重點摘要。另有智慧問答系統,可24小時即時解答民眾疑問,提升公部門服務品質。

2.聯合學習平台(Federated Learning, FL)

FedGPT延伸透過AutoML提供組織訓練增進自己的語言模型外,還可以結合多模態訓練,不需人工智慧專業背景,在金融、醫療以及多媒體等產業,可讓組織透過簡單的步驟訓練各種影像、數值模型。

更進一步,FedGPT搭載聯合學習平台FP,是具隱私保護機制的分散式機器學習方式,允許多個端點在不共享數據的前提下共同訓練AI模型,可應用於跨機構、無需分享資料但共同精進模型。可應用於醫療科技防疫、金融產業詐騙防阻等多種產業情境。

3.雅婷智慧ASR

雅婷智慧ASR是全球第一個精通中文、英文以及台語的語音辨識引擎。AI逐字稿根據語音自動生成精確文字紀錄,完整保留關鍵資訊,適用於教育課程紀錄、內部會議紀錄、公聽會、訪談、法庭紀錄及政策研討會等場景。

4.雅婷智慧AI主播、TTS

雅婷智慧AI主播為台灣人工智慧實驗室的專業AI主播。透過FedGPT整理的資訊,結合TTS文字轉語音模型,可即時生成豐富的影視音節目影片。適用於教學、政令宣導等影音內容製作。

若有採購需求,可登入政府電子採購網瀏覽選購,或連繫 marketing@ailabs.tw 以獲專人服務。

附錄台灣人工智慧實驗室於「政府電子採購網」共契產品平台可勾選之產品項次

1.FedGPT 生成式可信任負責任 AI 解決方案精緻版及附加維運服務版
2.聯合學習平台及附加維運服務版
3.雅婷智慧初階附加套組
4.雅婷智慧高階附加套組

5.雅婷智慧 AI 主播基本、中階、高階版
6.雅婷智慧 ASR 基本、中階、高階版
7.雅婷智慧 TTS 基本、中階、高階版
8.雅婷智慧附加套組


關於台灣人工智慧實驗室(Taiwan AI Labs)

台灣人工智慧實驗室 (https://ailabs.tw)  在可信任AI的宗旨下,有效結合生成式AI,推出智慧醫療、 聯合學習、AI虛擬主播、未來場景生成攝影棚、新聞分析平台等解決方案。在人機介面領域,發展AI音樂藝術生成及語音辨識、語意理解等技術,應用於現今最受世界關注之假訊息、假新聞操作議題,觀察資訊操作的脈絡,相關成果在國際間興起熱烈討論,並屢獲國際權威期刊認證及刊登。

台灣人工智慧實驗室的研究持續走在世界前沿,期望集結 AI 國家隊,整合人才、資源、產業鏈,建立台灣聯合學習產業大聯盟,從公有雲與私有雲聯邦式解決方案,推廣到全世界。

媒體聯絡人

台灣人工智慧實驗室 PR

陳莞欣 Ellie Chen

Mail:wanhsin.chen@ailabs.tw

23國38位國際大使共議AI永續!台灣人工智慧實驗室公開3大研究亮點

【2024年11月4日 高雄訊】生成式AI席捲全球,台灣成為全球焦點,台灣人工智慧實驗室11月2日於高雄研發中心舉辦國際生成式AI首長論壇,由外交部長林佳龍、部長夫人廖婉如帶隊,高雄市長陳其邁、多位局處長與創辦人杜奕瑾共同接待23國、38位邦交國大使、外國駐台辦公室代表,討論建立國際可信任、負責任的人工智慧。

外交部長林佳龍甫表示過去在交通部時期與國發會、Taiwan AI Labs等產官學界合作,共同發起台灣聯合學習產業大聯盟」。疫情期間,台灣在國際率先發表5G、AIoT等先進技術建置數位雙生(Digital Twins)智慧觀光平台。台灣歷經產業AI轉型,如今在全球AI產業中具有舉足輕重的地位。未來更應多與國際盟友合作,讓可信任的AI成為台灣貢獻國際的重要軟實力。如今在聯邦式可信任的技術在醫療金融領域遍地開發,台灣已成為各國國際合作的指標案例。

高雄市長陳其邁表示,台灣人工智慧實驗室創辦人杜奕瑾是他高中學弟。在高雄全球AI永續發展,Taiwan AI Labs率先結合淨零學院建立研發中心,市政府有決心發展AI產業。AI時代帶來的能源永續挑戰,高雄採取行動,將節能減碳AI永續模型成果變成國際永續淨零的指標。藉由與台灣人工智慧實驗室合作,可將AI深度應用於在地的醫療、農業、交通等產業領域,推動城市轉型。

圖說 台灣人工智慧實驗室展示智慧醫療領域重要成果,與國際連結。左起:外交部常務次長陳立國、外交部長夫人廖婉如、外交部長林佳龍、高雄市長陳其邁、台灣人工智慧實驗室創辦人杜奕瑾。

 

論壇中,台灣人工智慧實驗室發表由經濟部輔導,結合高雄市衛生局、高雄多家醫學中心、金屬中心與南部科學園區共同推動的智慧醫療領域聯邦式FedGPT平台重要成果,包括催生國際多國許可認證的醫學中心AI大腦、同時建立永續節能的多模態專用小模型、為美國醫學中心建立醫療資訊系統同時為醫療衛教打造虛擬化身發表多國語自介,向國際社會展示台灣的AI實力。

本次活動,高雄市副市長林懷仁、衛生局局長黃志中、環保局局長張瑞琿、行國處處長張硯卿等一級局處長皆共襄盛舉。杜奕瑾表示,台灣人工智慧實驗室高雄辦公室位於亞洲新灣區,也是全球第一座結合企業淨零永續,專為生成式AI醫療產業軟硬體完整聚落。

2022年,台灣人工智慧實驗室攜手高醫附醫、高雄長庚、高雄榮總、義大醫院等4家醫學中心,共同籌組「高雄聯合學習智慧醫療聯盟」。運用醫學中心資料庫診斷疾病並預測風險,提升病人健康照護,透過聯邦式可信任的生成式科技加持,目前全台已有120多家醫院團隊加入聯合學習平台,是國際頗具規模的指標聯盟。

2023年起,在高雄市政府與經濟部技術處的全力支持下,台灣人工智慧實驗室主責「A+企業創新研發淬鍊計畫」,協同前述4家醫學中心、金屬工業研究發展中心、南部科學園區等南台灣產官學夥伴,推動前瞻醫療AI解方落地。

 

圖說  台灣人工智慧實驗室創辦人杜奕瑾介紹符合數位人權隱私的生成式AI FedGPT。

2024年台灣人工智慧實驗室盤點台灣生成式AI聯盟3大重點成果:

1.全球率先發展淨零碳排、永續發展的聯邦式AI

國際科技大廠發展生成式AI用電需求驚人,相較於傳統資料中心運作需更多電力。國際能源總署(IEA)指出,AI資料中心數目前約佔全球電力消耗的 1%,其年電力消耗約為家庭 IT 設備,例如電腦、手機和電視總耗電量的一半。

在美國科技巨頭競相投資綠電與核電技術之際,台灣人工智慧實驗室率先倡議AI發展永續淨零。有別於耗能的大型語言模型,台灣FedGPT是專門為針對企業需求,高效率、高準確度的輕量企業內部模型。以金融GPT為例,使用繁體中文驗證集「TMMLU+」檢測各大 GPT 模型的繁中金融知識表現,FedGPT Pro 專業版以 34B 參數超越 70B 的 TW-LLama3 和 LLama3.1-405B 大模型。啟用 RAG 功能後,FedGPT Pro 更勝 GPT-4o的結果。

圖說 以繁體中文驗證集「TMMLU+」金融綜合為工具驗證各家 GPT 模型對繁中金融知識的理解表現,FedGPT Pro 專業版,以節能減碳模型出發,以 34B 的參數勝過搭載 70B 訴求繁中模型的 TW-LLama3,以及 LLama3.1-405B 大參數模型,開啟 RAG 功能後,甚至勝過 GPT-4o。

圖說 醫療FedGPT 落地醫學中心的節能減碳模型可以提供最完整的治療建議,不僅超越大部分公開基礎模型,甚至也超越gpt-3.5。

此外,採用聯邦式資料治理的模式,無須重複儲存、應用資料,企業可以運用內部既有的資料中心即可結合內部資料建立企業專屬的FedGPT,減少興建集中式數據中心所造成的重複儲存與能源浪費。

2.國際合作可信任生成式AI技術、免除科技壟斷

本次參與論壇的23國,包括台灣友邦貝里斯、聖露西亞、巴拉圭、馬紹爾群島、瓜地馬拉、吐瓦魯;以及約旦、索馬利蘭、波蘭、越南、紐西蘭、盧森堡、斯洛伐克、立陶宛、芬蘭、加拿大、韓國、烏蘭巴托、歐盟、奧地利、印尼、奈及利亞、日本等外國駐台代表處,共同探討淨零永續跟可信任的AI 。

杜奕瑾強調,聯邦式FedGPT是符合數位人權隱私的生成式AI,「結合AI算力的分散式,FedGPT技術跟訓練方法傳授給你,資料你留在原地不用給我們」。在人工智慧法規立法高度重視資料治理安全的領域,組織不必上傳自己的機敏資料至機構外,即可透過聯邦式生成AI平台訓練自家的專屬模型。機敏資料不出資料所有人的落地機型式,更符合國家和企業資料安全。友邦和國際盟友,可用台灣發展的可信任人工智慧流程和平台建立自己的主權模型而避免把資料、客戶、商業機密輸出。

2024年,台灣人工智慧實驗室已在多國建立可信任的聯邦式服務,包含全球知名的紐約大學朗格尼醫學中心(NYU Langone Health)、邁阿密癌症中心(Miami Caner Institute已經完成合約簽訂進行第一階段聯合測試。以國家級人工智慧影像輔助分析系統、串接落地式醫療FedGPT,針對腫瘤科病人,有效輔助醫師精準治療,自動生成治療建議報告。

 

3.國家級醫療生成式多模態模型全球落地

坐落於高雄亞灣的聯合學習智慧醫療聯盟共同訓練的骨密度聯合學習模型,可透過判讀X光影像,協助臨床醫師早期篩檢出骨質疏鬆的病人並早期治療,後續併發症的發生。經實測,模型的AUC指標已達96%,超越現有產品與論文發現,模型準確性於業界處於領先地位。

此外,藉由與南台灣4大醫院合作,聯合學習平台目前已累積161個跨院聯邦學習模型,涵蓋骨科、心臟內科、腎臟科等眾多次專科,為臨床應用提供高度專業化的醫療解決方案。2024年更取得3個國際證照,加入了東南亞以及美國指標醫學中心。截至年第三季,聯合學習平台也完成國內與國際間425次跨院聯合學習與驗證,為醫療機構間的學習及驗證計畫奠定了穩固基礎並促進更廣泛的合作機會。不僅增強了模型的泛用性,還大幅減少了機構間「數據孤島」的問題。

在論壇現場,非常關切人工智慧發展的紐西蘭商工辦事處代表馬嘉博使節提問,除了醫療,聯邦學習模式還可以無痛應用在哪些領域?

杜奕瑾認為,受限於法規限制,AI在醫療、金融領域落地的門檻最高,如能建立成功模式,就能再拓展至其他領域。以位於高雄的鋼鐵製造業為例,Taiwan AI Labs也和與其合作,將AI解方應用於金屬業的品管、永續議題。

此外,台灣人工智慧實驗室與交通部所建置的數位雙生(Digital Twins)智慧觀光平台,有3000多個全球首創的智慧觀光元宇宙影片,由國家建立的智慧觀光內容已經用在生成式AI場景應用,至今累積數十億的瀏覽與使用量。虛實整合的數位體驗不只推廣觀光,未來更可進一步拓展應用在媒體娛樂、醫療和金融等領域。

未來在國際社會,百工百業皆需要AI應用解方。台灣原生的可信任、負責任AI科技,是最好的合作夥伴。高雄軟體生態系正逐步成為全球AI創新的成功標竿。

圖說 由外交部所率領的23國友邦大使、外國駐台辦公室代表使節團,以及高雄市政府代表齊聚台灣人工智慧實驗室,熱烈討論,並現場即時使用台灣醫療專屬FedGPT,深入了解台灣在AI醫療應用領域的最新成果。

 

關於台灣人工智慧實驗室

台灣人工智慧實驗室 (https://ailabs.tw)  在可信任AI的宗旨下,有效結合生成式AI,推出智慧醫療、 聯合學習、AI虛擬主播、未來場景生成攝影棚、新聞分析平台等解決方案。人機介面領域,發展AI音樂藝術生成及語音辨識、語意理解等技術,一大應用於現今最受世界關注之假訊息、假新聞操作議題,觀察資訊操作的脈絡,相關成果在國際間興起熱烈討論,並屢獲國際權威期刊認證及刊登。

台灣人工智慧實驗室的研究持續走在世界前沿,期望集結 AI 國家隊,整合人才、資源、產業鏈,建立台灣聯合學習產業大聯盟,從公有雲與私有雲聯邦式解決方案,推廣到全世界。

關於FedGPT

FedGPT (https://fedgpt.cc)是台灣人工智慧實驗室開發的落地式的大語言模型技術,由台灣自建的LLM技術,收集超過1000億token的繁體中文語料來訓練GPT。注重讓 FedGPT 的回答要有所本的回答,基於內部建立的知識庫或透過聯合學習的聯盟驗證方式來達到可信任AI模型。落實可信任負責人的科技原則,保障資訊安全。

關於海陸漫行

由台灣人工智慧實驗室與交通部科技顧問室攜手建立的先導計劃——「海陸漫行」平台(https://tter.cc)是全球第一個智慧觀光虛實整合平台。以國內最先進的 5G、AIoT 與無人自駕融合人工智慧空間建構技術創建開放場域,並以互動科技帶領在各種情境以手機、電腦、機上盒等載具,就能遨遊在觀光的沉浸式體驗中。


媒體聯絡人

台灣人工智慧實驗室 PR
陳莞欣 Ellie Chen
Mail:wanhsin.chen@ailabs.tw

金屬中心執行長賴永祥拜訪台灣人工智慧實驗室 FedGPT推動智慧醫材與金屬產業升級

【2024年9月27日】金屬工業研究發展中心執行長賴永祥26日拜訪台灣人工智慧實驗室(Taiwan AI Labs)高雄辦公室,雙方就未來合作方向進行了深入交流,攜手推動南台灣醫療創新與技術應用。會議聚焦於生成式智慧醫材、聯邦式學習在金屬知識庫的應用,以及金屬品質檢測、故障預測與機器手臂技術的合作面向。

會議中,賴永祥強調生成式智慧醫材的發展,將有助於提升醫療器材的設計與製造效率,進而推動醫療產業升級。藉助台灣人工智慧實驗室的FedGPT先進技術與研究資源,雙方期望開發具前瞻性與市場需求的創新智慧醫材與生成技術。


此外,賴永祥表示,聯邦式學習技術將使不同企業和機構之間能夠在不共享敏感數據的前提下,協同訓練模型,進而建立一個高效的金屬模型知識庫。這一技術不僅能提高學習效率,還能促進資源共享,為高雄地區的金屬產業帶來更多的競爭優勢以及機會。
在金屬品質檢測與故障預測方面,會議也提出了多項具體合作方案。透過人工智慧技術,雙方希望能夠開發出更為精準的檢測系統,提升產品的品質控制,降低生產過程中的風險。同時,針對故障預測的需求,利用機器學習演算法,預測設備的潛在故障,將能有效提升生產效率,並降低維修成本。
關於機器人研究與機器手臂的應用,雙方認為其在金屬加工與生產線上有巨大潛力。透過合作,將能加速機器手臂技術的推廣與應用,提升生產線的自動化程度,為高雄金屬產業的發展跨出重要的一步。
台灣人工智慧實驗室創辦人杜奕瑾強調,透過FedGPT的強力支持,此次合作不僅展現AI在多元產業中廣泛應用的潛力,更為醫療和製造領域變革的動力注入長期動能。
此次會議象徵高雄金屬中心與台灣人工智慧實驗室的合作進入新階段。雙方均表示將持續保持密切聯繫,推動技術創新與產業升級,為高雄科技發展注入更多潛能。

關於FedGPT

FedGPT (https://yating.tw/zh-hant/fedgpt-landing)是台灣人工智慧實驗室開發的落地式的大語言模型技術,由台灣自建的LLM技術,收集超過1000億token的繁體中文語料來訓練GPT。注重讓 FedGPT 的回答要有所本的回答,基於內部建立的知識庫或透過聯合學習的聯盟驗證方式來達到可信任AI模型。落實可信任負責人的科技原則,保障資訊安全。

關於台灣人工智慧實驗室

台灣人工智慧實驗室 (https://ailabs.tw)  在可信任AI的宗旨下,有效結合生成式AI,推出智慧醫療、 聯合學習、AI虛擬主播、未來場景生成攝影棚、新聞分析平台等解決方案。人機介面領域,發展AI音樂藝術生成及語音辨識、語意理解等技術,其中一大應用於現今最受世界關注之假訊息、假新聞操作議題,觀察資訊操作的脈絡,相關成果在國際間興起熱烈討論,並屢獲國際權威期刊認證及刊登。 台灣人工智慧實驗室的研究持續走在世界前沿,期望集結 AI 國家隊,整合人才、資源、產業鏈,建立台灣聯合學習產業大聯盟,從公有雲與私有雲聯邦式解決方案,推廣到全世界。

媒體聯絡人

台灣人工智慧實驗室 PR

陳莞欣 Ellie Chen

Mail:wanhsin.chen@ailabs.tw

Taiwan AI Labs攜手HPE 杜奕瑾:FedGPT成為AI PC最強作業系統

【2024年9月27日】2024年為AI PC元年,台灣人工智慧實驗室(Taiwan AI Labs)今(27)日宣布與慧與科技 (HPE) 共同簽署合作備忘錄(MOU),將以可信任、負責任的FedGPT,全面提供所有企業以及公、私部門AI PC落地服務。

台灣人工智慧實驗室今(2024)年第三季攜手慧與科技,已在大學、企業等多個領域,推出完全落地FedGPT案例。FedGPT為台灣人工智慧實驗室所開發的聯邦式GPT,目前已成功搭載HPE伺服器為運算核心,應用場景多樣。例如,在校園,可解答學生關於學校生活的疑難雜症;在企業,則輔助法務合規。

FedGPT在訓練過程中所使用的資料、知識內容,皆完全留在企業或校園內,並遵循內部資訊安全與資料治理的規範,不將內部資料傳到外部第三方雲服務。此外,FedGPT也通過資安、隱私、幻想與偏見的嚴謹測試,落實「可信任、負責任」的科技原則。

台灣人工智慧實驗室與慧與科技的合作,展示軟硬體整合的深度實力。FedGPT提供全面滿足醫院、學校與企業的AI平台,為企業專門設計的AutoKB,讓專業人員可主動建立有效知識庫;AutoCopilot 整合企業內部API,自動串接企業內部系統平台;AutoML在語言模型與各種專業領域模型可自主學習,同時整合企業內部帳號管理權限,建立分權、分功能的保護與稽核追蹤。企業在聯盟資料的治理下,更可做到機敏資料不出機構,藉由聯合學習、驗證和分析功能,為企業建立最強的跨組織大腦。

HPE ProLiant Servers系列則是專為AI 應用設計的伺服器,目前搭載Intel Xeon Scalable系列處理器與 NVDIA高速運算 GPU 晶片,協助生成式AI應用的快速部署。未來也將佈局整合更多AI時代尖端硬體。

AI PC紀元來臨,FedGPT成為企業可信賴的作業系統

國際數據資訊(IDC)預測,2024年至2027年間,全球AI PC的出貨量將從近5000萬台增長至逾1.67億台。至2027年末,AI PC將佔全球所有PC出貨量近60%。

台灣人工智慧實驗室創辦人杜奕瑾指出,未來2到3年是AI PC商機爆發性成長的關鍵期。聯邦式架構讓大語言模型運算從雲端轉移到本地端裝置上運行,可降低運算成本、提升效能,且進一步落實數據隱私保護。

杜奕瑾指出,如今各行各業都用得到AI服務。台灣的下一波機會在於最強的軟體與硬體夥伴結盟,建立企業組織內私有網路、私有雲的專用模型,提供客戶最完整實惠「可信任、負責任」解決方案。如此,才能讓台灣在全球AI產業供應鏈中,成為世界產業應用關鍵角色。台灣人工智慧實驗室將以和慧與科技的合作關係為開端,推動更多夥伴鏈結,打造豐富的AI應用生態圈。

慧與科技董事長王嘉昇表示,此次合作是雙方重要的里程碑。結合FedGPT的技術優勢與HPE伺服器的運算能力,可預期生成式AI在各產業廣泛應用,期待這次合作帶來全新市場契機,促進台灣AI技術與產業的共同進步。

 

關於FedGPT

FedGPT (https://yating.tw/zh-hant/fedgpt-landing)是台灣人工智慧實驗室開發的落地式的大語言模型技術,由台灣自建的LLM技術,收集超過1000億token的繁體中文語料來訓練GPT。注重讓 FedGPT 的回答要有所本的回答,基於內部建立的知識庫或透過聯合學習的聯盟驗證方式來達到可信任AI模型。落實可信任負責人的科技原則,保障資訊安全。

關於台灣人工智慧實驗室(Taiwan AI Labs)

台灣人工智慧實驗室 (https://ailabs.tw)  在可信任AI的宗旨下,有效結合生成式AI,推出智慧醫療、 聯合學習、AI虛擬主播、未來場景生成攝影棚、新聞分析平台等解決方案。在人機介面領域,發展AI音樂藝術生成及語音辨識、語意理解等技術,應用於現今最受世界關注之假訊息、假新聞操作議題,觀察資訊操作的脈絡,相關成果在國際間興起熱烈討論,並屢獲國際權威期刊認證及刊登。

台灣人工智慧實驗室的研究持續走在世界前沿,期望集結 AI 國家隊,整合人才、資源、產業鏈,建立台灣聯合學習產業大聯盟,從公有雲與私有雲聯邦式解決方案,推廣到全世界。

關於慧與科技股份有限公司(Hewlett Packard Enterprise)

慧與科技公司(HPE)是邊緣至雲端的領導廠商,幫助企業從資料中萃取出有用的分析資料,加速創造業務成效。數十年來,HPE致力於打造創新未來與創新的生活與工作方式。憑著這些經驗,HPE開發出獨特、開放式且智慧化的技術解決方案,包含雲端、運算、高效能運算與AI、智慧邊緣、軟體、及儲存,並為雲端與邊緣提供一致的使用經驗,幫助客戶開發及設計新商業模式、導入新方法,並提升操作效能。

 

媒體聯絡人

台灣人工智慧實驗室 PR

陳莞欣 Ellie Chen

Mail:wanhsin.chen@ailabs.tw

 

台灣最強陣容!台灣人工智慧發展基金會董事改選

圖說 台灣人工智慧發展基金會第二、三屆董事合照。左二起為李宏毅、楊泮池、杜奕瑾、陳良基、吳聰慶、王震緯、楊奕軒、陳倩瑜、陳縕儂。

 

【2024年7月24日】財團法人台灣人工智慧發展基金會(Taiwan AI Labs)本週舉行董事會改選,楊泮池、陳良基、吳聰慶、王震緯等4位跨醫療、科技研發、創業投資、產業轉型的重量級人物加入第三屆董事會。

 

台灣人工智慧發展基金會董事長、台灣人工智慧實驗室創辦人杜奕瑾表示,生成式AI引領國際產業轉型,台灣在全球AI領域的角色,不僅限於算力的提供者。台灣人工智慧實驗室今(2024)年參與多項國際組織,將可信任、負責任的AI科技在全世界落地。新董事陣容放眼全球都是業界的頂尖之選,一同帶領人工智慧在產業的應用落地。

 

重量級人物齊聚 主攻AI在產業落地
新任董事中,產業界代表王震緯曾任廣達電腦執行長、總經理,在科技業界極具影響力。他為廣達拓展全球業務的經驗,加速AI在台灣產業世界落地;吳聰慶在美國矽谷半導體業界有35年經驗,深耕科技創新團隊,是輔導AI新創產業的不二人選。

此外,在官方、學界,回到2017年,陳良基擔任科技部長期間,首倡將台灣傳統的科技業代工思維轉為AI小國大戰略思維,鼓勵民間建立AI實驗室與多項計劃,是台灣人工智慧戰略浪潮的重要推手。

醫界權威楊泮池院士曾率先倡議結合醫療與科技,也與台灣人工智慧實驗室共同以籌組臺灣特定疾病臨床試驗合作聯盟(TCTC)經驗建立醫療聯邦式資料治理、進而推動台灣聯合學習醫療聯盟,是推動台灣醫療AI聯盟化的第一人。

繼任董事亦囊括學界精銳,包括2位台大電機系教授李宏毅、楊奕軒,專研人工智慧與人文藝術、音樂創作生成;台大資工系副教授陳縕儂、為國際大型語言模型專家教授;群暉科技的共同創辦人、同時也是台灣人工智慧實驗室共同創辦人廖群,擁有國際級大量資料處理之豐富經驗,也持續為基金會服務。

第二屆董事台大電機系名譽教授李琳山,因個人生涯退休規劃、台大生物機電工程學系教授陳倩瑜因接受校方系主任行政職務,任期屆滿榮退。杜奕瑾也致贈感謝狀,表彰兩位傑出學者對人工智慧領域的重要貢獻。

 

圖說 杜奕瑾表示,本屆董事是「展示台灣AI產業應用最強陣容」,未來將帶領實驗室與產業聯盟聚焦於AI的產業應用。全球生成式AI帶領產業革命,台灣人工智慧實驗室在人工智慧受到國際高度監管之際,以可信任、負責任的應用,連續獲得國際指標團隊的使用與肯定,參與歐盟、美國國家級計劃。以醫療成功為鏡,接著帶領金融、影視音多媒體,三大核心領域為全球建立服務,同時回應台灣產業在人工智慧時代面臨的重大挑戰。

 

FedGPT打造全民健康、厚實產業應用、認知韌性
杜奕瑾指出,基金會下一階段的目標,是以人工智慧回應台灣當前AI轉型重要挑戰、並進一步成為全球的典範。

第一,以基金會角色作為台灣產官擴展國際合作的橋梁,提供民間創新研發技術與人才,協助AI產業科技創新,同時防止AI濫用、強化認知戰偵防與應對,厚實全體社會防衛韌性。

第二,呼應國家「健康台灣」的願景,以聯邦學習平台架構,建立國家級醫療基因多體態聯邦式健康數據,貢獻國際精準醫療發展,同時以科學解決台灣長久以來族群溯源與文化根基認祖歸宗的爭議。

目前全台已有超過80%醫學中心,與台灣人工智慧實驗室共同作為聯邦學習平台之夥伴。杜奕瑾指出,聯邦學習的核心精神是「資料留在原地、聯盟共享成果、建立可信任、負責任的AI」,以建立聯盟標準取代中心化資料,降低模型訓練成本的同時,也保護病患資料的隱私。

生成式模型當道,陳縕儂領導台大團隊與台灣人工智慧實驗室等夥伴合作,成功開源TAME通用模型給百工百業使用、楊奕軒開發藝術音樂模型給影視音多媒體使用,成果發表於國際音樂信息檢索大會(ISMIR)。

台灣人工智慧實驗室更擴展成為企業專屬聯邦式生成式平台,結合產業需求、為企業建立專屬FedGPT。以醫療、金融、影視音等聯盟需求、共同建立專業GPT在企業內部厚植產業競爭力。

新任董事回應台灣產業當前重大議題
台灣人工智慧發展基金會董事也針對台灣當前產業的發展需求、結合國際對人工智慧的監管挑戰,包含數據隱私和法律法規問題交換意見。

楊泮池特別提及,台灣醫療產業欲推動智慧醫療,產業卻面臨醫療數據取得困難的處境,不解決將成為「數位殖民地」。建議基金會更積極輔助台灣各領域成立聯邦資料專責機構,利用AI科技標準化產業資料,以可信任、負責任為原則落實資料治理,讓台灣AI的醫療等科技應用邁向更具開創性的未來。

王震緯認為,未來不管任何行業都需要AI應用,但從最快能轉換為商業價值的產業著手,先建立模型,接著就能複製成功經驗至同產業的其他企業,乃至於其他領域。將與台灣人工智慧實驗室共思未來產業政策。

吳聰慶表示,可被信任是台灣AI優勢以及基石,台灣人工智慧實驗室與聯盟將鼓勵建立開放模型授權方式,讓聯盟以及基金會可獲得產業回饋、讓基金會與參與聯盟會員的產業發展更快速以及永續發展。

陳良基建議,台灣應建立「AI Foundry」模式。藉由基金會與聯盟成為全球產業界的AI design house,效法晶片產業,垂直整合台灣「以軟帶硬」應用優勢,成為全球各類AI應用領導廠商的模型提供者,持續引領並參與全球高科技的快速成長。

台灣人工智慧發展基金會新任董事名單

姓名 主要經歷
楊泮池 現任國家生技醫療產業策進會副會長、前國立臺灣大學校長、中央研究院院士
陳良基 國立台灣大學電機系名譽教授、「社團法人台灣數位健康產業發展協會」(TAIDHA)理事長、前科技部部長
吳聰慶 台灣「亞洲.矽谷」計畫執行中心的技術長曁投資長、Atmel Corp.共同創辦人、曾任Atmel Corp.董事與執行副總裁、SEEQ技術開發經理與飛利浦研究實驗室技術幕僚
王震緯 現任美商亞美登創投AMED Ventures執行管理合夥人、廣達公司共同創辦人、曾任廣達總經理及執行長

 

台灣人工智慧發展基金會繼任董事名單

姓名 主要經歷
杜奕瑾 台灣人工智慧實驗室創辦人
廖群 群暉科技共同創辦人、台灣人工智慧實驗室共同創辦人
李宏毅 國立台灣大學電機工程學系教授

專長:語意理解、語音辨識、機器學習、深度學習

陳縕儂 國立臺灣大學資訊工程學系副教授

專長:語言理解、對話系統、機器智慧、自然語言處理

楊奕軒 國立台灣大學電機工程學系教授

專長:音樂資訊、人工智慧、機器學習、自動音樂生成

關於台灣人工智慧發展基金會

台灣人工智慧發展基金會成立於2017年,以推動台灣人工智慧產業為宗旨,藉由人工智慧與跨領域合作,歷年來持續發表研發成果,加速台灣人工智慧科學技術研究發展與推廣應用。

媒體聯絡人

台灣人工智慧實驗室 PR
陳莞欣 Ellie Chen
Mail:wanhsin.chen@ailabs.tw

全球第一個原住民語AI護理師,通18國語言成果亮相!

圖說 勞動部長何佩珊與i菩提AI助手互動,肯定AI生成護理照護紀錄,可減輕護理師負擔。她形容AI助手,「真的很有智慧!」

【2024年7月18日】超高齡社會來臨,護理人力短缺已成全球性議題。世界衛生組織(WHO)曾發布指引,建議各國至2030年前,每年護理畢業生應增加8%以因應逐年成長的人力需求。然而,台灣預計於2025年邁入超高齡社會,醫護人員面臨工作繁重、人力不足的挑戰,高強度的勞動環境造成領有證照的護理師執業率僅約6成。為此,台灣人工智慧實驗室(Taiwan AI Labs)與花蓮慈濟醫院攜手合作,打造創新AI醫療應用協助護理師,讓新人更快速上手工作,成為醫療現場的即戰力。

應勞動部邀請,台灣人工智慧實驗室於第54屆全國技能競賽「智造夢想」主題展覽,展示「i菩提護理AI助手」、「原住民語虛擬護理師」等指標性生成式AI護理照護應用。勞動部長何佩珊也於今(18)日到現場體恤護理師、為醫療照護場域實際體驗護理師的角色,與i菩提AI助手互動,體驗以護理專業FedGPT陪伴生成護理照護紀錄,感受未來生成式科技應用在醫護工作上,改善醫護工作環境的高度潛力。

AI護理輔助醫療現場、護理紀錄超高效率保有人文溫度

花蓮慈濟醫院提到,第一線護理人員在醫療現場面臨多項挑戰。護理人力不足,但新進護理人員需要數月時間才能上手工作;再加上平常就已有沈重的照護需求,醫療所需的文書業務卻佔走大部分時間。此外,每位護理師的書寫習慣差異,也導致護理紀錄格式不一、不易彙整,甚至可能遺漏重要資訊。特別是面臨病情複雜、住院時間長的病患,更需花費不少時間才能完成完整護理紀錄。

釐清醫療現場需求後,台灣人工智慧實驗室應用台灣本土AI語音辨識技術「雅婷」以及生成式AI「FedGPT」建立護理師專業完全落地花蓮慈濟醫院的護理助手。利用FedGPT的主動學習(AutoML)一個月便在花蓮慈濟醫院訓練出可精準護理摘要的i菩提護理AI助手。不只可辨識中、英、台三語,也特別著重醫療術語的辨識能力。護理師透過口語互動,AI助手便能自動生成病患的入院經過與護理交班的文字摘要。

經過一個多月的仔細測試以及驗證,花蓮慈濟醫院發現AI助手有幾個優點。第一,護理紀錄的細緻度提高。過往護理師人工紀錄時可能忽略的重要訊息,甚至包括病患的情緒狀態,AI都能完整呈現。這種完整清楚的護理報告,若要完全靠人工製作相同成果,預估需要比目前多2-3倍的時間。在顧及效率的同時,也落實「有人文溫度的智慧照顧」理念。

再者,透過i菩提AI助手底層生成式FedGPT的協助,護理紀錄的格式標準化,有助於資深護理師在和新進護理人員交接時,幫助新人快速掌握照顧重點、待辦事項,更快成為職場即戰力。

此外,由於FedGPT為台灣人工智慧實驗室所開發的落地式繁體中文大型語言模型,應用在醫療專業場域,不需要透過外部的API,所有資料流都在院內,可確保病患的隱私醫療資料不外流,落實可信任、負責任的科技原則。

圖說 i菩提護理AI助手服務以最親近自然交談的方式錄下聲音,再由花慈護理專業生成式AI「FedGPT」多模態辨識理解並生成符合院內系統精準的護理摘要。(圖片為示意圖)

 

如何針對不同母語的病患進行衛教,也是護理師常面臨的難題。除了i菩提護理AI助手服務,台灣人工智慧實驗室也精心打造以花蓮慈濟醫院護理部主任鍾惠君為原型的虛擬護理師,精通包含中文、台語、英語……等18國語言,以及全球首創的太魯閣族語。專業護理師只需輸入衛教相關文字,短短幾分鐘就可以自動生成多種語言的衛教影片,與病患溝通無礙,是台灣智慧照護領域的重要里程碑。

圖說 台灣人工智慧實驗室精心打造以花蓮慈濟醫院護理部主任鍾惠君為原型的虛擬護理師,保留原型人物的親和力,且具備多國語言能力,為全球首位可用太魯閣族語溝通的虛擬護理師。

 

圖說 鍾惠君主任與虛擬護理師合影。

 

花蓮慈濟醫院指出,呼應總統賴清德日前提出「AI力即國力」的主張,與台灣人工智慧實驗室合作研發護理AI助手,可減輕院內為數不少的中高齡護理師同仁的工作負擔。台灣人工智慧實驗室創辦人杜奕瑾表示,將持續開發AI醫療相關服務,並與國內頂尖醫院合作,建立聯邦式學習的AI人工智慧模型,進而提高醫護人員工作效率以及診斷精確度,深化智慧醫療輔助醫護的成果。

關於FedGPT
FedGPT 是台灣人工智慧實驗室開發的落地式的大語言模型技術,由台灣自建的LLM技術,收集超過600億token的繁體中文語料來訓練GPT。注重讓 FedGPT 的回答要有所本的回答,基於內部建立的知識庫或透過聯合學習的聯盟驗證方式來達到可信任AI模型。落實可信任負責人的科技原則,保障資訊安全。

關於台灣人工智慧實驗室
台灣人工智慧實驗室 在可信任AI的宗旨下,有效結合生成式AI,推出智慧醫療、 聯合學習、AI虛擬主播、未來場景生成攝影棚、新聞分析平台等解決方案。人機介面領域,發展AI音樂藝術生成及語音辨識、語意理解等技術,其中一大應用於現今最受世界關注之假訊息、假新聞操作議題,觀察資訊操作的脈絡,相關成果在國際間興起熱烈討論,並屢獲國際權威期刊認證及刊登。

台灣人工智慧實驗室的研究持續走在世界前沿,期望集結 AI 國家隊,整合人才、資源、產業鏈,建立台灣聯合學習產業大聯盟,從公有雲與私有雲聯邦式解決方案,推廣到全世界。

新聞聯絡人
台灣人工智慧實驗室 PR
陳莞欣 Ellie Chen
Mail:wanhsin.chen@ailabs.tw