輝達推出NIM微服務 支援台日資料訓練 打造本地化生成式AI應用
人工智慧(AI)領域的領導者輝達(NVIDIA)日前宣布推出全新NVIDIA NIM微服務,專為日本與台灣市場量身打造。這些微服務旨在利用當地語言資料進行大型語言模型(LLM)的訓練,幫助開發者更輕鬆地建置和部署高效能的生成式AI應用。輝達的這一舉措,標誌著AI技術在地化發展的新里程碑。
NIM微服務加強本地化AI發展
輝達發布的NIM微服務涵蓋多種社群常用模型,針對不同地區的需求進行調整。透過這些服務,開發者能夠更加精確地理解和回應使用者需求,尤其是在語言和文化高度特化的市場中。例如,Llama-3-Swallow-70B是基於日文資料訓練的語言模型,而Llama-3-Taiwan-70B則是針對中文資料進行優化,這些模型能深入了解當地的法律、法規及習俗,從而提供更準確的應用場景。
碩碩認為,輝達此次推出的微服務,不僅提高了AI應用的本地化能力,也為開發者提供了更多元的選擇。這些模型的區域化特性,將有助於提升用戶體驗,尤其是在醫療、製造和法律等需要高度精確語言理解的領域。
台灣醫療與製造業率先應用新技術
台灣的長庚紀念醫院已經開始採用輝達的Llama-3-Taiwan-70B微服務,為其AI推論服務(AIIS)奠定基礎。這項服務旨在集中管理醫院體系內所有的大型語言模型應用,從而提升醫療語言的精準度,進一步提高醫護人員的工作效率。對此,碩碩認為,這將為醫療行業帶來革命性的變化,讓患者能夠更容易理解醫療資訊,從而提升醫療服務的質量。
不僅是醫療領域,台灣的製造業巨頭和碩也採用了Llama-3-Taiwan-70B NIM微服務,用於開發內部及外部應用。和碩將這款微服務整合進旗下的PEGAAi Agentic AI系統,進行流程自動化,從而提升製造與營運效率。這一舉措顯示出AI技術在傳統製造業中的廣泛應用潛力,碩碩相信,隨著更多企業加入AI技術的行列,整個產業的自動化程度將進一步提高。
其他領域的廣泛應用
輝達的NIM微服務在其他領域的應用也不容小覷。石化產品製造商長春集團、印刷電路板公司欣興電子、科技媒體公司科技報橘、線上合約服務公司律果科技,以及生成式AI新創公司APMIC,均開始採用Llama-3-Taiwan 70B NIM微服務。這些企業利用AI技術來提高運營效率、優化生產流程,並在市場競爭中保持領先地位。
碩碩認為,輝達推出的這些微服務,將進一步推動AI技術在各行各業的滲透,特別是在語言高度依賴本地化的市場中。通過這些技術,企業可以更靈活地應對市場需求變化,並為用戶提供更優質的服務。
AI技術的本地化新篇章
輝達推出的NIM微服務,不僅是技術創新的體現,更是AI技術在地化發展的重要里程碑。通過這些微服務,日本和台灣的企業可以更好地利用本地語言資料進行模型訓練,從而開發出更符合市場需求的AI應用。碩碩認為,隨著這些技術的普及,AI應用的未來將更加多元和精確,並在各行各業中發揮更大的作用。
輝達推出NIM微服務 支援台日資料訓練 打造本地化生成式AI應用 閱讀全文 »