臺智雲推AI 2.0一站式服務

因「ChatGPT」受到矚目的大型語言模型（Large Language Model，LLM），與被視爲是AI領域創新趨勢之一的生成式AI（Generative AI）近期快速發展，開啓新世代AI新範疇。

以AI聊天機器ChatGPT來說，其依據的基礎LLM是具有逾千億個參數的自然語言處理系統，可運用於內容生成、文字摘要、聊天機器人、編寫程式碼，和應用於蛋白質結構與生物分子屬性之預測等客製化的AI應用程式。

而臺智雲以超級電腦AIHPC的高速運算平臺結合技術資源團隊，建置了全臺第一個高達1,760億個參數的BLOOM（BigScience Large Open-science Open-access Multilingual Language Model）大模型，能提供巨量的模型訓練與推論在TWCC（臺灣AI雲）上快速運行，臺智雲並以全新的服務模式，提供企業客戶完整的AI外部支援。

以臺智雲完成的BLOOM大模型成果爲例，資料集包含46種人類語言、13種程式語言，參數量高1,760億個、整體資料量高達1.5TB以上，運用了840個GPU做跨節點訓練，除了效能逼近線性理論值外，也可收斂訓練結果，若欲增加效能，亦能用線性的方式擴容，增加GPU來提升平行運算能力。

對企業來說，若要自行推動LLM專案，需熟悉分佈式訓練架構、建置AIHPC高速運算系統、理解微調技術（fine-tune）、大模型推論（inference），布建門檻極高。臺智雲提供的「AI 2.0大算力顧問服務」一站式整合解方，將可推助企業快速降低投入時間、技術成本、開發風險、硬體設備和人力投資等數百萬美元的成本，打造自有生成式AI應用。