Hailo助力挖掘生成式人工智能與新興邊緣應用潛能
（原標題：Hailo助力挖掘生成式人工智能與新興邊緣應用潛能）
互聯網已經深入滲透到我們生活的方方面面，從溝通交流到購物消費，再到工作生產，其影響無處不在。然而，隨着互聯網不斷向網絡邊緣拓展，出於對延遲、隱私及成本效益的綜合考量，“物聯網”概念應運而生，爲現代生活提供了全新的可能性。
在人工智能技術的助力下，互聯網服務已經開始趨向便捷化、個性化和智能化。然而，目前的人工智能技術仍然高度依賴雲端大型服務器和高性能計算能力，這在一定程度上限制了其應用場景。正因如此，像Hailo這樣的企業正着眼於解決延遲、隱私和成本效益等問題，積極研發邊緣人工智能技術，以期推動更爲廣泛的應用。
生成式人工智能無疑是下一個引領時代的大趨勢，它在各行各業均顯露出無可估量的潛能。對於創作者羣體——諸如律師、文字創作者、平面設計師等，生成式人工智能不僅可爲他們簡化工作流程，更能大幅提升工作效率。在醫療領域，生成式人工智能有助於研發新型治療藥物，甚至輔助醫療程序。此外，通過視頻、音頻、圖像等的智能合成技術，生成式人工智能還能促進工業自動化、推動新軟件代碼的開發，並顯著提升交通運輸的安全性。
然而，目前生成式人工智能的發展仍受到技術層面的限制。這主要是因爲其運算過程主要發生在雲端——即遠離用戶的大型數據中心。這些數據中心依賴昂貴且能耗高的計算機處理器來維持運行。每當用戶向ChatGPT這類生成式人工智能工具或新型人工智能視頻會議解決方案發出指令時，請求都需要通過互聯網傳輸至雲端進行處理，處理完的結果再通過網絡返回給用戶。數據中心作爲主要的能耗場所，隨着人工智能的廣泛應用，全球能耗預計將急劇上升。這對於那些需要在創新解決方案與降低運營成本及環境影響之間尋求平衡的公司來說，無疑是一個日益嚴重的問題。
隨着企業不斷開發出新的生成式人工智能應用，並將其部署到各種類型的設備上——包括攝像機、安全系統、工業和私人機器人、筆記本電腦乃至汽車，雲端在帶寬、成本、安全性以及連接性等方面的侷限性愈發凸顯，成爲了一個亟待解決的瓶頸問題。
在駕駛輔助、個人電腦軟件、視頻會議和安全等領域的應用中，頻繁地在網絡上傳輸數據可能會引發潛在的隱私泄露風險。而基於邊緣計算的生成式人工智能技術則有望爲衆多新興應用帶來巨大的益處，不僅能夠提升處理效率，還能更好地保護用戶隱私。
生成式人工智能正在崛起
近年來，視頻會議已成爲我們大多數人的日常。軟件公司已經開始將多種形式的人工智能技術融入視頻會議解決方案中，其目的或許是爲了實時優化音視頻質量，抑或是將與會者置於同一虛擬空間。如今，藉助生成式人工智能的視頻會議系統能夠自動創建會議記錄，並在討論不同主題時，實時從資源庫中調取相關信息。
然而，若智能汽車、視頻會議系統或其他邊緣設備無法與雲端建立連接，生成式人工智能的體驗便無法實現。那麼，如果這些設備無需連接雲端又能如何呢？儘管考慮到雲端人工智能的強大處理能力，這看似是一項艱鉅的挑戰，但如今這一願景正逐步變爲現實。
邊緣生成式人工智能
目前市場上已存在一些生成式人工智能工具，這些工具能自動創建內容豐富、引人入勝的演示文稿。然而，用戶期望即便是在沒有互聯網連接的情況下這些工具也能正常工作。
同樣值得關注的是，我們已見證了一種基於生成式人工智能的新型“副駕駛”助手的誕生。這類助手通過自動化衆多常規任務（例如生成報告或數據可視化），將深刻改變我們與計算設備的交互方式。設想一下，當你打開筆記本電腦時，其攝像頭能夠識別你的身份，並依據你經常使用的工具（如Outlook、Teams、Slack、Trello等）自動爲你生成當天、當週乃至當月的計劃。但爲了確保數據隱私並提升用戶體驗，用戶須有權選擇在本地運行生成式人工智能，以避免數據的遠程傳輸和處理。
除了能夠應對不穩定的網絡連接和數據隱私問題，邊緣人工智能還具備降低帶寬需求並提升應用程序性能的顯著優勢。舉例來說，若一個生成式人工智能應用程序正在雲端創建數據豐富的內容，比如虛擬會議空間，此過程可能會受到可用帶寬（且價格昂貴）的限制而導致延遲。而對於某些類型的生成式人工智能應用，如安全監控、機器人技術或醫療保健，它們對高性能、低延遲的響應有着很高的要求，這是雲端連接所無法滿足的。
在視頻安防領域，當目標人物在多個攝像頭間移動，特別是在網絡無法覆蓋的區域，就需要在攝像頭內部集成數據模型和人工智能處理能力。在這種情境下，生成式人工智能能夠通過簡單的查詢指令（例如，“查找穿着紅色T恤、戴着棒球帽的8歲孩子”）來自動描述攝像頭捕捉到的內容。
這便是邊緣生成式人工智能。
邊緣人工智能的發展
通過運用新型人工智能處理器，研發更爲精簡、高效且性能強大的生成式人工智能數據模型，可以設計出即便在無法或不適宜使用雲連接的情況下，也能實現智能運行的邊緣設備。
當然，雲處理在生成式人工智能領域仍佔據重要地位。例如，人工智能模型的訓練環節依舊依賴於雲端。然而，將用戶輸入應用於這些模型的行爲卻可以在邊緣端完成。
當前，業界正在積極研發更爲精簡、小巧且高效的人工智能模型，這些模型可被輕鬆加載至邊緣設備上。諸如Hailo之類的企業專注於生產專用於執行神經網絡處理的人工智能處理器。這類神經網絡處理器不僅處理人工智能模型的速度極快，而且功耗更低，從而顯著提升了能源利用效率，使其廣泛適用於從智能手機到攝像頭的各類邊緣設備。
在邊緣運用生成式人工智能，可以有效地平衡不斷增長的工作負載，使應用程序能夠實現更爲穩定的擴展，降低雲數據中心的昂貴處理成本，並有助於減少對環境的影響。生成式人工智能正處於再次改變計算領域的邊緣。未來，筆記本電腦上的大型語言模型可能會像如今的操作系統一樣實現自動更新，並以相似的方式運行。然而，爲了實現這一目標，我們需要在網絡邊緣啓用生成式人工智能處理。這一舉措有望帶來性能提升、能源利用效率提高、安全性與隱私性增強的多重效益。所有這些因素都將共同推動人工智能應用程序像生成式人工智能技術本身一樣，重塑我們的世界。
面對科技行業的持續變革，Hailo正積極探索並研發邊緣人工智能技術，致力於挖掘生成式人工智能與新興邊緣應用的結合所帶來的無限潛能。隨着邊緣生成式人工智能技術的不斷進步，一個更加智能、高效且環保的計算新時代將展現在我們面前。2024年臺北國際電腦展（Computex Taipei）將於6月4日至7日在臺北南港展覽館隆重舉行，屆時，Hailo將展示其領先的生成式人工智能解決方案。Hailo誠邀業界同仁、技術愛好者以及尋求創新解決方案的企業代表蒞臨參觀。