大模型企業應用的幾點觀察

從今年一月份開始,我們每個月在上海做一場大模型應用落地沙龍,在這裡分享幾點我的觀察:

關於過去一年發展:

認知拉齊,處處開花,少量盈利,期待爆款。

年初的時候,會上的一些發言還會講“我們公司有5年的人工智能經驗”之類,把LLM和之前的AI有意無意地混在一起。到了現在,大家已經可以非常坦白的講哪些場景在用之前的AI技術,哪些在用模型,也會比較明確說明,哪些是在模型之上做的,什麼場景做了微調或者二次訓練。這是個好的現象,可以讓大家更直接地進入到應該討論的領域。

同時,也看到越來越多的真的使用了LLM的場景,包括內容生成和具體工作場景的結合,利用了LLM技術的新的RPA產品,在人力資源的面試,篩選和崗位培訓等領域真實地落地。

對於已經落地的項目,有一些甲方已經有比較量化的數據來評估LLM的產出,也開始有一些乙方表示已經簽到了合同或者收到了項目款。乙方承接的大部分項目似乎都還在幾十萬的量級,偶爾有小几百萬的項目,來自這個方向的收入還沒有能夠成爲公司收入的主要支撐。

年初的時候就有人在問,而現在這個問題仍然在問,那就是大模型2B有什麼爆款的軟件,似乎還沒有。也許很久不會有?這麼多年2B軟件的爆款曾經有什麼?辦公自動化?財務ERP?CRM?釘釘飛書?讓我們繼續期待

關於產品形態:

聊天界面,傳統界面,傳統+聊天=Copilot,還有?

對於大模型2B軟件,大家有各種不同的期待,有悲觀的,更多似乎卻是過於樂觀,我們把這種期待具象化,企業中的每個人將如何感受到這個新的大模型驅動的企業軟件。

大模型最初進入人們的視野,就是chat的界面。Gpt3.0的時候已經展示了和當下十分相似的能力,但是因爲沒有chat,只有API,並沒有引起更多人的注意,也沒有破圈。chat的界面和搜索雖然看起來很像,但是隻要用過就會感覺到本質的不同。我們有理由相信,以chat爲界面的、企業人人可用的、新一代的企業信息系統基礎設施,會像辦公軟件、郵件、企業微信/釘釘/飛書一樣,在所有企業普及開來。小即是大創業夥伴孵化的colingo.ai 就是主打這個市場。

傳統的企業軟件,有一些後臺已經用到了各種AI的算法,把其中的一些用大模型替代,更好的解決問題,或者把之前無法用算法處理的,用大模型來處理,這些事情已經悄然發生,但是終端用戶的可感知性是比較弱的。這些場景會越來越多,但是可能不容易產生爆款軟件。

聊天界面和傳統GUI軟件的結合,就是Copilot。作爲OpenAI的早期親密夥伴,推出了office的Copilot,讓用戶通過聊天界面更好地使用傳統軟件,這看起來也會是一段時間主要的界面形式之一?

還有什麼新的界面形態?數字員工用什麼形式和其他員工合作?這方面仍然有很多探討的空間。

關於2B軟件服務商的技術路線:

懂得多反而是包袱,在大模型時代的確存在這個現象,且不說“大模型思維”這個事情,可能不好定義,只是從各個軟件服務商入手大模型應用的過程看,還是有所體現。

上三路下三路之間,不止是差幾塊GPU,涉及到的人才,工作流程,交付週期,迭代速度,整體的綜合成本不在一個數量級上。

很多企業的技術部門的第一反應,就是先訓練的模型,買卡,招人。然後可能就會陷入泥潭,反饋到CEO這裡,就變成大模型是個很重的事情,需要大投入。公司內部沒有進展,對外還要面對客戶不斷地問你們可以用大模型幫我們做什麼,就陷入兩難。

上三路可以解決涉及大模型應用的絕大部分問題,應用企業進入下三路,至少應該在把上三路搞完,確定下三路可以真的明顯的提高效果的時候再進入。

在大模型應用開發中不許使用“訓練”這個詞,可能是一個矯枉過正的方法,但在現階段,對大部分應用開發公司,瞄準上三路,可能是見效最快的方法。

還有兩個具體的問題,和很多企業討論過,也分享給大家:

關於選擇什麼的客戶啓動大模型應用:

“先進企業用飛書”,我們要找到哪些已經具備了“大模型思維”的甲方,作爲服務商很難給甲方洗腦,要找到爲每次效果的提升而欣喜的甲方,如果沒有動手之前,就有一萬個問題在前面,這樣的用戶我們就躲開吧

關於選擇什麼模型:

用你能用到的最好的模型開始做,做不了,那就是這一代模型還不行,等就是了。

做好了,再用最現實的模型調優,調到什麼程度,把這個差異也告訴甲方,能接受,就上,不能接受,就等。

不要考慮模型的成本,今天的價格和六個月以前已經完全不可比,六個月之後的能力,也一定會比今天提高。做大模型應用要對“大模型摩爾定律”有基本的信仰,與其執着於眼下模型的優化,不如擁抱時間做你的朋友。

總結一下對機會的判斷:

在大模型2B應用的市場上,新場景新形態新公司,老場景新方案新老PK。

毫無疑問是新的企業的機會,產品的形態還遠遠沒有成熟。2007年中iPhone發佈,2008年底的移動應用你還記得哪些?2022年底的大模型,也只是一年半的時間。當然企業要活着,但是不能以活着爲目標,還有很多需要探索的機會,不是你,那就是別人。

機會也屬於目前各個行業的軟件服務商,2B的服務最終還是要解決用戶的問題,而你們是最瞭解用戶需求的。在應用領域,大模型時代的競爭,大大弱化了技術上的壁壘,能夠把用戶的需求,轉化成適合大模型處理的問題,成爲了最重要的競爭點,而這毫無疑問是行業軟件服務公司的優勢。

洗牌一定會發生,不論你盤踞這個行業多久。不論你是行業第一,還是最後一名,都可能在這場競爭中被淘汰,留下幾個位置給新進入的大模型原生的公司,剩下,也會在這場技術革命中重新排序。

決戰今秋,今年的今。

第一次的重新排序就會發生在今年的秋天。絕大部分企業2023年都是沒有大模型專門的預算的, 個別的採購都是挪用了其他IT項目的預算。2024年有一些跟大模型相關的POC的預算,而2025年的IT預算一定很多是和大模型相關。能否在今年的秋天,讓你的解決方案、讓你的企業甲方的視野,就決定你2025能夠拿到多少項目,就決定在第一場排位戰中你的位置。