頭部銀行謹慎推進大模型,新一代核心系統還在攻堅期
兵強馬壯的金融業一直是新技術的實驗場。雖然今年不少金融機構的預算有所縮減,但在大模型、自主創新上仍有不少新動向。
01 頭部大行謹慎推進大模型
7月在北京舉辦的中國國際金融展上,不少業內人士來參觀交流大模型應用。有趣的是,自今年5月以來,更多銀行上線大模型,員工已開始接觸到各類助手。但大模型在金融業仍處於嘗試早期,甚至應用速度和深度不及製造業。
行業人士形容,金融在大模型上是在做大規模研究,小範圍驗證和測試,應用以工具類如助手爲主,沒有用在交易生產業務中。
"並沒有大規模用起來。"一位頭部金融應用開發商告訴數智前線,自己對此的標準可以用一個例子來說明,比如"我要開個戶"這一句話,涉及合規監管、數據報送,流程中還涉及多個業務部門、各種審批手續。"這些都是隱含機制。真正的大模型,要根據這一句話,把所有需求、業務流程拆解清楚,現在還做不到。"
"與其說是做不到,不如說是不太敢。目前用AI正兒八經做交易業務,真的不太敢。"一位城商行人士告訴數智前線。
實際上,頭部大行早在ChatGPT爆火之前,就對生成式AI開始了研究。但由於大模型的準確性問題和不可解釋性,一向嚴謹的金融部門需要不斷嘗試觀察。同時,金融業也還沒有找到足夠的痛點,實現更高價值,體量也不太夠。
在此狀況下,大行呈現了謹慎務實的態度。"其實有很多環節,傳統方法也很高效,比如關鍵詞檢索。"一位工商銀行人士告訴數智前線,"我們還是要先解決業務問題,如果業務不需要,硬往裡面揉,反而效率會降低。"他強調,不會爲了技術而技術。工商銀行內部主要的應用目前包括代碼助手、客服、風控等。
中國銀行則用大模型做了數據分析等。一位人士告訴數智前線,內部進展不算快,風控還未上。
一位建行人士稱,她看到內部在5月上線了大模型。她用大模型幫助撰寫對公業務的定製化研究報告。"目前這些報告的針對性還不夠,需要修改大約一半內容,但你要往前推,這是一個趨勢。"這位年輕人士稱自己非常關注大模型,早在ChatGPT、文心一言剛推出時,個人就嚐鮮使用過。
目前,大模型在金融業的應用,基本上是代碼開發、運維、交互式數據分析、營銷工具、保險報價等。因爲應用場景有限,一位大模型廠商負責人表示:"沒想到代碼助手在銀行變得如此突出。"
除了大行,從金融體系的步伐看,一些城商行或合資銀行與大行不通,節奏要更快一點。"投入幾百萬元,就能解決一個實際問題。"
值得關注的是,金融企業用來訓練企業大模型的基礎模型或金融行業大模型,較爲多元化。商用的如華爲盤古、智譜,開源的如阿里通義、智譜、百川、國外的Llmma等,但他們坦言,行業大模型還沒有特別突出的。此外,一些銀行業務人員通過口口相傳,也在使用Kimi等作爲文檔小助手。
"銀行最大的問題是它的數據不能出去,只靠自己的數據去判斷用戶的行爲習慣,有侷限性。"因此,不少銀行在數據的合作上非常下本。
一位杭州銀行人士稱,他們與浙大合作,核心是基礎數據訓練。"模型有開源的,但數據很難,投入近千萬元。"目前的應用場景集中在助手類,如杭小助、代碼助手、合同審覈等。
除了數據,大多數銀行是先購買算力。"智算從2022年左右開始。"多位人士稱,由於英偉達芯片出現了幾次對不同產品的禁售問題,供應不穩定,金融企業這幾年搭建了異構算力平臺。
總體而言,在金融行業,大模型離全面落地應用還有時間。除了六大行和股份制銀行一共21家企業之外,不少城商行和保險企業也在嘗試。一位城商行人士告訴數智前線,自己正在調研,準備開展小範圍試點。
"這個方向是確定的。"一位金融應用開發商說,"只是什麼時間走到大規模落地,每個人都想知道答案。"
02 核心系統自主創新處於攻堅期
除了大模型,金融企業的科技戰略已步入深水區,一個明顯特徵是,傳統技術架構正面臨轉型和重塑,新體系與"IOE"完全不同。
其中,核心系統的改造並非易事,涉及從操作系統、數據庫、中間件到硬件的全棧能力:各種技術都要達到性能及穩定性要求;無論開閉源,都要經歷規模性的商業化驗證;各類技術不是簡單的替代,而是要實現新一代業務的高要求。這裡數據庫的替換最具代表性。
在這方面,頭部銀行走的較快。不少銀行從外圍系統開始,目前處於核心系統的攻堅階段。"數據庫還沒有完全替換,接下去還有並跑階段,所以看上去走的快的好像已完成70%~80%,但週期還很長。"一位業內人士介紹,如果說要完成全部核心替換的話,可能在明後年。股份制銀行比頭部銀行還要慢一些。
除了頭部和股份制,城商行和農商行則是點狀分佈,一些局部的城商行走得比較快,已完成核心繫統的改造。"一個趨勢是在往下滲透,一些規模更小的銀行開始啓動了核心系統的改造。"
而在這個過程中,數據庫市場也在被重塑。雖然目前有300多家國產數據庫企業,"我覺得在這個過程中,數據庫會進一步收斂在幾個廠商。"一家數據庫企業判斷。
在數據庫的替換中,有業界提出,這些採用了新架構的數據庫,替換成本高、不好用等問題。但一位城商行人士明確告訴數智前線,"我們2015年去考察替換的出發點,就是因爲成本。傳統的集中式架構,長期成本很高。每年的維保、軟硬件、人員成本都很高昂。替換肯定是節約了成本,否則當初不會去幹這件事。我覺得要從長期看成本。"
從替換的技術複雜度來看,伴隨國產數據庫的進步,平臺遷移的難度已不太大。但在銀行原有應用改造上,確實有一定難度和複雜度。因爲數據庫需要做到多活的同時,保證數據的一致性;而在保證數據一致性的時候,還要保證高性能,這確實需要一定的能力支撐。
在可用性上,"我認爲已經沒有什麼差異了,能確保生產連續穩定的運行。"一位城商行相關負責人說,而差距則主要體現在生態和服務上。比如,國產數據庫的技術普及和應用人才供給不夠。再如,在服務體系上,以IBM爲例,用戶遇到故障只要打一個電話,就能自動化地解決,國產數據庫則需要四處"搖人"。
"如果說要判定哪天追平了,我認爲有一個非常好的標誌,就是我不見這些數據庫企業的人,打個電話就能解決所有問題。"上述人士對數智前線說,這需要一套體系和知識沉澱。
在金融行業,數據庫企業各分天下,不少金融機構提到螞蟻OceanBase、騰訊TDSQL、中興金篆GoldenDB、華爲高斯,不像操作系統領域,麒麟佔據主導。
"這幾家企業的打法也非常不同。"一位行業人士說,螞蟻OceanBase下場早,在城商行、農商行、保險證券市場佔有率高;華爲則通過全棧產品攜高斯數據庫,猛攻市場;中興也提供全棧產品,包括操作系統、數據庫、服務器等,它採用集中兵力的策略,只做銀行核心系統;騰訊TDSQL則在市場上"全面發力",既做本地部署,又做公有云,既做頭部大行,也做中小型金融機構。
核心系統除了軟件外,還需要高性能的計算、網絡和存儲,如FC光纖存儲。目前,針對光纖存儲,業內處於創新性研究階段。由於核心系統需要全棧能力,華爲、中興、新華三等企業利用全棧佈局,強攻市場。
03 硬件應用呈現百花齊放
硬件的創新從機具開始。有趣的是,此前採用麒麟系統的金融機具佔有大部分市場,而從去年下半年開始,鴻蒙機具也在起勢。在中國國際金融展上,可以看杭州銀行試點的鴻蒙自助設備。
在電腦方面,聯想在金融市場佔有大約3/4的份額,其他還有華爲、同方等。聯想展示了採用本地供應鏈的電腦,如高端旗艦的聯想開天X1,機身採用碳纖維,重量爲990克,續航8小時左右,針對銀行管理層定製。
銀行客戶對電腦有一些定製化要求,其中輕量定製要預製好用戶名、密碼,包括瀏覽器收藏夾中的網頁。深層次的定製則要針對客戶的場景,去兼容一些外設,提前優化和測試Linux系統等。
一位行業人士稱,過去這幾年,銀行在應用這些電腦過程中,花了很大力氣解決各類問題。"軟件、外設等各類問題,每個季度都有上百個,在幾天內都會解決。"他說,"問題會越來越少,其他企業可以複用。"而在下半年,新一輪電腦採購旺季即將到來。
在智算上,由於人工智能的加速發展,頭部金融企業在2022年左右,投入智算建設。
從政府部門的要求來看,近日國家發改委、工業和信息化部、國家能源局、國家數據局聯合印發《數據中心綠色低碳發展專項行動計劃》,要求,到2025年底,新建及改擴建大型和超大型數據中心電能利用效率(PUE)降至1.25以內,國家樞紐節點數據中心項目PUE不得高於1.2。而上海甚至有實時監測數據中心PUE的規定。
政策倒逼原來的數據中心進行升級。而根據相關統計,行業內先進綠色數據中心PUE已降至1.1左右。液冷產品成爲一個趨勢,市場有急切的剛需,供應商紛紛推出可實現柔性升級的方案。如一個機櫃原來是三四千瓦,在面積不變、承重條件符合要求的前提下,加入配套液冷設備改造,可以做到20千瓦。
從硬件平臺來看,市場呈現百花齊放狀態,基本滿足市場需求。伴隨應用系統的改造呈現新舊迭代的態勢。