智能科學大會：機器算法預測，警惕單一性文化

摘要：今年新設“案例研討會”環節。

10月26日，在世界頂尖科學家智能科學大會上，除了有大咖們的主旨演講，今年還新設“案例研討會”環節，通過一個個生動而具體的案例講述科學進展。

【AI：邏輯推理+機器學習】

中國科學院外籍院士、英國皇家工程院院士、深圳計算科學研究院首席科學家樊文飛認爲，人工智能需要兩條腿走路，就是邏輯推理和機器學習。

樊文飛。

人工智能對數據的需求，需要高質量的數據，但不需要海量的數據。樊文飛解釋，對於人工智能來說，邏輯推理、機器學習，兩者互相不可替代。邏輯推理在類似文件和視頻、圖像等這些非結構性數據是比較脆弱的，但是和機器學習相比，這兩條線都有自己的優勢和劣勢，任何一種都不能被另外一種替代。在美國，生產線當中17%用的是機器學習，67%用的是邏輯推理，剩下的一些兩個都會用。事實證明，機器需要+邏輯推理，這種路線將會節省成本，並且更加可靠。

結合邏輯推理、機器學習的人工智能已經開始嘗試運用到現實中。樊文飛解釋，比如，藥物發現的案例。衆所周知，藥物發現是非常昂貴和漫長的，可能10年要花20億美金，成功率只是不到10%。早期的藥物發現尤其是靶向識別，通常苦於病人數據量的缺少。我們使用人工智能的方法和邏輯推理、機器學習，做了數個實驗、試點，最後的結果得到了專業醫療醫藥實驗室的認可。

還有一個案例，是電動汽車電池的生產。一個電池包有成千上萬個電池芯，這些電池芯有相同的容量。在生產工藝中，把電池芯充到一定電壓，激活，再冷卻，繼續充電直到充滿，然後放電。很多放電傳統的方法是非常昂貴且費時，通常需要20小時，佔據了整個生產線的45%，降低了生產率。“疊加了機器學習、邏輯推理後，放電方式從20多個生產小時降到4個小時，同時能耗也降低了50%。出錯率0.3%—0.6%之間，遠遠超過工業要求的1%出錯率，這已經部署在數個生產線，也是在電動車生產上在中國有所應用。”

【算法預測，警惕單一性文化】

2024世界頂尖科學家協會獎“智能科學與數學獎”得主康奈爾大學喬恩·克萊因伯格教授，在展望人工智能算法預測的同時，也提醒大家警惕“單一性文化”的出現。

現在的人工智能，已經不僅僅是學習已有的知識，甚至能根據一些數據進行預測。舉個例子，比如互聯網利用你過去的瀏覽行爲，猜測你會喜歡什麼；通過個性化的信息源，記錄你的過去、滾動、喜歡和評論行爲，並嘗試猜測手機滾動條下面接下來應該出現什麼信息。

這種機器預測，可以輔助運用在很多方面，比如，大學招生錄取、企業招聘人員等。招聘人員可能會拿到某人的簡歷，確切地說，是一份描述他的文件，並試圖預測他們將成爲一名多麼有效的員工，或者他們將與團隊的其他成員合作得多麼好；大學招生官會根據一些信息，機器預測未來的學習能力；醫生可能會對某些醫療狀況的未來進程做出預測。

然而，並不存在完美的預測。“這種機器預測還會帶來‘單一文化’的問題，這是未來要考慮的事情。”喬恩·克萊因伯格解釋，“單一栽培”一詞起源於農業，人們擔心的是，如果你在所有的田地裡種植一種作物，那麼你就會讓它面臨被一種病原體根除的風險，而這種病原體可以橫掃所有的田地。

最近，預測方法中出現了單一文化。比如，如果你在12家不同的公司申請工作，那麼你可能會認爲你的簡歷會得到12個不同的決定。但如果他們都購買了相同的算法來評估你的簡歷，你實際上只得到一個決定。最後，人與人工智能的對接問題。算法的一般模式是觀察人類的行爲，並試圖對它們作出預測和決定；而強大的人工智能，它被明確地調整爲與較弱的夥伴更兼容。

同濟大學計算機學院研一學生楊夢夢告訴記者：“這是我第一次來參加頂科論壇，23日兩位頂科協獎得主在同濟的講座很精彩、很有趣，但我還想聽聽不同科學家的見解，有助於拓寬自己的思路，從不同的角度思考問題。”同樣也是第一次參加頂尖科學家論壇的上海科技大學信息學院研一學生魚滋惠，對喬恩·克萊因伯格教授的觀點印象深刻。“算法預期可能會導致單一性文化，這提醒我們需要提高對AI安全研究的重視程度。”