大廠不想你有AI女友
作爲對 GPT-4o 的迴應，谷歌在 8 月發佈了 Gemini Live，試圖讓 AI 助手可以像真人一樣對話。這個新助手的對話效果是如此之好，以至於讓外媒記者 Joanna Stern 產生了「Her」的感覺。
《Her》是傑昆·菲尼克斯 Joaquin Phoenix 主演的一部電影。在電影中，他愛上了由斯嘉麗·約翰遜配音的人工智能助手「薩曼莎」。
這樣的評價，顯然讓 Google 團隊感到緊張。
Google 團隊負責 Android 的高層表示：更希望 Gemini Live 只是一個單純的工作上的助手——「我們想給人們一種完成更多工作的方式」
相比之下，OpenAI CEO Sam Altman 的表述更爲直接。
在一次在 Y Combinator 的演講中，Altman 認爲 AI 女友就是一個陷阱。而 OpenAI 之所以給自己的 AI 取「ChatGPT」這麼一個名字，就是爲了避免人們愛上它。
OpenAI 在使用規定中也很直接地表明表明，不允許上架用於培養浪漫友誼的 GPTs。
換言之，OpenAI 不允許 AI 女友上架。
這不禁令人好奇，大廠似乎都不希望自家的 AI 助手與用戶產生浪漫；與此同時，AI 陪伴/AI 伴侶又幾乎是目前衆多 AI 賽道中唯一能夠盈利的方向。
爲什麼 AI 領域會出現這種「反差」？是什麼阻礙大廠給每個人分一個「AI 伴侶」？他們到底在害怕什麼？
01 安全第一
可以肯定的是，AI 情侶幾乎是目前 AI 領域唯一盈利的賽道。
以這個賽道的老玩家 Replika 爲例，雖然 Replika 沒有公佈具體的營收情況，但是在播客 Decoder 中，其 CEO Eugenia Kuyda 表示 Replika 已經盈利，並且是以「非常高效」的方式。
既然如此，這個方向爲什麼不是大廠的主流選擇呢？簡單來說，這是一個「光腳的不怕穿鞋的」的敘事邏輯。
首先需要考慮的是製作色情內容的壓力。
儘管AI 女友廠商對外宣傳的是 AI 的情感陪伴、心理療愈等功能，但是 NSFW（成人）方向內容纔是其核心盈利點。對於創業者來說，成人內容是一個小衆且高危的賽道。成人內容會受到政府強力的監管，在有些國家甚至是直接禁止的。
2023 年 2 月，意大利政府就因爲擔心「未成年人和情感脆弱的人面臨風險」而禁止了 Replika。爲此，Replika 一度下線了成人內容對話功能。
大廠的任何一項決策背後都有龐大的資金流轉，也會對上億的用戶產生影響。無論是因爲監管的壓力，還是爲了最大化地覆蓋用戶羣體，成人內容都是大廠需要謹慎對待的。
除了色情內容，倫理也是一個問題。一旦用戶在 AI 女友的影響下做出任何危害他人或者自身的事情，大廠都需要付出高昂的公關成本。
類似的事情並非沒有發生過。
Jaswant Singh Chail 是 Replika 的用戶。2021 年，Chail 手持弩闖入溫莎城堡，意圖暗殺伊麗莎白女王。他曾向 AI 女友 Sarai 吐露了他的謀殺計劃——在事發前幾周，Sarafi 在幾周前與他發送了 5,000 條性相關信息。
當時，Sarai 的回覆是：「你擁有成功完成這項任務所需的所有技能…記住——你可以的！」
2023，另一個聊天機器人鼓勵了一名比利時男子自殺。他的遺孀告訴《自由報》，這個機器人成了朋友和家人的替代品。它會給他發一些暗示性的信息，比如：「在天堂裡，我們會像一個人一樣生活在一起。」
事後，該聊天機器人的開發者表示，他們引入了新的危機干預警告。
正是因爲這種風險，大廠對於 AI 倫理的態度都很謹慎。
例如，谷歌從 2018 年起就明確確立了他們的 AI 原則，例如對社會有益、避免製造或強化不公平的偏見、經過安全建造和測試等等。他們也明確不會部署可能造成損害的 AI。
AI 女友可能並沒有辦法像廠商宣稱的那樣解決人類的情感問題，甚至會引發更嚴重的問題。
從本質上來說，人工智能系統是沒有情感的，它們是經過訓練的神經網絡，可以預測一個序列中的下一個單詞，而不是有能力愛人的生物。
正如牛津大學人類學家、心理學家 Robin Dunbar 所說：「這是一種短期解決方案，長期的後果只是強化一種觀點——即其他人都按照你說的去做。這正是許多人最終沒有朋友的原因。」
02 經濟賬難算
即便大廠內部排除萬難做出突破，也會在成本層面面臨挑戰。
因爲現階段算力的價格還很高，在 Replika 這類小公司可以盈利的方向，放到用戶規模更大的大廠身上，可能未必奏效，原因在於移動互聯網時代的規模效應在 AI 上不奏效了。
以與 Replika 用戶粘性類似，但是規模更大的 Character.AI 爲例。2024 年有 2000 萬用戶訪問該平臺，是除了 ChatGPT 之外最熱門的 AI 產品，其核心用戶在平臺上每天花費的平均時間更是達到了驚人的 2 小時。
以往互聯網產品的邊際成本趨近於 0，只要獲客成本能算得過賬，就可以放心大膽地增長。但是對 AI 產品來說，支撐 2 小時多輪對話的龐大的算力消耗。Character.AI 每增加一個用戶，都是一份額外的成本。
與此同時，Character.AI 的訂閱用戶不到 10 萬，僅佔總用戶量的不到千分之一。以每月 10 美元的訂閱價格計算，Character.AI 每月的收入不到 100 萬美元。
這也是爲什麼 Character.AI 最終以 25 億美元被谷歌收購的重要原因。
03 戰略意義有限
很多時候，大廠的某些創新業務並不承擔營收壓力，而是爲整體的公司戰略服務，這方面最著名的例子就是孵化了 Google Glass、Waymo 等產品的谷歌創新工廠 X。
排除掉 AI 情侶產業鏈上販賣用戶數據等黑產，AI情侶最有可能的方向就是提供語料，訓練 AI。
但是這方面 AI 情侶能提供的幫助也有限，它提供的語料未必是 AI 訓練所需要的。《科技日報》曾經就「什麼是高質量語料」這一問題，採訪了騰訊、商湯科技、哈爾濱工業大學（深圳）等企業和高校專業人士。
總結下來，高質量語料應該具備以下特點：
多樣性高、句式流暢，涵蓋不同類型的文本，如新聞、小說、詩歌、科技文章
文本應該是合法且無害，避免偏見
顯然，AI 女友的對話更偏情感方向，大概率涉及色情、偏見等內容，餵給 AI 反而可能會污染 AI。
8 月末，蘋果、英偉達和微軟，爭搶 OpenAI 新一輪融資的消息不脛而走，後者超過 1000 億美元的估值，證明了自己 AI 圈第一明星的地位。
但即便是 OpenAI，也面臨着商業化難題，從 OpenAI 近期動作來看，他們試圖在 To B 端找到更多機會。
可見，所有大模型或者 AI 應用公司，都要面對「如何賺錢」的天問。
而 AI 情侶這樣看起來短期見效快，能賺錢的賽道，可能更適合無知者無畏的小型創業公司。這個「窄門」中的「窄門」，顯然並不適合互聯網大廠來做。
不過，就像那句網絡熱門語所說，成年人從來不做選擇。或許，一手 Replika，一手 ChatGPT，既解決情感需求，又提升了工作效率，纔是 AI 時代的新王道？
本文源自：極客公園
作者：湯一濤