百度或比OpenAI更早發現Scaling Law
三言科技12月31日消息,據環球網報道,外媒報道稱百度比OpenAI更早發現Scaling Law。
據悉,“Scaling Law”原則認爲,訓練數據和模型參數越大,模型智能能力就越強。該思想一直被認爲是出自OpenAI在2020年發表的論文《Scaling Laws for Neural Language Models》中。
不過,OpenAI論文合著者前OpenAI研究副總裁、Anthropic創始人Dario Amodei在一期播客中稱,他在2014年與吳恩達在百度研究AI時,就已經發現了模型發展的規律Scaling Law這一現象。
也有行業人士發文稱,關於Scaling Law原始研究實際上來自2017年的百度公司。
相關資訊
- ▣ Scaling Law百度最早提出!OpenAI/Claude受它啓發,致謝中有Ilya
- ▣ 張俊林:OpenAI o1的價值意義及強化學習的Scaling Law
- ▣ OpenAI開啓推理算力新Scaling Law,AI PC和CPU的機會來了
- ▣ OpenAI押注的「1X」訓出專用世界模型,首證機器人Scaling Law
- ▣ 拯救OpenAI 1500億估值,就靠o1了?全新Scaling Law終結奧特曼「非營利遊戲」
- ▣ Scaling Law“暴力美學”真的失效了嗎?
- ▣ Scaling Law或將終結?哈佛MIT預警:低精度量化已無路可走,重磅研究掀翻AI圈
- ▣ Scaling Law失效,AI泡沫底層邏輯崩了?
- ▣ 國產算力格局重塑,Scaling Law再引發討論 | 投研報告
- ▣ 微軟CTO:AI大模型的“Scaling Law”還能走多遠?
- ▣ 媲美GPT-4o,多模態模型Molmo挑戰Scaling law
- ▣ Scaling Law不適用於投資行業?朱嘯虎在2024WAIC再度“語出驚人”
- ▣ 預訓練的 Scaling Law 正在走入死衚衕,o1 讓更多創業公司重新復活
- ▣ 斯坦福伯克利重磅發現DNA Scaling Law,Evo榮登Science封面!AI設計DNA/RNA/蛋白質再突破
- ▣ AI 3D生成天花板再拉昇!清華團隊煉成3D Scaling Law
- ▣ Hinton揭秘Ilya成長曆程:Scaling Law是他學生時代就有的直覺
- ▣ 傳神語聯何恩培:依賴Scaling Law的大模型路線已遇瓶頸
- ▣ 階躍星辰CEO姜大昕:Scaling Law中短期內依然處於陡峭曲線
- ▣ 單靠推理Scaling Law無法成就o1!無限推理token,GPT-4o依然完敗
- 武漢指最早12/8發病 專家:爆發時間或更早「9月出現疑例」
- ▣ 非共識問題成爲WAIC熱議焦點,大模型Scaling Law是否繼續有效?
- ▣ 對話月之暗面楊植麟:對Scaling Law樂觀,預訓練還有提升空間
- ▣ 續命Scaling Law?世界模型GPT-4o讓智能體超級規劃,OSU華人一作
- ▣ 朱嘯虎:我不相信Scaling Law,大模型技術迭代放緩利好應用公司
- ▣ 不同數據集有不同的Scaling law?而你可用一個壓縮算法來預測它
- ▣ Scaling Law遞減,堆砌數據、算力拼AI模型已行不通?大廠正在找出路
- ▣ 第四範式戴文淵:Scaling Law的下一個階段是數據的scale,中國有大機會
- ▣ 智源大會巔峰對話:至少在未來5年裡,Scaling Law仍將是大模型產業發展的主要方向
- 放棄吧!openAI玩DOTA2的表現比我們"更像人類"