百度或比OpenAI更早發現Scaling Law

三言科技12月31日消息,據環球網報道,外媒報道稱百度比OpenAI更早發現Scaling Law。

據悉,“Scaling Law”原則認爲,訓練數據和模型參數越大,模型智能能力就越強。該思想一直被認爲是出自OpenAI在2020年發表的論文《Scaling Laws for Neural Language Models》中。

不過,OpenAI論文合著者前OpenAI研究副總裁、Anthropic創始人Dario Amodei在一期播客中稱,他在2014年與吳恩達在百度研究AI時,就已經發現了模型發展的規律Scaling Law這一現象。

也有行業人士發文稱,關於Scaling Law原始研究實際上來自2017年的百度公司。