第四範式戴文淵談“遷移學習”:知識轉移能力加速AI發展

第四範式公司創始人、CEO戴文淵做客格隆匯高端訪談《格隆博士會客廳》。談及論文中提到過的“遷移學習”,戴文淵表示,通俗地解釋,遷移學習是一種知識轉移或知識遷移的能力。人其實是有非常好的遷移學習能力。例如,有的人數學學得比較好,就會發現學物理也會簡單一點,因爲學物理的時候能把數學的一些能力遷移過來。回看2005年,當時絕大多數的AI跟遷移學習是沒有關係的,好比你學數學學得再好,去學物理還是從頭再來。當時的AI需要大量的樣本訓練才能“學好”,就是因爲沒有遷移學習的能力。而在大模型時代,遷移學習已經成爲比較普遍的、大家都在用的一種能力,所以會有小樣本學習(Few-shot Learning),甚至是零樣本學習(Zero-shot Learning),實際上這都是因爲有遷移學習的能力,最後才能夠達到這樣的效果。