稀宇科技推出萬億MoE模型abab 6.5
4月17日,稀宇科技MiniMax正式推出abab 6.5系列模型。abab 6.5系列包含兩個模型:abab 6.5和abab 6.5s。據介紹,abab 6.5包含萬億參數,支持200k tokens的上下文長度;abab 6.5s跟abab 6.5使用了同樣的訓練技術和數據,但是更高效,支持200k tokens的上下文長度,可以1秒內處理近3萬字的文本。在各類核心能力測試中,abab 6.5開始接近GPT-4、Claude-3、Gemini-1.5等大語言模型。
相關資訊
- ▣ 將多模態大模型稀疏化,3B模型MoE-LLaVA媲美LLaVA-1.5-7B
- ▣ 階躍星辰發佈Step-2萬億參數MoE語言大模型預覽版
- ▣ 北京深度求索公司推出首個國產開源MoE大模型
- ▣ MiniMax發佈abab大模型:6.51秒內可處理近3萬字文本
- ▣ 通用大模型創業硬核選手亮相 階躍星辰發佈萬億參數MoE大模型預覽版
- ▣ 最神秘國產大模型團隊冒泡,出手就是萬億參數MoE,2款應用敞開玩
- ▣ 全球科技早參丨微軟推出輕量級AI模型
- ▣ 生數科技與清華聯合推出視頻大模型Vidu
- ▣ 大模型初創企業MiniMax將發佈國內首個MoE大模型
- ▣ 阿里通義千問開源首個MoE模型
- ▣ 一塊錢100萬token,超強MoE模型開源,性能直逼GPT-4-Turbo
- ▣ 螞蟻百靈大模型推出20億參數遙感模型
- ▣ 「天工大模型3.0」4月17日正式發佈——同步開源4000億參數MoE超級模型,性能超Grok1.0
- ▣ 科大訊飛2024上半年虧損,在大模型研發等方面投入超6.5億
- ▣ 從零手搓MoE大模型,大神級教程來了
- ▣ 幻方量化旗下DeepSeek發佈第二代MoE模型
- ▣ 科技早報 | 階躍星辰發佈“萬億”和“多模”大模型;黃仁勳6月套現近1.7億美元
- ▣ 商湯科技推出新版AI模型 股價暴漲一度暫停交易
- ▣ 永太科技:2023年預虧4.5億元—6.5億元 同比轉虧
- ▣ 5年鉅虧438億元,商湯科技“押注”大模型
- ▣ 光迅科技聯合思科推出1.6T硅光模塊
- ▣ 早期項目|硅谷初創公司「Aizip」推出小型語言模型,與瑞薩科技合作
- ▣ MIT科技評出中國“最聰明”的大模型
- ▣ AI早知道|微軟發佈首個大氣AI基礎模型Aurora;崑崙萬維開源2千億稀疏大模型
- ▣ 科技早報 | 微軟將推出自研AI大模型;天貓、京東取消“618”預售
- ▣ 2024年1月社會融資規模增量爲6.5萬億元
- ▣ 聯發科 推繁中大型語言模型
- 陸反擊美國科技戰 限制稀土技術出口
- ▣ 中國銀河維持計算機推薦評級:國產開源MoE模型DeepSeek-V2性能媲美GPT-4,大模型價格戰拉開帷幕