大模型不稀奇,现在开始卷「小模型」了?

Geekpark.net - 2024年2月3日

大模型不稀奇,现在开始卷「小模型」了?

在通往 AGI 的路上,绝大多数公司的路线是不断做大参数,但面壁智能却走了一条相反的路线——尽可能把模型参数做小。 2 月 1 日,面壁智能推出了只有 2B(注:20 亿)参数量级的模型 MiniCPM,而其性能却超过了大参数模型 Mistral-7B(法国大模型公司 Mistral 旗下知名模型)、且部分超越 Llama-13B(Meta 旗下知名开源大模型)等,内部称之为「以小博大」。 这个结果揭露了这样一个事实:很多超大参数的大模型,它们的模型效率或许并没有最大化。 「我们希望探索模型性能的天花板。」面壁智…

記事全文を表示
国際分析

その他の重要なニュース

最初の一歩

ようこそ (Yōkoso)

登録すると、利用規約とプライバシーポリシーに同意したものとします。
今日の機会

楽しんでください

グローバル投資へのパスポート

Ivarは、国際投資のためにSwissquote銀行をお勧めします。以下のリンクから口座を開設し、5ロット以上取引すると、Ivar AIで使用できる$200をゲットしてサブスクリプションをアクティブ化できます。今日だけのこの特典をお楽しみください!

Swissquote

Swissquote で口座を開設していない方向けの特別オファー。
世界中で利用可能なサービス 次の国々を除く:アルジェリア、ベルギー、カナダ、中国、北朝鮮、米国、フランス、香港、イラン、イラク、ナイジェリア、シンガポール、シリア、トルコ、ジンバブエ。