大模型不稀奇,现在开始卷「小模型」了?

Geekpark.net - 3 กุมภาพันธ์ ค.ศ. 2024

大模型不稀奇,现在开始卷「小模型」了?

在通往 AGI 的路上,绝大多数公司的路线是不断做大参数,但面壁智能却走了一条相反的路线——尽可能把模型参数做小。 2 月 1 日,面壁智能推出了只有 2B(注:20 亿)参数量级的模型 MiniCPM,而其性能却超过了大参数模型 Mistral-7B(法国大模型公司 Mistral 旗下知名模型)、且部分超越 Llama-13B(Meta 旗下知名开源大模型)等,内部称之为「以小博大」。 这个结果揭露了这样一个事实:很多超大参数的大模型,它们的模型效率或许并没有最大化。 「我们希望探索模型性能的天花板。」面壁智…

ดูข่าวทั้งหมด
การวิเคราะห์ระหว่างประเทศ

ข่าวอื่นที่เกี่ยวข้อง

ขั้นตอนแรก

ยินดีต้อนรับ

เมื่อลงทะเบียน คุณยืนยันว่าคุณยินยอมตามข้อกำหนดการใช้งานและนโยบายความเป็นส่วนตัวของเรา
โอกาสวันนี้

ใช้โอกาส

เอกสารเดินทางของคุณสู่การลงทุนระดับโลก

Ivar แนะนำธนาคาร Swissquote สำหรับการลงทุนระดับโลก โดยเปิดบัญชีผ่านลิงก์ด้านล่างและซื้อขายล็อต 5 ล็อตขึ้นไป คุณจะได้รับ $200 เพื่อใช้กับ Ivar AI และเปิดใช้งานสมาชิกของคุณ รีบรับข้อดีนี้ที่มีวันนี้เท่านั้น!

Swissquote

ข้อเสนอที่มี สำหรับคุณที่ยังไม่ได้เปิดบัญชีกับ Swissquote
บริการที่มีทั่วโลก ยกเว้นเฉพาะประเทศต่อไปนี้เท่านั้น: อัลจีเรีย, เบลเยียม, แคนาดา, จีน, เกาหลีเหนือ, สหรัฐอเมริกา, ฝรั่งเศส, ฮ่องกง, อิหร่าน, อิรัก, ไนจีเรีย, สิงคโปร์, ซีเรีย, ตุรกี และ ซิมบับเว.