世界上最大的AI大模型：马斯克的Grok-1正式开源 - 卢松松博客

马斯克是真男人啊，不仅SpaceX发射基地可以随意参观、连设计图纸都公开了。SpaceX刚刚发射完没几天，连他的AI大模型Grok-1也正式开源了，文章结尾有下载地址。
Grok-1是当前世界上参数最大的、开源大语言模型。296GB的大小，3140亿参数，远超OpenAI GPT-3.5的1750亿。基础模型基于大量文本数据进行训练，没有针对任何具体任务进行微调;3140亿参数的MoE模型，在给定token上的激活权重为25%;2023年10月，xAI使用JAX库和Rust语言组成的自定义训练堆栈从头开始训练。
开源就是开放源代码，说白了就是开放专利，公开技术!但需要有足够的GPU才能运行。可能需要一台拥有628GB GPU内存的机器。英伟达Tesla A100 80G(原版PCIE)京东售价16万，平民玩家根本玩不起，仅8块GPU就接近百万。其他硬件配置就更不用说了。
前几年马斯克公布了特斯拉的多项专利，中国的新能源汽车如雨后春笋迅猛发展。这次会有什么会爆炸式发展呢?
预计全球Ai企业将迎来快速发展，马斯克开源Grok—1,将会同时造福中国Ai企业，助力中国Ai技术发展!
马斯克之前说过：科技创新才是推动人类进步的关键，而专利保护只会阻碍这个进程。他希望通过公开这些专利设计，鼓励更多人加入科技创新行列，共同推动人类社会进步。
GitHub - xai-org/grok-1: Grok open release
grok-1: synchronize from: https://github.com/xai-org/grok-1
来源：卢松松博客 QQ/微信：13340454 ，转载请注明出处！
本文地址：https://lusongsong.com/blog/post/17940.html
你关注的人，决定你看到的世界！ 著有《出奇制胜-互联网营销完全攻略》《做最成功的互联网创业者》两本书……
https://lusongsong.com/reed/1.html