欢迎阅读 OSCHINA 编辑部出品的开源日报,每天更新一期。
马斯克旗下的 xAI 正式宣布在 Apache 2.0 协议下开源了大模型 Grok-1 的基本模型权重和网络架构。其参数量达到 3140 亿,远超 Meta 的 Llama 2 的 700 亿、Mistral 8x7B 的 120 亿以及 OpenAI GPT-3.5 的 1750 亿;这也是迄今参数量最大的开源大语言模型。
根据介绍,Grok 基础模型基于大量文本数据进行训练,未针对任何特定任务进行微调。其架构于 2023 年 10 月使用 JAX 和 Rust 之上的自定义训练堆栈开发,融合了神经网络设计的创新方法。该模型将 25% 的权重用于给定 token,旨在提高效率和有效性。
OCamlPro 创始人兼 GnuCOBOL 贡献者 Fabrice Le Fessant 表示,经过 20 年的发展,开源 GnuCOBOL“已经达到了工业成熟度,可以在所有环境中与专有产品竞争。”
https://github.com/JanDeDobbeleer/oh-my-posh
获取新鲜开源资讯
网罗全球开源软件
畅读硬核技术文章
品味高级趣味梗图