假开源真噱头？Meta再陷「开源」争议，LeCun被炮轰Meta只是开放模型
新智元报道
编辑：耳朵【新智元导读】大模型开源的热潮下，隐藏着诸多问题，从定义的模糊到实际开放内容的局限性，Lecun再陷Meta大模型是否真开源的质疑风波只是冰山一角。
Llama 3模型并不是真正意义的开源，至少不是按照最严格定义的开源。开源意味着研究开发人员可以自由选择如何使用这些模型，不受限制。但在Llama 3的一些案例中，Meta对于一些许可的授权进行了限制。例如，Llama模型不能用于训练其他模型；拥有超过7亿月活跃用户的应用程序开发人员则必须向Meta申请特殊许可证。许多学者和研究机构也注意到了对于「开源」一词的滥用情况，许多标榜为「开源」的大模型都存在重大限制，「真假开源」存疑。
diss闭源却「翻车」？
Zuckerberg着重强调了开源的价值，即把人工智能工具交到许多人手中。他还不忘diss那些他认为不够开放的竞争对手，并补充说他们似乎认为自己在「创造上帝」。
「I find it a pretty big turnoff when people in the tech industry…talk about building this ‘one true AI,’ It’s almost as if they kind of think they’re creating God or something and…it’s just—that’s not what we’re doing, I don’t think that’s how this plays out.」当科技行业的人...谈论打造「唯一真正的人工智能」时，我觉得这让人非常反感。这几乎就像是他们认为自己在创造上帝之类的东西，而这根本不是我们正在做的事情，我也不认为事情会这样发展。小扎认为，打造唯一真正的AI听上去刺耳又令人反胃，暗含一种垄断和控制的野心，你是「唯一真正的AI」，那其他AI都是歪门邪道？其次，创造上帝是用来讽刺追求「唯一真正的AI」的人，狂妄地想要把握AI领域的绝对话语权。最后，小扎赶紧和这些人划清界限，不是一路人。可见，小扎认为AI世界应该是百花齐放、百家争鸣的，一家独大绝不可取。CEO的言论也代表了Meta的态度，Meta一直以来都宣传秉持着开放的态度，Zuckerberg更是开源的坚定支持者。diss一出也会面临各种评论「diss back」的挑战，你说你是开源，真的吗？Meta的首席人工智能科学家Yann LeCun上个月在LinkedIn上发布了有关 Meta公司免费发布大型语言模型战略的帖子。一些评论者对其做法大加赞赏，称其正在「重塑行业合作」。也有人不同意LeCun将这一战略描述为「开源」。一位评论者写道，「这绝对只能叫做开放模式而非开源，称某些东西为开源而实则并非开源，实在是对开源运动的曲解。」另一位评论者说，「很遗憾，在这种情况下，开源只是数据洗钱的营销手段。」第三位专家建议Meta将Llama模型称为「开放权重」，而不是「开源」。因为该公司共享模型权重，但不共享训练数据等信息。这似乎是语义学上的争论。但是，一些模型，包括Meta、法国Mistral和德国Aleph Alpha的模型，是否真正开源，已经成为人工智能工作者，尤其是学术研究人员之间反复争论的问题。对于这个问题的答案也会带来相关政策的导向。欧盟的《人工智能法》规定，开源模型不受某些法条的限制。如果欧盟认为某个模型是开源的，那么它可能会要求模型制作者必须公开关于如何开发模型的信息。
什么才算「开源」？
这种争论源于开源人工智能缺乏一个明确的定义。为开源软件制定标准的「开源计划」目前正在制定开源人工智能的定义。它对开源软件的定义有几个标准，包括软件必须允许自由再分发并包含源代码。除此之外，该非营利组织和其他开源软件的支持者还强调技术的透明度和同行评审制度。但一些开源支持者表示，开源软件的传统定义并不能很好地诠释AI大模型开源。软件开源是指源代码的开源，拿到源代码就能「知其然而知其所以然」，可以在源代码的基础上，进行修改优化或增加新功能。然而，许多自称开源的大模型开发者并不是真正的开源，虽然这些大模型提供了部分代码和训练好的权重，但在训练数据和具体训练过程透明度却有所欠缺，或者很少分享他们的模型是如何训练和微调的。例如，Meta的Llama3要求月活跃用户超过7亿的公司申请许可证，而这些公司的申请后享有的权利可能比Llama3的一般协议还要少。OSI尚未批准Meta的许可证，这表明该组织认为开发者遵循了其开放源码软件标准。OSI执行董事Stefano Maffulli在接受TechCrunch采访时说，「参与评审的其他人都完全同意，Llama本身不能被视为开源。与我交谈过的在Meta工作的人都知道，这有点牵强。」在OSI为开源人工智能下定义的同时，一些研究人员和学者也开始自己动手。荷兰拉德布德大学语言研究中心的教授们上个月提出了一个新的框架，用于评估一个模型是否开源，该框架基于可用性、文档和访问许可相关的14项标准。该框架并不敲定一个模型的代码是开放的还是封闭的，而是为14项标准中的每一项划定一个等级:开放、部分开放或封闭。
因为「该模型的源代码都没有公开，而且只共享了运行该模型的脚本」。相比之下，研究小组BigScience Workshop的BloomZ模型在这一标准上被评为开放，因为它「提供了用于训练、微调和运行模型的源代码」。论文作者、拉德布德大学语言技术助理教授Andreas Liesenfeld表示，「我们发现，模型制造商存在过度营销的问题，他们将自己的产品宣传得比他们所说的更开放。」他补充说，「如果不了解模型是如何训练的以及训练的内容，就很难解决法律责任和公平性的问题。」与此类似，斯坦福大学基金会模型研究中心的研究人员去年10月推出了基金会模型透明度指数，根据100项指标来衡量模型开发商的透明度。
开源内容的局限性
一般开放的内容
代码：实现大模型训练和推理所需的代码，包括模型架构、训练算法、模型推理等核心代码。这些代码让开发者能够理解模型的基本结构和推理过程，但无法完全复现或改进模型，增加功能等等。权重：训练完成后得到的模型参数，这些参数是模型在推理过程中所需的核心要素。权重数据使得开发者能够在现有模型基础上进行相关推理，但对模型的核心训练细节，例如如何进行模型训练却一无所知。例如，Meta的Llama系列模型只开放了模型的权重和部分代码，而对训练数据和具体训练过程的详细信息却守口如瓶。这种有限的开放使得开发者只能使用现有模型进行推理，依葫芦画瓢，而无法深入理解或改进模型。