Anthropic 迟迟不签公开信成“众矢之的”，CEO Dario Amodei 解释称公司从未主张禁止开源 AI 模型

说实话，看到这封信的时候我愣了一下。

20多家公司, 其中涵盖英伟达, 还有Meta, 以及微软, 一同整齐划一地站到队伍里, 对开放权重AI表示支持。

然后谷歌、亚马逊也跟了。

就Anthropic一直不说话。

他们为什么沉默？

大家都在猜。

有人说他们想垄断。

有人说他们怕开源抢生意。

Dario终于坐不住了。

他到底说了啥？

任何曾阅读过我往期所撰写文章的人, 都理应清楚了解, 我并不觉得这种禁令属于一种具备成效的举措。

嗯，先撇清关系。

“我们从未主张过对开放权重模型的禁令。”

好吧，那你们到底想干嘛？

开放权重模型到底好不好？

Dario说，没有危险功能的开放权重模型是公共资产。

除了算力成本，几乎零成本。

对企业、开发者、研究人员都有价值。

这话说得挺实在。

但他话锋一转。

他不同意公开信里的一个观点：

开放权重模型必然更容易实现防护措施。

或者说，广泛获取能力会让防御者比攻击者更有优势。

“在我看来，情况可能恰恰相反。”

这句话让我心里咯噔一下。

他举了个例子

生物学领域。

有种模型, 其具备强大的能力, 有着利用现成材料, 以快速的方式制造出大规模杀伤性病毒的可能性。

防御呢？

需要多年时间才能完成。

攻防不对称。

太不对称了。

那怎么办？

Dario说，保护主义禁令解决不了国家安全问题。

他倡导严厉打击工业规模的蒸馏操作。

不管开源闭源，都要接受强制性安全测试。

我忽然有点理解了

他不是反对开源。

他是怕。

怕那些能力太强的模型，落到不该落的人手里。

怕我们还没准备好防御，攻击就已经来了。

最后他说了什么

面对这般类别的问题, 理应借助严谨的发布之前的测试予以验证, 并非预先就去做出假设, 形成定论。

听起来很理性。

但总感觉，他话里有话。

大概这就是做AI的人，最真实的焦虑吧。

相关标签： # AI # 开源模型 # Anthropic # DarioAmodei # 开放权重