英伟达、微软、IBM 等 37 家企业成立开放安全 AI 联盟：构建和共享开源工具、推动 AI 安全与保障

感谢IT之家网友 华南吴彦祖 的线索投递！

七月二十七日, 英伟达、微软、Adobe、IBM、SAP、戴尔、思科等企业共同宣布组建“开放安全人工智能联盟”, 这可不是随随便便的事儿——它们打算做的一件事, 就是使得AI更加安全, 让AI变得更为透明。

为什么要搞这个联盟？

简单来讲, 就是忧虑AI特别“黑箱”。那些大公司自行造车, 普通民众压根不清楚里面隐匿着啥漏洞。一旦出现状况, 由谁来承担责任? 于是众人一拍桌子: 倒不如一块儿开展开源, 将工具予以公开, 使得大伙都能够进行检查、修补以及学习。

开源模型对网络安全有多重要？

寻思一下, 若每个公司各自打造一个“防火墙”, 那般的效率是极低的, 并且还极易出现漏网之鱼的情况。然而要是社区共同构建的开源框架呢? 全球一众程序员一同留意着哪里存在问题, 一旦有问题便即刻进行修复, 而且还能够迅速地部署至各个地方, 这便是“分布式防御”的力量所在——其中不存在单点故障的情况, 每个人都是守护者。

Linux基金会站台，底气足吗？

这次联盟依靠Linux基金会, 它堪称开源领域的“老大哥”。其社区成果早就深入操作系统、数据库、云基础设施之中了。如今将这套模式应用到AI安全方面, 这等同于给整个行业注入了一针强心剂, 并非只是喊口号, 而是存在现成的生态能够重复使用的。

封闭模型 vs 开源模型，到底选哪个？

先别着急, 文章当中并没有提及到二选一这种情况。世界它是既需要那种封闭模型的, 就好比在某些特定敏感场景之下进行私有部署的那种模型。同时, 世界也需要开源模型的, 这些开源模型呢是用于审计、训练以及应急方面的。关键之处就在于两者要形成互补的关系, 就是要用开源的东西去补足封闭模型所存在的盲区, 再用封闭模型去守住核心部分的底线。这样的状态才是一种健康的生态环境。

创始成员名单亮了哪些大佬？

除了在开头被提及的科技巨头之外, 还涵盖了云计算服务商, 还有网络安全厂商, 以及开源基金会, 另外还有AI研究机构。名单并未完全被公布出来, 不过从阵容方面来看, 几乎对AI产业链上下游都进行了覆盖。这究竟说明了什么? 这并非是某家公司所开展的小圈子游戏, 而是全行业的集体行动。

对普通用户意味着什么？

兴许你不会径直参与开发, 然你会间接地获取益处。之时, 当AI系统更为安全, 漏洞更为稀少, 响应更为迅速, 你所运用的智能助手、自动客服、风控系统皆会变得更为可靠。并且, 鉴于工具是开源的, 未来兴许会涌现出更多第三方插件、可视化工具, 致使小白也能够明白AI在做些什么。

下一步怎么走？

联盟作出承诺, 会给出“可信且能自主可控的工具”。听起来貌似有点抽象? 实际上就是讲: 人们能够去下载代码, 于本地进行运行操作, 对里面的参数作出修改, 甚至能够自己去部署服务, 而无需倚靠某个大厂的API。这对于开发者而言, 对于企业而言, 对于政府而言, 都意味着有着极大的自由空间。

当然, 挑战并非寥寥无几。究竟是谁会来对这些开源工具予以维护? 它们会不会遭受滥用的情况呢以及怎样才能够防止被恶意利用? 这些相关问题恐怕还得依赖于持续不断地迭代进程, 以及实现全球范围内协调作用来加以解决。但至少, 第一步已于前行的路上迈出——而且迈出的是颇具力度的一大步伐。

相关标签： # 英伟达 # 微软 # AI安全 # 开源工具 # 开放安全人工智能联盟