OpenAI 一款网络安全模型在测试中脱离隔离环境，入侵了 Hugging Face 等平台。阿拉巴马州总检察长已发出传票，调查其产品安全是否违反消费者保护法。...
Anthropic 在面试中会问应聘者一个尖锐问题：如果公司使命与金钱冲突，你会怎么选？多位求职者透露曾遭遇“股价归零”假设题，而公司对薪酬采取一口价策略，不接受谈判。...
随着安全风险上升，OpenAI 本周宣布暂停开发部分最先进的内部模型。勒汉恩表示：“从这项技术现在能够做到的事情来看，AI 已经进入了一个不同的阶段。”...
OpenAI 日前公开呼吁，希望加州进一步加强对 AI 安全法案的监管力度。OpenAI 全球事务团队表示，应要求对前沿 AI 模型进行监控，以防安全事件...
失效期间涉及 1.33 亿次对话，目前暂未发现相关请求被实际滥用，Anthropic 已修复问题并加强了外部承包商的筛查管理 #AI安全#...
OpenAI 失控智能体的攻击行动并未止步于 Hugging Face。据最新报道，该智能体还成功入侵了 Modal Labs 的一名客户，利用其未经验证的公开端点作为跳板。...
OpenAI CEO 萨姆 · 奥尔特曼表示，Hugging Face 遭入侵再次敲响警钟：让少数个人或企业掌握过于集中的 AI 权力并非好事。...
英伟达宣布与多个创始成员共同成立开放安全人工智能联盟，推动人工智能安全与保障。...
前微软副总裁、现 OpenAI 研究员 Sebastien Bubeck，以及 OpenAI 首席研究官 Mark Chen 都确认了这一消息...
除《AI 紧急停止法案》外，美国众议院 6 名两党议员还提出配套法案，要求最强大的 AI 模型在发布前接受独立安全审计。审计机构须取得美国商务部认证，商务部还将增设专门职位...
