OpenAI向FBI举报！男子向ChatGPT详述杀前女友计划

达伦·周今年3月与交往六个月的女友分手后，开始通过AI倾诉内心的愤怒与不甘。他向AI描述前女友的兴趣爱好、常去地点，以及身边其他男性的信息。

AI平台明确规定，一旦系统检测到用户可能有伤害他人的计划，审核小组将介入调查。情节严重者，平台会直接向执法部门举报。这不仅是规则，更是法律责任。

不到两个月，达伦的消息已经发生质的变化。他从单纯抱怨分手，转变为详细描述强奸和谋杀计划，甚至扬言事后自杀。

他在消息中写道：我会在这个月底之前杀了她，如果我得不到她，那谁也别想得到她。这种威胁不再是模糊的情绪宣泄，而是经过反复演练的具体计划。

今年5月，联邦探员将两个月的AI聊天记录移交棕榈滩县警长办公室。一名查看记录的警员指出，材料中只保留了达伦发送的信息，没有AI的回复。

警方随后上门确认女方安全。这名21岁的莱克沃思比奇女孩透露，达伦长期表现出反复无常、嫉妒心强和控制欲强的行为。她甚至不敢当面提出分手，只选择通过电话结束关系。

分手后，达伦不断通过电话、短信和社交媒体信息纠缠前女友，反复追问一名男子在她AI视频下留下的评论。他使用不同应用生成的电话号码继续联系她。

女方保存了大量信息截图，其中许多内容带有骚扰、侮辱、性意味和威胁性质。这些数字痕迹最终成为指控他的关键证据。

助理州检察官安娜·库斯科娃在今年6月以加重跟踪骚扰、书面死亡威胁和非法使用手机三项重罪起诉达伦·周，每项罪名最高可判25年监禁。

经过协商，达伦于8月13日对三项指控全部认罪，换取无需入狱且不留下重罪定罪记录的协议。法院判处他8年缓刑，期间必须遵守多项严格限制条件。

聊天记录在司法案件中作为证据已不罕见，但由AI平台主动举报用户给警方的情况仍属少见。达伦案为所有AI用户敲响了警钟。

无论技术如何发展，任何线上言行都可能留下永久记录。请在开口之前三思，别让一时的冲动毁掉你的未来。你觉得AI应该主动举报用户的威胁言论吗？欢迎在评论区分享你的观点，别忘了点赞和转发给更多人看到。