澳大利亚年龄验证报告作者承认用ChatGPT，否认AI导致引用错误

你花了几百万元支持的技术报告，竟然连基础引用都是假的？澳大利亚这项旨在验证未成年人社交媒体禁令的技术评估，正陷入严重的信任危机。报告作者承认使用了人工智能进行编辑，但更令人担忧的是报告中出现了多处引用错误。这些错误并非简单的笔误，而是可能源自AI的"幻觉"现象——即人工智能生成看似合理但实际不存在的信息。

这项由英国Age Check Certification Scheme（ACCS）实施的测试，本应为澳大利亚12月生效的社交媒体禁令提供技术支持。然而，当记者核实报告中的参考文献时，发现至少6条引用存在问题。有些链接指向根本不存在的学术论文，有些则与报告声称的内容完全不符。这种程度的错误对于一个耗资巨大的官方项目来说，是不可接受的。

当政府依赖一份充满错误引用的报告来做决策时，你想想这会造成什么后果？澳大利亚通信部长Anika Wells曾公开称赞这份报告，称其展示了"许多有效的选择"，并为政策实施铺平了道路。但如果这些"有效选择"是基于虚假或错误的信息，那么整个政策的理论基础就会受到质疑。

《卫报》的调查团队发现，报告中不仅存在DOI链接失效的问题，还有多篇论文的发表时间与报告声称的访问时间为矛盾。一篇被引用的论文据称在2025年3月就已访问，但其主要作者确认该论文直到2025年6月才正式发表。这种时间线上的明显矛盾，进一步削弱了报告的权威性。

面对质疑，ACCS的发言人最初否认使用人工智能生成内容，随后才承认团队使用AI进行了段落改写。发言人强调所有引用都经过人工核查，并对此表示歉意。但这种回应能否平息公众的质疑？当AI被用于改写文本时，它也可能无意中引入或强化错误信息。

更令人困惑的是，ACCS提供的纠正清单本身也存在问题。新引用的文献中，部分发表时间、作者和期刊名称与原始引用不一致。对于另一条无法查找的参考文献"Weber et al. 2011"，ACCS提供了一个替代来源，但该来源中并不存在署名为Weber的参考文献。这种"越改越错"的局面，让人不得不怀疑整个研究过程的严谨性。

你可能会问，政府机构为何如此轻易地接受这样的报告？澳大利亚联邦政府此前曾对承包商在撰写报告时使用AI持负面态度。德勤公司曾因报告出现错误而被退还44万澳元合同款项，这件事本应成为前车之鉴。然而，这次ACCS的报告问题似乎重蹈覆辙。

参议院调查听证会上，相关部门官员表示已经与ACCS会面，但并未独立核实那些失效链接的问题。官员们称检查1000页报告中的26页引用内容"非常困难"，并接受了ACCS关于链接失效的解释。这种被动接受的态度，是否反映出了政府对技术细节监督的不足？

你是否意识到，一份有缺陷的报告可能如何影响数百万年轻人的生活？澳大利亚的社交媒体禁令旨在保护未满16岁的儿童，如果执行这一禁令所需的技术评估本身存在问题，那么禁令的实际效果将大打折扣。政策制定者需要基于准确可靠的信息做出决策，否则可能会采取无效甚至有害的措施。

澳大利亚国立大学的监管专家教授指出，如果政府收到的报告被发现存在虚假引用，无论是否由AI造成，都可能导致错误决策，并"削弱公众对政府机构的信心和信任"。这种信任损失的影响是深远的，不仅关乎这一项政策，更关乎整个政府机构的公信力。

面对AI技术在政府报告中的应用，我们需要建立更严格的质量控制机制。首先，应该明确要求所有引用必须经过人工双重核实，确保每条参考文献都真实存在且内容与报告主张一致。其次，对于涉及技术评估的报告，应该引入独立的第三方审查机制。

独立参议员指出，德勤事件本应让政府承包商在报告中随意引用文献的做法彻底结束。然而，现实情况表明这一教训并未被充分汲取。未来的合同条款中应该明确规定AI使用的范围和限制，并设立相应的处罚措施。只有这样，才能确保政府获得的每一份报告都是准确可靠的。

读完这篇文章，你认为政府在未来采购技术评估服务时，应该如何更好地监督AI的使用？欢迎在评论区分享你的观点，如果你喜欢这篇文章，请点赞并分享给更多需要了解这些信息的人。