德勤使用AI制作昂“报告被抓，被迫退还29万美元政府合同款

今日新闻 2025年10月07日 19:12 0 aa

信息来源：https://futurism.com/future-society/deloitte-government-ai-hallucinations

全球四大会计师事务所之一的德勤因在政府报告中使用人工智能生成虚假引用，被澳大利亚政府要求退还29.1万美元合同尾款，这一事件将生成式AI在专业服务领域的风险问题推向前台。

澳大利亚就业和工作场所关系部证实，德勤同意偿还这笔资金，作为其委托报告合同的最后一期付款。该报告原本旨在审查一个自动对未履行义务的求职者实施福利处罚的系统，但却因包含AI生成的虚假引用而陷入争议。

这份所谓的"独立鉴证审查"报告存在多处明显错误，包括引用根本不存在的学术文献和研究资料。悉尼大学社会学讲师克里斯托弗·拉奇首先发现了这些问题，他指出德勤在发布修订版本时试图掩盖痕迹，但新版本中仍然包含5到8个虚假引用。

咨询业AI应用的双刃剑效应

盖蒂/Futuris

德勤等大型咨询公司近年来在AI工具开发上投入数十亿美元，声称这些工具能够显著提高审计效率和报告质量。然而，这起事件暴露出当前AI技术在专业服务应用中的根本性缺陷。

生成式AI的"幻觉"问题并非个案。今年早些时候，美国疾病控制中心在特朗普政府期间引用了一项根本不存在的AI生成研究。法律界也出现过律师因引用AI虚构的判例而被制裁的案例。这些事件表明，专业领域对AI工具的依赖正在带来前所未有的风险。

英国金融时报的最新调查显示，英国六大会计师事务所均未建立正式的AI质量监控机制，这意味着类似的错误可能在更大范围内存在。专业服务机构在追求效率提升的同时，似乎忽略了对AI输出内容进行严格验证的重要性。

德勤发言人在回应中承认了脚注和引用的错误，但坚持认为报告的核心内容和建议保持不变。修订版报告中新增的脚注显示，工作人员使用了OpenAI的GPT-4o模型来协助撰写。这种做法引发了关于专业服务透明度和责任承担的深层次讨论。

政治界的强烈反应

澳大利亚政界对此事件反应强烈。工党参议员黛博拉·奥尼尔直言不讳地批评道："德勤存在人类智力问题。"她指出，咨询公司经常通过承诺专业知识来赢得合同，但在签约后却派遣成本最低的人员执行工作。

奥尼尔进一步建议，政府部门在与咨询公司签约时应该明确询问具体的执行人员资质，并验证是否使用了AI工具。她讽刺地表示："否则，采购者最好直接订阅ChatGPT，而不是雇佣大型咨询公司。"

绿党参议员佩妮·奥尔曼-佩恩同样对工党政府的做法提出批评，认为应当要求德勤全额退款，并停止将政策决策外包给咨询伙伴。这些政治反应反映出公众对咨询业专业性和可信度的质疑正在加深。

行业变革的必然趋势

这起事件凸显了专业服务行业面临的根本性挑战：如何在拥抱AI技术提升效率的同时，确保输出质量和专业标准。当前的事件表明，仅仅依靠AI工具而缺乏人工验证机制是不可持续的。

咨询行业的商业模式正在经历深刻变化。传统上，客户为咨询公司的专业知识和经验买单，但AI工具的普及正在模糊这种价值边界。如果AI能够完成大部分基础性工作，那么咨询公司的核心价值主张是什么？

监管层面的变化也在酝酿中。多个国家的监管机构开始关注AI在专业服务中的应用，特别是在审计、法律和医疗等高风险领域。预计未来将出台更严格的AI使用披露要求和质量控制标准。

对于德勤这样的行业领导者而言，这次事件无疑是一个警醒。公司需要在AI应用策略上进行根本性调整，建立更严格的质量控制机制，并对AI工具的局限性有更清醒的认识。同时，如何向客户透明地披露AI使用情况，也将成为维护专业信誉的关键因素。

这起事件的影响可能超出德勤本身，成为整个咨询行业反思AI应用策略的转折点。在AI技术快速发展的背景下，专业服务机构必须在创新与质量之间找到平衡点，确保技术进步不会损害行业的根本价值和公众信任。

阿里没有重启口碑，大众点评重启了“品质外卖”

发表评论