每位人工智能领导者都该了解的9.42 亿美元治理教训

immvan

发布日期：2026年8月7日 Monica Porterfield

系统没有发生故障

Meta刚刚得知，“优化用户参与度”是要花钱的，价格高达9.42亿美元。

本周，新墨西哥州一名法官下令Meta公司向一个5.67亿美元的基金支付款项，用于解决Facebook和Instagram上对未成年用户造成的伤害。此外，陪审团在3月份还判处Meta公司支付3.75亿美元的民事罚款。陪审团认定该公司违反了该州的《不公平竞争法》，并就其平台对未成年人构成的风险误导了公众。

法院不仅要求进行检查，还责令该公司在未来五年内增加新的安全措施、公开风险信息，并每半年提交一次合规报告。Meta公司表示不同意这一裁决，并将提起上诉。

我分享这篇文章并非为了抨击Meta，而是因为它能给所有正在竞相将人工智能应用于运营的领导者们带来启示。

因为事实令人不安：Meta 的系统并没有故障。它们完全按照设计运行。它们的设计初衷是为了最大限度地提高用户参与度，而它们也确实做到了。

问题不在于算法的漏洞，而在于董事会的治理缺失。没有一位有权势的人明确界定“系统可以优化什么”和“应该允许它优化什么”之间的界限。

而这正是你们领导团队目前面临的抉择。

我们正处于商业史上技术应用速度最快的时期！企业正将人工智能融入招聘、客户服务、贷款、医疗保健和运营等各个环节，其速度往往远超人们界定人工智能出错时的责任归属。本月LinkedIn上讨论最多的治理话题并非能力，而是问责制：透明度、审计以及让人类参与其中。

Meta 裁决就是这种缺失的后果，规模扩大到了九位数。

每位高管都应该从中汲取三点：

• 优化某个指标是一种道德选择，而不仅仅是技术选择。当你告诉人工智能系统要最大化什么指标时，你实际上是在告诉它你愿意为了达到这个目标而牺牲什么。在部署之前，而不是在作证时，就应该明确地说明这种权衡。
• 人工监督并非繁文缛节，而是你能买到的最划算的保障。在重大决策中引入人工审核环节，只需召开一次会议即可。而另一种方案则需要花费9.42亿美元，并耗费五年时间接受法院监督的信息披露。
• 你拒绝自己构建的治理体系，最终会由别人为你构建，但却要按照别人的条件来执行。Meta现在会公开披露风险，因为法院要求这样做。每个领导者都可以选择：主动治理，还是被动接受治理。
  

三个要点 → “评估 → 试点 → 规模化”

我指导团队采用人工智能技术时，遵循一个简单的步骤：评估、试点、扩展。关键在于，治理应该先于扩展，而不是在诉讼之后。首先要明确任务、数据、所有者和风险。试点阶段要进行人工审核并取得可衡量的结果。只有在控制措施、培训和治理机制真正到位之后，才能进行扩展。

Meta率先扩张，现在却要反过来花钱来弥补损失。这是成本最高的操作流程。

我认识的最优秀的领导者对待人工智能治理的方式，就像他们对待安全一样：不是把人工智能治理视为拖慢他们速度的事情，而是把人工智能治理视为让他们能够快速前进而不损害他们应该服务的人民​​的事情。

真正的问题

这项技术将会变得越来越强大。决定它究竟是资产还是负债的关键问题，不是“它能做什么？”，而是“谁该为它所做的事情负责？”

如果你的组织明天部署了一款人工智能工具，你能说出负责的人是谁吗？如果答案是“不确定”，那这不是技术问题。这是你今年最重要的领导层对话。