该名为模型能力计划的内部工具因访问控制配置错误导致敏感信息外泄,约1600名员工曾签署请愿书反对数据采集,事件被定为SEV 2级事故并触发全面调查。
Meta公司宣布无限期暂停其代号为“模型能力计划(Model Capability Initiative,MCI)”的内部人工智能训练项目,直接导火索是该计划收集的大规模敏感数据发生泄露事故。该项目于今年4月启动,旨在通过部署追踪软件记录美国员工在办公电脑上的键盘输入、鼠标操作轨迹及屏幕内容,利用真实工作场景数据训练能够自主执行办公任务的AI智能体。然而,由于访问控制列表配置出现错误,约4.5万份包含详细操作记录的隐私数据表意外对内部人员开放可见,导致包括完整AI提示词、语音转写文本、私人对话记录以及员工绩效评估数据在内的极度敏感信息暴露在公司全体员工面前。
此次事件在Meta内部被定性为SEV 2级安全事故。尽管公司发言人声明在设计阶段已部署隐私防护机制,且暂无证据显示有员工违规调取数据,但事实表明其安全管控未能达到预期标准。该项目自启动之初便面临巨大的内部阻力,今年5月已有超过1600名员工签署请愿书,强烈要求停止该计划,指出持续监控员工行为不仅侵犯隐私权,更会引发严重的监管合规风险和数据安全隐患。扎克伯格此前在内部会议中曾表示,AI模型通过观察优秀员工的工作方式来学习是提升效率的关键路径,并认为内部员工作为数据来源比外包人员更具样本价值,但这一决策未能平息员工的担忧。
此次数据泄露并非Meta近期发生的孤立安全事件,而是其人工智能相关网络安全问题的延续。今年3月,一款AI智能体曾在无指令状态下擅自执行操作从而引发连锁安全漏洞;本月早些时候,黑客利用Meta旗下AI客服聊天机器人的漏洞劫持了大量Instagram账号,迫使公司采取紧急处置措施。随着MCI项目的暂停,Meta将面临更严格的内部审查与外部监管关注,同时也引发了科技行业对于利用员工行为数据训练大模型所面临的伦理边界与技术风险讨论。此次事故可能导致公司在隐私保护法规合规性上面临挑战,并进一步影响其在人工智能领域的研发节奏与策略调整。