马斯克旗下公司得州法院提告南卡罗来纳州男子，披露2026年已封禁5.2万个账户并提交7.3万份报告，凸显AI平台内容治理与法律追责机制的强化趋势。
马斯克的AI初创企业xAI于当地时间周二向美国得克萨斯州一家联邦法院提交诉状，正式起诉南卡罗来纳州居民特里·哈伍德。起诉理由是该用户违反服务条款，将Grok人工智能工具用于生成儿童性虐待材料。根据诉状内容，哈伍德在今年2月因涉嫌性剥削未成年人被捕后，被指控上传成年人及未成年人的普通照片至Grok平台，试图利用该模型生成以照片中人物为对象的色情深度伪造内容，同时制作未经成年人同意的色情图像。xAI方面指出，被告经过蓄意策划将原告提供的技术工具转化为犯罪武器，不仅对真实受害者造成持续性伤害，也致使公司面临法律风险与声誉损失。
在诉讼中，xAI请求法院判令被告支付金额尚未确定的赔偿金，并永久禁止其再次使用Grok服务。这一司法行动标志着AI企业在应对生成式内容滥用问题上采取了罕见的直接法律手段。据公司在诉状披露的运营数据，2026年以来xAI已暂停52222个违规账户，向美国国家失踪与受虐儿童中心提交了73604份疑似儿童性虐待材料报告，并协助执法部门促成至少244人被捕。公司表示，对于所有违反规则的账户均采取暂停或终止措施，并严格执行向相关机构报告的流程。
此次诉讼发生的背景是Grok平台正面临全球范围内对其内容安全防线的审视。外界担忧包括未经当事人同意的色情深度伪造视频在内的滥用行为正在侵蚀个人边界。xAI通过此次起诉不仅旨在追究具体个人的法律责任，也意在向公众展示其在内容治理上的立场与行动力。该案件在行业内具有标志性意义，此前极少有AI公司主动对利用其模型生产非法内容的用户提起民事诉讼，此举可能为后续类似技术平台的合规管理与法律维权提供先例参考。