英国工党议员杰丝·阿萨托已正式向英国高等法院提起诉讼，指控埃隆·马斯克旗下的人工智能公司xAI。诉讼的核心在于，阿萨托声称xAI的Grok AI平台被蓄意用于生成并传播针对她的色情深度伪造图像，其性质和影响已远远超出一般性技术失误的范畴。
阿萨托的声明指出，此类损害数千名女性及未成年人权益的低俗内容，并非产品研发过程中的偶然疏忽，而是源于产品设计层面的选择。她此次采取法律行动，意在追究相关设计决策的责任，并要求xAI公开承认错误并作出赔偿。此举也反映了公众对AI内容生成技术潜在滥用问题的日益担忧。
尽管xAI在今年1月中旬曾表示对Grok的图片生成功能进行了限制，特别是在特定区域禁止生成暴露服饰的图像，但媒体在2月份的调查发现，该限制措施并未有效阻止不当内容的生成。用户仅需通过特定指令，便能轻易规避现有的安全防护，继续生成违规内容。此前，美国巴尔的摩市也曾因类似原因，对xAI提起消费者保护法规相关的诉讼。
此案由AWO律所代理，其法务主管强调，这是全球范围内首次针对人工智能产品“本质设计”进行追责的法律案件。该律所希望通过此案向整个AI行业传递一个明确信号：人工智能研发企业必须将安全保障和伦理考量融入产品设计之初，而非将其视为事后的补救措施。xAI目前正计划推进其作为SpaceX子公司的上市进程，面临着全球规模最大的IPO纪录的可能性。在此关键时刻，这场围绕AI伦理和数据隐私的法律纠纷，无疑为整个生成式人工智能行业敲响了警钟。
Grok AI作为一款生成式AI模型，其核心在于文本和图像的生成能力。然而，其图像生成功能若缺乏严格的伦理约束和安全防护，便可能成为滋生深度伪造内容的温床。用户可以通过文本指令来驱动图像生成，这就要求模型在理解指令的同时，能够识别并拒绝可能导致不当输出的请求。此类事件凸显了AI模型在内容审核、用户行为规范以及责任归属方面的挑战。