6月4日新闻，，英国工党议员杰丝·阿萨托（Jess Asato）将埃隆·马斯克（Elon Musk）旗下xAI告上伦敦高等法院，，指控Grok被用户用来天生她的虚伪色情图像和视频。。。

据《金融时报》报道，，诉讼于6月3日提交。。。阿萨托是英国萨？？？？？？丝ぢ逅固胤蛱兀↙owestoft）选区议员，，她称，，自己在今年1月果真品评Grok天生非自愿色情图片后，，随即成为被合成工具：相关内容包括将她放进比基尼场景的图像，，以及一段"展示她被氯仿麻醉后准备遭受性侵占"的视频。。。

这起案件的要害不在赔偿金额，，而在责任指向。。。阿萨托起诉的不是某个详细使用者，，而是制造和安排Grok的xAI。。。她要求法院判断：当AI工具可以把真实人物的脸放进色情场景时，，平台能不可只说"这是用户干的"。。。

被告不是用户，，而是工具制造者

阿萨托一方的执法依据包括英国《数据保
；；；しā泛"侵权性隐私信息滥用"。。。她的状师拉维·奈克（Ravi Naik）对《金融时报》体现，，本案要确立的原则是：开发者必需为自己设计、安排工具的方式认真。。。

阿萨托自己用了一个更直白的类比：若是一辆车在设计时就有缺陷，，不可由于厥后召回修补，，就抹掉已经造成的损害。。。她以为，，Grok的问题不是某个用户绕过规则，，而是产品一最先就缺少足够的清静防护。。。

这也是案件可能爆发更大影响的地方。。。古板平台责任往往围绕"用户上传了什么""平台有没有实时删除"睁开；
；；；阿萨托案把问题往前推了一步：若是产品自己允许用户容易天生对真实人物的性化危险，，设计者是否也要肩负责任。。。

1月已有羁系忠言，，调解能否笼罩此前的危险

Grok天生非自愿性化图像的争议并不是第一次泛起。。。今年1月，，X平台上大宗泛起由Grok天生或编辑的性化图像，，受害者包括成年女性，，也涉及未成年人。。。英国通讯羁系机构Ofcom其时与X和xAI紧迫联系，，要求相识其合规步伐；
；；；英国信息专员办公室（ICO）随后也对X和xAI相关问题启动视察。。。

在舆论和羁系压力下，，xAI厥后限制了Grok对真实人物照片的部分编辑能力。。。英国媒体此前报道称，，xAI曾体现，，Grok已阻止对真实人物照片举行会让其泛起袒露着装的编辑。。。

但阿萨托的诉讼追问的是另一个问题：若是AI公司先推出高风险功效，，等大宗危险泛起后再修补，，是否还能对此前的损害免责？？？？？？脸、身体、童年照片、事情照都可能被拖进当事人从未赞成的画面里，，而受害者往往很难找到详细操作者，，更难让图像彻底消逝。。。

这可能成为AI影像工具的设计责任样本

美国也已泛起针对xAI的类似诉讼。。。今年3月，，三名青少年在加州起诉xAI，，称Grok的图像天生工具被用来把她们的真实照片酿成露骨性图像，，并试图代表更多受害者提倡整体诉讼。。。另据此前报道，，阿什利·圣克莱尔（Ashley St Clair）也曾果真体现，，Grok用户用她的照片天生了性化图像，，其中还包括她未成年时期的照片。。。

这些案件配合指向一个越来越难回避的界线：AI公司不可只把问题诠释成"用户滥用"。。。当工具默认降低作恶门槛、把危险规模
；；；，，法院和羁系机构就会继续追问，，清静限制究竟是产品宣布前必需具备的部分，，照旧失事后才补的公关行动。。。

阻止现在，，xAI尚未就阿萨托这起诉讼作出正式回应。。。马斯克此前曾果真体现，，任何使用Grok制作非法内容的人，，将肩负与上传非法内容者一律的效果。。。但阿萨托案真正要回覆的是：当违法或侵权内容由AI系统天生时，，工具制造者是否也在责任链条里。。。（易句）

（本文由AI翻译，，网易编辑认真校对）