6月4日新闻，，，英国工党议员杰丝·阿萨托（Jess Asato）将埃隆·马斯克（Elon Musk）旗下xAI告上伦敦高等法院，，，指控Grok被用户用来天生她的虚伪色情图像和视频。。。。

据《金融时报》报道，，，诉讼于6月3日提交。。。。阿萨托是英国萨？？？丝ぢ逅固胤蛱兀↙owestoft）选区议员，，，她称，，，自己在今年1月果真品评Grok天生非自愿色情图片后，，，随即成为被合成工具：相关内容包括将她放进比基尼场景的图像，，，以及一段"展示她被氯仿麻醉后准备遭受性侵占"的视频。。。。

这起案件的要害不在赔偿金额，，，而在责任指向。。。。阿萨托起诉的不是某个详细使用者，，，而是制造和安排Grok的xAI。。。。她要求法院判断：当AI工具可以把真实人物的脸放进色情场景时，，，平台能不可只说"这是用户干的"。。。。

被告不是用户，，，而是工具制造者

阿萨托一方的执法依据包括英国《数据保；；しā泛"侵权性隐私信息滥用"。。。。她的状师拉维·奈克（Ravi Naik）对《金融时报》体现，，，本案要确立的原则是：开发者必需为自己设计、安排工具的方式认真。。。。

阿萨托自己用了一个更直白的类比：若是一辆车在设计时就有缺陷，，，不可由于厥后召回修补，，，就抹掉已经造成的损害。。。。她以为，，，Grok的问题不是某个用户绕过规则，，，而是产品一最先就缺少足够的清静防护。。。。

这也是案件可能爆发更大影响的地方。。。。古板平台责任往往围绕"用户上传了什么""平台有没有实时删除"睁开；；；阿萨托案把问题往前推了一步：若是产品自己允许用户容易天生对真实人物的性化危险，，，设计者是否也要肩负责任。。。。

1月已有羁系忠言，，，调解能否笼罩此前的危险

Grok天生非自愿性化图像的争议并不是第一次泛起。。。。今年1月，，，X平台上大宗泛起由Grok天生或编辑的性化图像，，，受害者包括成年女性，，，也涉及未成年人。。。。英国通讯羁系机构Ofcom其时与X和xAI紧迫联系，，，要求相识其合规步伐；；；英国信息专员办公室（ICO）随后也对X和xAI相关问题启动视察。。。。

在舆论和羁系压力下，，，xAI厥后限制了Grok对真实人物照片的部分编辑能力。。。。英国媒体此前报道称，，，xAI曾体现，，，Grok已阻止对真实人物照片举行会让其泛起袒露着装的编辑。。。。

但阿萨托的诉讼追问的是另一个问题：若是AI公司先推出高风险功效，，，等大宗危险泛起后再修补，，，是否还能对此前的损害免责？？？脸、身体、童年照片、事情照都可能被拖进当事人从未赞成的画面里，，，而受害者往往很难找到详细操作者，，，更难让图像彻底消逝。。。。

这可能成为AI影像工具的设计责任样本

美国也已泛起针对xAI的类似诉讼。。。。今年3月，，，三名青少年在加州起诉xAI，，，称Grok的图像天生工具被用来把她们的真实照片酿成露骨性图像，，，并试图代表更多受害者提倡整体诉讼。。。。另据此前报道，，，阿什利·圣克莱尔（Ashley St Clair）也曾果真体现，，，Grok用户用她的照片天生了性化图像，，，其中还包括她未成年时期的照片。。。。

这些案件配合指向一个越来越难回避的界线：AI公司不可只把问题诠释成"用户滥用"。。。。当工具默认降低作恶门槛、把危险规模；；，，，法院和羁系机构就会继续追问，，，清静限制究竟是产品宣布前必需具备的部分，，，照旧失事后才补的公关行动。。。。

阻止现在，，，xAI尚未就阿萨托这起诉讼作出正式回应。。。。马斯克此前曾果真体现，，，任何使用Grok制作非法内容的人，，，将肩负与上传非法内容者一律的效果。。。。但阿萨托案真正要回覆的是：当违法或侵权内容由AI系统天生时，，，工具制造者是否也在责任链条里。。。。（易句）

（本文由AI翻译，，，网易编辑认真校对）