X 因国际反弹而收紧 Grok 图像生成

报道：

X公司表示，它正在限制与图像生成和编辑相关的功能。格罗克在聊天机器人被用于创建未经同意的真人（包括未成年人）性化图像后，限制了付费用户的访问权限。

X Safety 官方账号周三发布的**消息显示，该公司额外技术限制旨在限制用户通过 Grok 编辑真人图像的方式。

此前有报道称，该人工智能能够根据简单的指令（例如让用户将人物置于比基尼姿势）生成带有性暗示的图片。在许**况下，用户直接在X平台上发布的照片下方标记了Grok，导致该人工智能生成了经过编辑的图片，这些图片会公开出现在同一讨论串中。

“我们已采取技术措施，防止 Grok 账户允许编辑穿着比基尼等**服装的真人照片，”该公司表示，并提及了要求 Grok 将人们换上比基尼的病毒式传播趋势。

该公司还表示，通过X平台上的Grok账户创建和编辑图像的功能现在**付费用户使用。该公司称，此举旨在提高问责制，防止Grok图像工具被滥用，从而违反法律或X平台的政策。此外，该公司还实施了基于地理位置的限制。

“我们现在对所有用户通过 Grok 帐户和 Grok in X 生成身穿比基尼、内衣和类似服装的真实人物图像的功能进行了地理封锁，尤其是在此类行为违法的地区。”

尽管有所改变，但据报道，Grok 仍然允许用户从直接上传到 AI 的照片中移除或修改服装。解密测试和用户报告公告发布后。

在某些情况下，格罗克承认“保障措施的漏洞该公司被指控利用其软件生成12至16岁女孩衣着**的图片，这种行为违反了公司自身的政策。这些功能的持续可用性引起了维权组织的关注。

“如果有关格罗克制作性化图片——尤其是儿童性化图片——的报道属实，那么他可能已经违反了德克萨斯州的法律，”公共公民组织德克萨斯州主任阿德里安·谢利在一份声明中表示。“德克萨斯州当局无需费力调查这些指控。X公司的总部位于奥斯汀地区，该州显然有责任查明其法律是否遭到违反，如果遭到违反，应处以何种处罚。”

此前，出于对人工智能模型安全性的担忧，公共公民组织曾呼吁美国政府将Grok从可接受的人工智能模型名单中移除。种族主义由聊天机器人展示。

全球反弹

全球政策制定者也加大了对格罗克的审查力度，导致多项调查展开。

欧盟委员会说如果 Grok 的安全保障措施仍然不足，X 和 xAI 可能面临《数字服务法》的强制执行。与此同时，澳大利亚网络安全专员说自 2025 年底以来，涉及 Grok 和未经同意的 AI 生成的性图像的投诉数量翻了一番。监管机构表示，能够生成逼真编辑图像的 AI 图像工具使执法和受害者保护变得更加复杂。

在英国，监管机构是Ofcom。打开英国通信管理局（Ofcom）正根据《网络安全法》对X公司展开调查，原因是该公司利用Grok生成非法性化深度**图像，其中包括涉及未成年人的图像。**表示，如果X公司被认定不合规且未能采取纠正措施，Ofcom**可能会寻求法院支持，从而有效地在英国封禁该服务。

其他**，包括马来西亚,印度尼西亚， 和韩国为了保护未成年人，当局也已对 Grok 展开调查。

美国各州都在密切关注事态发展，而加利福尼亚州率先对Grok展开调查。周三，加州总检察长罗伯·邦塔宣布了这一消息。探测因创建和传播未经同意的女性和儿童性露骨图像，对 xAI 和 Grok 提**讼。

邦塔在一份声明中表示：“最近几周，大量报道揭露了xAI未经同意制作并发布到网上的露骨**内容，令人震惊。这些内容描绘了女性和儿童**且性暗示的场景，已被用于在互联网上骚扰他人。”

调查将审查 xAI 部署 Grok 是否违反了有关未经同意的私密图像和儿童性剥削的州法律。

邦塔表示：“我敦促xAI立即采取行动，确保此类事件不再发生。我们对利用人工智能技术制作和传播未经同意的私密照片或儿童**待材料的行为零容忍。”

尽管调查仍在进行中，但 X 表示，对于儿童性剥削、未经同意的**和不受欢迎的性内容，它采取“零容忍”立场。

该公司写道：“我们会采取行动，删除高优先级违规内容，包括儿童**待材料（CSAM）和非自愿**内容，并对违反我们X规则的账户采取适当措施。如有必要，我们还会将寻求儿童性剥削材料的账户举报给执法部门。”