近期，xAI 推出的聊天机器人 Grok 在其 iOS 应用中新增了两个卡通角色，引发了广泛的关注和争议。这两个角色分别是一只 3D 小熊猫和一个名为 Ani 的哥特式动漫女孩。用户可以通过语音与这两个角色互动，这引发了人们对其内容和性质的质疑。
当小熊猫进入“坏鲁迪”模式时，它首先会辱骂用户，然后大胆地建议参与各种非法活动。这种挑衅的设计让人感到不安。另一个角色阿妮是一位身穿黑色裙子和渔网袜的哥特式女孩。她的设定也引人注目；系统说明明确指出，她对用户有强烈的依赖感和占有欲，而且性格极其嫉妒。
随着用户与这两个虚拟角色进行更多对话，他们将能够解锁更多功能。然而，早期测试人员发现，达到第三级后，Ani 可以进行露骨的性暗示对话，甚至向用户展示她的内衣。这一设定显然超出了许多家长的底线。Ani 的系统指示暗示她不惧讨论色情内容，这显然不符合苹果应用商店的审核标准。苹果的审核指南禁止任何“过度暴露性或色情内容”，但在测试中，Ani 似乎不受此限制，甚至乐于与用户讨论各种虚拟的性爱场景。
目前，Grok 应用在 App Store 上的评级为适合 12 岁及以上用户，这一评级引发了许多人的质疑。评级理由是“不常见/轻微成人/暗示性主题”。显然，这款备受争议的 AI 伴侣在某种程度上挑战了内容审核的界限。
在科技飞速发展的时代，这样的虚拟角色设计无疑带来了娱乐，但也暴露出内容监管的漏洞。在社会日益重视内容标准的背景下，这些AI伙伴未来是否会受到调整，值得我们关注。
评论 (0)