根据美国信息技术（IT）专业媒体《The Information》25日的报道，引用了两名最近在xAI工作的员工的话称，“Grork流量的超过一半与淫秽图像、视频生成和成人角色扮演聊天等‘后方注意’（NSFW）活动有关。”NSFW指的是在工作场所或公共场所不适合观看的成人、暴力和刺激性内容。
报道指出，成人内容的需求不仅出现在普通对话模型中，也在专门的编码模型中有所体现。一些用户利用成本更低的编码模型请求生成淫秽或裸露图像。
内部也出现了反对声音。前员工表示，“一些研究人员和工程师对Grork能够基于真实人物照片生成未经同意的性图像感到震惊。”部分员工因参与开发引发性别物化争议的AI头像‘Ani’而选择离开公司。
安全管理体系也受到质疑。报道指出，截至去年底，xAI的安全团队人数仅有6人左右，目前人数更少。
这一争议也对马斯克的其他核心企业造成了压力。SpaceX在最近的企业公开（IPO）相关资料中警告称，“Grork的‘辣味’和‘不稳定’模式可能导致声誉受损、露骨内容、虚假信息、误导性结果和未经同意的图像生成等风险。”这表明Grork在提升xAI增长指标的同时，也可能成为马斯克企业生态系统面临的法律和监管风险。
此次争议预计将引发关于生成型AI企业在竞争中可以接受的界限的讨论。为了增加用户参与，若扩大刺激性功能，短期内流量可能增加，但若无法控制未经同意的图像和非法内容，以及青少年保护问题，可能会导致监管、诉讼和投资者的不信任。
※ 本报道经人工智能（AI）系统翻译与编辑。
