当地时间10日，印度尼西亚通信和数字事务部长宣布，因担忧人工智能生成色情内容的风险，该国已暂时封禁美国企业家埃隆·马斯克旗下xAI公司开发的聊天机器人“格罗克（Grok）”。印尼由此成为全球首个禁止访问该人工智能工具的国家。
“格罗克”由xAI公司研发并内置于马斯克旗下的社交媒体X平台，用户可直接调用该工具进行图片和视频编辑。近期，X平台出现部分用户利用“格罗克”生成真实人物的虚假性暴露内容，并通过平台传播，受害者涉及数百名成年女性及未成年人。这一现象引发英国等多个国家的谴责，印尼政府随即采取封禁措施以遏制不良内容扩散。
此次封禁事件凸显了人工智能技术应用中的伦理与监管挑战。尽管“格罗克”具备图像生成等创新功能，但其被滥用引发的社会问题已引发多国关注。目前，xAI公司尚未对印尼的封禁决定作出公开回应，而X平台也未就内容审核机制调整发布说明。
此前，全球范围内已发生多起人工智能生成虚假内容的争议事件。例如，深度伪造技术被用于制作虚假影像，导致个人名誉受损甚至引发法律纠纷。此次印尼封禁“格罗克”再次表明，如何在保障技术创新的同时防范技术滥用，已成为国际社会亟待解决的共同课题。
