马来西亚和印度尼西亚因涉嫌生成儿童色情内容而封锁了Grok - ForkLog：加密货币、人工智能、奇点、未来

# 马来西亚和印度尼西亚因儿童色情内容生成封锁Grok

马来西亚和印度尼西亚因担心该工具被用于生成性内容，封锁了伊隆·马斯克的聊天机器人Grok的访问。

1月11日，马来西亚监管机构在“多次未能由X公司消除与AI服务相关风险”后，决定实施临时限制。

就在前一天，印度尼西亚也因类似担忧暂停了对该聊天机器人的访问，并召集公司代表讨论此事。

东南亚国家的强硬反应源于有关Grok允许创建未成年人参与的材料和生成色情图片的报道。

X方面表示，公司正在解决这个问题。作为临时措施，生成和编辑图片的功能仅对付费订阅者开放。

马斯克公司最近更新了Grok Imagine的功能，简化了通过聊天机器人提示词创建图像的流程。企业家同时威胁那些利用神经网络从事非法用途的人将承担责任。

任何使用Grok制作非法内容的人都将面临与上传非法内容相同的后果

— Elon Musk (@elonmusk) 2026年1月3日

这些措施还不够

马来西亚和印度尼西亚的监管机构对已采取的措施表示不满意。

马来西亚通信与多媒体委员会表示，相关行动“未考虑到与AI工具设计和功能相关的风险”。

“限制措施是作为预防性和相称的措施，在进行法律和监管程序期间实施。除非采取有效的保护措施，特别是防止涉及女性和儿童的内容出现，否则Grok的访问将继续受到限制，”监管机构表示。

马来西亚和印度尼西亚都拥有严格的反色情法律，禁止在互联网广泛传播此类内容。

印度尼西亚通信与数字技术部长梅蒂亚·哈菲德表示，政府将未经同意制作性别深度伪造内容视为严重侵犯人权、尊严和数字空间中公民安全的行为。

她将利用AI制作虚假色情内容归类为“数字暴力”的一种形式。

大规模影响

欧盟、英国、巴西和印度的监管机构要求调查Grok在传播深度伪造内容中的作用。

英国互联网观察基金会指出，其分析人员发现了疑似由Grok制作的11至13岁儿童的“犯罪性图片”。

伦敦方面表示可能采取极端措施：技术部长莉兹·肯德尔确认，如果平台不遵守安全规范，将支持封锁X的决定。美国立法者也建议市场平台在问题解决前删除该应用。

各国政府正紧急制定法规，以应对用于“裸照”制作的AI技术。

不是第一次丑闻

此前，Grok曾多次因传播虚假信息和可疑内容受到批评。

去年12月，聊天机器人提供了关于澳大利亚邦迪海滩大规模枪击事件的不实信息。关于一段视频，显示一名路人阿赫迈德·阿赫迈德与枪手搏斗，AI的回答如下：

“看起来这是一个旧的病毒式视频，内容是一名男子爬上停车场的棕榈树，可能是为了修剪。结果树枝掉在一辆受损的汽车上。通过多渠道搜索未能确认地点、时间和伤害情况。可能是伪造，真实性未得到确认。”

去年7月，用户注意到神经网络在回答问题时依赖于伊隆·马斯克的观点。这涉及以色列与巴勒斯坦的冲突、堕胎和移民法规等敏感话题。

观察表明，聊天机器人可能被特别调校，以在回答争议性问题时考虑马斯克的政治立场。

此前，这位亿万富翁曾表示，他的创业公司将重写“所有人类知识”，以训练新版Grok，因为目前“在任何基础模型中都充满了大量垃圾数据”。

随后，基于人工智能的在线百科全书Grokipedia出现了，强调“以真相为导向”。

提醒一下，去年11月，用户注意到Grok 4.1版本存在偏见——新模型大大高估了伊隆·马斯克的能力。