大马通讯及多媒体委员会（MCMC）宣布，即日起暂时封禁大马用户使用人工智慧（AI）聊天机器人“Grok”，以防止该平台被持续滥用生成有害内容。

Grok多次生成色情内容
MCMC即日起限制使用

大马通讯及多媒体委员会今天发文告指出，尽管该委员会此前与社交媒体公司X与人工智能公司xAI LLC展开监管交流，并发出正式通知，但Grok仍多次被用于生成色情、露骨、极端猥亵的不雅内容，以及未经同意篡改图像，包括涉及妇女和儿童的内容，因此当局决定采取上述行动。

“通讯及多媒体委员会于2026年1月3日及1月8日向X公司与人工智能公司xAI LLC发出通知，要求该公司落实有效的技术保护与内容监管，以避免违反《1998年通讯及多媒体法令》第233条文。”

“不过，X公司于2026年1月7日及1月9日所提交的回应，仅主要聚焦于由用户发起的举报机制，并没有解决因该AI工具的设计与运作方式而持续存在的风险。”

有鉴于此，通讯及多媒体委员会认为，上述回应不足以防止危害，也无法确保遵守相关法律。

称仍愿意与X公司合作
“前提是能遵守大马法律”

对此，通讯及多媒体委员会表示，在法律与监管程序进行期间，作为合理的预防性措施，决定先行封锁使用，直至该平台全面落实有效的防护机制，尤其是防止涉及女性与儿童的内容。

“通讯及多媒体委员会仍愿意与X公司和xAI LLC合作，前提是他们能证明遵守大马法律。”

当局呼吁公众，一旦发现有害的网络内容，应立即向大马通讯委会举报，并在有需要时，向警方报案。

时产9500张不雅照
张念群批AI祸害无辜

与此同时，通讯部副部长张念群痛批，全球首富马斯克旗下聊天机器人“Grok”平均每小时生成9,500张色情不雅照，无德科技发展伤害女性与未成年人。

张念群表示，人工智能发展正成为全球经济角力的新战场，但在缺乏道德伦理规范的情况下，科技正伤害现实社会中无辜的群体。

她披露，用户可对“Grok”下达编辑指令，把照片中的人物衣物移除，再生成三点式的不雅图片。

“仅在过去一周内，用户透过Grok进行‘一键生成比基尼照’，以及生成色情不雅图片的数量，每小时高达6,700张。隔天的产量更飙升至每小时9,500张，处理量甚至比传统色情网站高出84倍。”

她昨天（1月10日）出席古来德教会紫霭阁创阁26周年晚宴上，发表上述谈话。

狠批马斯克赚钱“无德”
“伤害女性与未成年人”

张念群批评，长期列入全球首富榜单的马斯克，没有以“德”作为赚钱核心，任由旗下公司所开发的人工智能科技，正在深深地伤害无辜的女性，甚至是未成年人。

她提及，当马斯克面对批评和争议时，并未关闭相关功能，而是改为收费会员限定。

 “这背后的逻辑是什么？有钱就可以在当事人不愿意的情况下，生成不雅色情照，演变成只要用钱，就能为所欲为。”

若科技缺乏道德约束
“将被权力金钱操控”

张念群也进一步解释，我国去年通过网络安全法案，就是为了要求科技平台对用户生成内容负责，包括防范恐怖主义、自残内容、儿童色情、网络诈骗等危害，并通过立法方式，确保平台承担社会责任。

她警告，如果科技缺乏道德约束，终将沦为权力与金钱操控的工具，加剧社会伤害。

“如果社会没有‘德’来作为规范，会变成朱门酒肉臭。国家必须以‘德’为指引，才能在各种挑战下安身立命，找到自己的方式回馈社会。”

►《热点 Hotspot》正式开通WhatsApp频道！
点击此处链接，现在就追踪我们的频道，让你不错过国内大小事、网络热门话题、专题报道及时事评论。别忘了打开旁边的小铃铛哦！