1月12日，據(jù)環(huán)球網(wǎng)報道，馬斯克旗下人工智能企業(yè)xAI開發(fā)的聊天機器人格羅克（Grok），因平臺監(jiān)管缺失，被廣泛濫用于生成網(wǎng)絡(luò)色情圖片，甚至涉及兒童色情領(lǐng)域，遭到多個國家的批評與抵制。目前，印尼、馬來西亞已正式實施封禁Grok，歐盟、英國等啟動深度調(diào)查并發(fā)出封禁警告。

Grok作為xAI的核心產(chǎn)品，內(nèi)置在馬斯克旗下的X平臺（原推特），用戶可直接調(diào)用其圖像編輯功能。近期，X平臺出現(xiàn)大規(guī)模濫用亂象，部分用戶利用Grok生成真實人物的虛假性暴露內(nèi)容，受害者囊括數(shù)百名成年女性和未成年人，這些違規(guī)內(nèi)容在平臺上肆意散播，引發(fā)多國譴責。

當?shù)貢r間10日，印度尼西亞通信和數(shù)字事務部長表示，由于擔心人工智能會生成色情內(nèi)容，該國暫時封禁了美國企業(yè)家馬斯克旗下人工智能企業(yè)xAI的聊天機器人Grok，成為第一個拒絕訪問該人工智能工具的國家。緊隨其后，馬來西亞通訊與多媒體委員會于1月11日宣布暫時限制Grok訪問，指出其被反復濫用于生成“色情、不雅和未經(jīng)同意的篡改圖像”。

此外，美國3名民主黨參議員于1月9日要求蘋果和谷歌下架X和Grok應用，認為在馬斯克未能阻止平臺傳播未經(jīng)同意的色情內(nèi)容及兒童性虐待圖像前，兩款應用不應繼續(xù)留在應用商店。

目前，歐盟委員會已要求X平臺保留所有Grok相關(guān)內(nèi)部數(shù)據(jù)直至2026年底，為潛在法律行動留存證據(jù)。英國科技大臣莉茲·肯德爾則警告，若X平臺不遵守英國法律，可能面臨“境內(nèi)訪問服務被阻斷”的處罰。法國巴黎檢方則證實，將對Grok涉嫌生成非法色情內(nèi)容啟動調(diào)查。

xAI于2025年8月為Grok推出圖像生成功能Grok Imagine，支持用戶通過文字提示或上傳圖片編輯生成圖像及短視頻，還特別設(shè)置了 “火辣模式”，該模式被外界質(zhì)疑本質(zhì)是為 “擦邊色情” 定制，大幅放寬了內(nèi)容生成尺度。

面對壓力，X平臺表示將對非法內(nèi)容采取“刪除資料、永久封禁賬號”等措施，并配合執(zhí)法機構(gòu)；同時，xAI將Grok的圖像生成功能限制為僅向付費用戶開放，試圖通過提高使用門檻減少濫用。馬斯克本人也在社交媒體上表示，任何使用Grok制作非法內(nèi)容的人，將面臨與上傳非法內(nèi)容同樣的法律后果。

業(yè)內(nèi)人士認為，此次事件可能推動各國加快AI監(jiān)管立法進程，尤其是針對生成式AI的內(nèi)容審核、用戶權(quán)益保護等環(huán)節(jié)的規(guī)范。