埃隆·馬斯克旗下社交平臺X于1月14日發(fā)表聲明稱，將對其人工智能聊天機器人Grok采取限制措施，禁止該功能生成真人裸露圖像。此前Grok因平臺監(jiān)管缺失，被廣泛濫用于生成網(wǎng)絡(luò)色情圖片，甚至涉及兒童色情領(lǐng)域，遭到多個國家的批評與抵制。
X平臺安全團隊在聲明中表示：“我們已實施技術(shù)措施，防止Grok賬號允許編輯真人穿著比基尼等暴露服裝的圖像。此項限制適用于所有用戶，包括付費訂閱者。”
此外，X平臺安全團隊還稱，其正在全天候工作以增設(shè)防護措施，移除違規(guī)及非法內(nèi)容，在必要時將永久封禁賬戶并與當(dāng)?shù)卣皥?zhí)法部門開展協(xié)作。
馬斯克14日早些時候曾表示，其未發(fā)現(xiàn)Grok生成過任何“裸露的未成年圖像”。他在X平臺發(fā)文中稱："我確實未發(fā)現(xiàn)Grok生成過任何未成年人裸體圖像，完全為零。"
Grok由xAI公司開發(fā)，并內(nèi)置于X平臺，X用戶可直接調(diào)用該聊天機器人。目前，Grok因相關(guān)爭議在全球范圍內(nèi)面臨監(jiān)管與輿論雙重壓力。
歐盟委員會負責(zé)數(shù)字經(jīng)濟事務(wù)的發(fā)言人托馬斯·雷尼耶1月5日回應(yīng)說，正“嚴肅調(diào)查”針對Grok的相關(guān)投訴?！癎rok推出所謂‘熱辣模式’，不僅展示露骨性內(nèi)容，部分生成內(nèi)容還帶有兒童特征。這根本不是‘熱辣內(nèi)容’，而是違法行為，令人震驚。這種事在歐洲沒有立足之地?！?/span>
英國信息專員辦公室（ICO）1月7日發(fā)布聲明稱，注意到有報道對Grok制作的內(nèi)容提出嚴重關(guān)切，“我們已聯(lián)系X和xAI，以了解他們?yōu)樽袷赜鴶?shù)據(jù)保護法和保護個人權(quán)利而采取的措施。在審閱他們的回復(fù)后，我們將盡快評估是否需要采取進一步行動”。
印度尼西亞通信和數(shù)字事務(wù)部長當(dāng)?shù)貢r間1月10日表示，由于擔(dān)心人工智能會生成色情內(nèi)容，該國暫時封禁Grok，成為第一個拒絕訪問該人工智能工具的國家。
馬來西亞通訊與多媒體委員會（MCMC）1月11日發(fā)布聲明稱，當(dāng)日起暫時限制訪問馬斯克旗下人工智能企業(yè)xAI的聊天機器人Grok，原因是Grok被濫用，用于生成色情、不雅和未經(jīng)同意的篡改圖像。
MCMC表示，已向X平臺和xAI發(fā)出通知，要求其阻止可能違反馬來西亞法律的AI生成內(nèi)容，但兩家公司的回應(yīng)未能解決該工具的固有風(fēng)險，“在實施有效的安全措施之前，對Grok的訪問將繼續(xù)受到限制”。
在美國本土，Grok也面臨監(jiān)管壓力。當(dāng)?shù)貢r間1月14日，美國加利福尼亞州一名官員表示，鑒于Grok出現(xiàn)并傳播未經(jīng)同意的違規(guī)圖片并引發(fā)全球關(guān)注，他們要求該公司作出回應(yīng)。加州總檢察長羅布·邦塔在社交媒體平臺發(fā)文稱：“我們要求xAI立即就其如何計劃阻止此類內(nèi)容生成和傳播給出明確答復(fù)?！?/p>