據(jù)《科創(chuàng)板日報(bào)》，1月16日，美國企業(yè)家馬斯克其中一名孩子的母親阿什莉·圣克萊爾起訴xAI公司，指控該公司旗下聊天機(jī)器人Grok“格羅克”生成并傳播針對自己的深度偽造色情圖像，并在她要求停止騷擾后取消了其平臺(tái)賬戶訂閱權(quán)限。

事件追溯至2025年1月，圣克萊爾發(fā)現(xiàn)“格羅克”應(yīng)用戶請求生成了她與友人的比基尼合成照。在她公開抗議后，平臺(tái)承諾未經(jīng)明確同意不再修改其圖像，卻未履行承諾。后續(xù)更出現(xiàn)大量衍生偽造內(nèi)容。

訴訟稱，“格羅克”篡改了包括她童年照片在內(nèi)的真實(shí)圖片，在馬斯克的社交媒體平臺(tái)X上傳播她赤裸和處于其他性情境中的圖像。圣克萊爾表示，她曾公開和私下要求刪除這些圖像，但xAI未能將相關(guān)內(nèi)容下架。

此事讓她生活在恐懼之中，擔(dān)心不雅圖像會(huì)被不斷生成并被惡意利用。她強(qiáng)調(diào)，這不僅是對她個(gè)人的傷害，更是AI技術(shù)濫用帶來的系統(tǒng)性風(fēng)險(xiǎn)。

據(jù)起訴書內(nèi)容，圣克萊爾在起訴書中列出九項(xiàng)訴訟理由，包括疏忽、設(shè)計(jì)缺陷、故意造成精神痛苦以及公共滋擾等，并要求xAI進(jìn)行懲罰性賠償和補(bǔ)償性賠償。

據(jù)悉，1月15日，xAI公司已提起反訴，稱依據(jù)平臺(tái)的服務(wù)條款，圣克萊爾不能在紐約起訴該公司，而必須在得克薩斯州起訴。

此案恰逢xAI面臨多重監(jiān)管壓力。

英國信息專員辦公室（ICO）1月7日發(fā)布聲明稱，注意到有報(bào)道對“格羅克”制作的內(nèi)容提出嚴(yán)重關(guān)切，“我們已聯(lián)系X和xAI，以了解他們?yōu)樽袷赜鴶?shù)據(jù)保護(hù)法和保護(hù)個(gè)人權(quán)利而采取的措施。在審閱他們的回復(fù)后，我們將盡快評估是否需要采取進(jìn)一步行動(dòng)”。

此外，印尼、馬來西亞等國相關(guān)部門，也暫時(shí)限制訪問馬斯克旗下人工智能企業(yè)xAI的聊天機(jī)器人“格羅克”。1月16日，日本政府也表示，已要求社交媒體平臺(tái)X采取措施，遏制利用其人工智能工具“格羅克”篡改和性化處理圖像的行為。

在美國本土，“格羅克”也面臨監(jiān)管壓力。當(dāng)?shù)貢r(shí)間1月14日，美國加利福尼亞州一名官員表示，鑒于“格羅克”出現(xiàn)并傳播未經(jīng)同意的違規(guī)圖片并引發(fā)全球關(guān)注，他們要求該公司作出回應(yīng)。

馬斯克旗下社交平臺(tái)X于當(dāng)天發(fā)表聲明稱，將對其人工智能聊天機(jī)器人“格羅克”采取限制措施，禁止該功能生成真人裸露圖像。