既加州和歐洲對性暗示的圖像問題表达关注之後，XAI限制了Grok的影像編輯功能。

immvan

2026-01-15 Raphael Satter


2025年5月30日，美國華盛頓特區白宮，馬斯克與美國總統川普（未出現在圖中）共同出席記者會。路透社/內森霍華德©湯森路透

1月14日（路透社）—埃隆馬斯克的人工智慧公司xAI週三晚間表示，該公司已對其Grok AI聊天機器人的所有用戶實施限制，禁止影像編輯。此前，該服務產生了帶有性暗示的圖像，引發了全球監管機構的擔憂。

從歐洲到亞洲，各國政府和監管機構都在嚴厲打擊 Grok 產生的色情內容，實施禁令並要求採取保障措施，這是全球範圍內遏制非法內容的日益增長的趨勢。

「我們已採取技術措施，防止 Grok 帳戶允許編輯穿著比基尼等暴露服裝的真實人物圖像，」該公司在 X 帖子中表示。

“這項限制適用於所有用戶，包括付費用戶。”

本月，大量經過處理的超逼真女性照片開始在社群媒體平台X上氾濫，這些照片中的女性被描繪成身穿極小比基尼、擺出不雅姿勢或渾身傷痕。在某些情況下，未成年女性甚至被數位化剝光至只剩泳裝，引發了廣泛的批評。

2026年1月14日，英國倫敦，一個公車站張貼著一張由抗議團體「人人都討厭埃隆」（Everyone Hates Elon）製作的海報，呼籲抵制埃隆·馬斯克的社交媒體平台X。路透社/克里斯·J·拉特克利夫©湯森路透

上週，Grok 開始只允許付費訂閱用戶使用其圖像生成和編輯功能。

路透社發現，儘管 xAI 限制了 Grok 公開生成或編輯圖像的能力，但該聊天機器人在 xAI 發佈公告前的周三仍然私下按需生成帶有性暗示的圖像。

億萬富翁馬斯克擁有 xAI，而 xAI 又擁有 X（前身為 Twitter）。

週三，xAI補充說，它將根據用戶所在地區，阻止用戶在「此類行為違法的地區」產生穿著暴露的人像圖片。但它並沒有指明這些地區是哪些。

加州官員要求給出答复

週三早些時候，加州州長和司法部長表示，在馬斯克稱他不知道 Grok 生成了任何「未成年人裸體圖像」後，他們要求 xAI 做出解釋。

「我們要求 xAI 立即就其阻止此類內容的創建和傳播的計劃作出答复，」加州總檢察長羅伯·邦塔在 X 上寫道。

加州州長加文·紐森呼籲邦塔「立即對該公司展開調查，並追究xAI的責任」。

紐森和邦塔的評論是迄今為止美國官員就 X 網站上人工智慧生成的未經同意的性化圖像激增問題發表的最嚴肅的評論。

加州的這一舉動加劇了馬斯克在美國乃至全球面臨的壓力。立法者和倡導團體呼籲蘋果和谷歌將Grok從應用商店下架。

起初，馬斯克公開對這場爭議一笑置之，用幽默的表情符號回應用戶對大量性暗示照片的評論。

最近，X公司表示，他們會嚴肅對待有關兒童性虐待材料的舉報，並嚴格監管。

週三早些時候，馬斯克表示，他“不知道Grok生成過任何未成年人裸照。絕對沒有。”

X公司尚未立即回應有關加州公告和馬斯克言論的問題。

xAI 沒有直接回應透過電子郵件提出的對加州官員聲明或馬斯克關於他不知道未成年人性化圖像的帖子發表評論的請求。

路透社收到了一封自動回覆郵件，內容是：「傳統媒體的謊言」。