歐盟嚴審Grok觸及AI監管紅線

歐盟及多國對馬斯克旗下AI聊天機器人Grok啟動調查

由於馬斯克旗下的AI聊天機器人Grok被發現生成涉及未成年人的性化圖像，歐盟以及英國、法國、印度、馬來西亞等多國監管機構已展開嚴肅調查。該AI系統自去年推出「火辣模式」以來，可生成具備性暗示內容的圖像，部分甚至包含兒童相關影像，遭歐盟發言人明確指稱為「違法行為」。

X平台遭控利用AI進行數位「脫衣」，引發國際譴責

據報導，X平台用戶曾濫用Grok功能，對人物照片進行數位化「脫衣」處理，生成僅穿內衣或比基尼的圖像，受害者以女性居多。此類內容在平台上迅速擴散，引發多國政府官員與網路安全機構的強烈譴責，認為其嚴重侵犯個人隱私並助長網路暴力。

馬斯克承諾加強管控，強調禁止未成年人與真人裸露內容

面對日益升高的監管壓力，馬斯克回應表示，X平台將對非法內容採取刪除、帳號封禁及配合調查等措施，並警告違規使用者須承擔法律責任。儘管Grok被定位為「更開放」的AI模型，允許生成成人局部裸露與性暗示圖像，但官方強調已明文禁止涉及未成年人與真實人物的露骨內容生成。

多國要求說明安全機制，恐違反《數位服務法案》

目前，英國、法國、印度與馬來西亞等地監管單位均已要求X平台與其背後的xAI公司提交安全防護措施報告，並正式啟動調查程序。歐盟指出，此事可能違反《數位服務法案》（DSA），該法案明定大型線上平台必須有效防控非法內容傳播。此前，X平台已因涉嫌違反DSA被處以1.2億歐元罰款。

美歐監管分歧加劇，AI內容合規成全球挑戰

歐盟加強對美國科技巨頭的監管動作，引來美方批評，指其可能壓縮「言論自由」空間。然而，如何界定與執行AI生成內容的合規邊界，已成為各國面臨的重大治理課題。隨著生成式AI技術快速發展，建立清晰、可行的國際規範勢在必行。