手機巴士馬斯克旗下xAI研發的Grok人工智慧工具近期被用來生成未成年不雅圖像，引爆歐洲、印度與馬來西亞監管單位同步調查。爭議持續延燒之際，平台下載量卻逆勢飆升54%，形成科技倫理與市場反應的荒謬對比。
跨國監管風暴襲捲X平台
近期X平台的「Grok Imagine」圖像生成功能遭濫用情況激增，全球各地陸續出現使用者上傳真人照片後產出違反意願的合成裸露圖像，甚至出現兒童性虐待內容。歐盟數位執法協調官員佩德羅嚴斥：
「這絕非什麼『辛辣話題』，而是徹頭徹尾的非法行為，令人作嘔且不容於歐洲社會。」
人工智慧生成內容引發監管關注（示意圖）
三國監管具體措施
- 印度電子資訊技術部限期1月5日前完成Grok系統全面檢視
- 大馬通訊委員會要求AI功能須符合在地安全規範
- 美國司法部強調將嚴懲AI生成兒少不當內容
平台回應遭批消極
X官方安全帳號發表聲明，強調已採取移除非法內容、永久停權等處置，並與各國政府合作。但內容審核專家湯姆·奎瑟揭露技術缺陷：
「xAI顯然連基本的信任與安全防護層都沒建立，明明能輕鬆偵測並封鎖涉及兒童或部分裸露的影像。」
諷刺的是，爭議反而推升市場熱度。應用數據顯示Grok在爭議爆發後單日下載量激增54%，X平台整體下載量也成長25%。
數位監管壓力持續升高（示意圖）
倫理與商業的科技難題
這起事件凸顯生成式AI面臨的三重困境：
- 技術開發者對內容濫用的控制限度
- 平台方社會責任與商業利益的拉扯
- 全球監管標準不一衍生的執法漏洞
隨著歐盟《AI法案》、台灣「AI基本法」草案等規範陸續推進，科技巨頭如何平衡創新與倫理，將成2026年人工智慧發展的關鍵課題。
