發表
我的網誌
美國三位民主黨參議員近期發起聯合行動，強烈要求科技巨頭 Apple(AAPL) 與 Google(GOOGL) 將馬斯克旗下的社群平台 X 及其 AI 應用程式 Grok 從應用程式商店中下架。這項行動的主因在於，X 平台與 Grok 未能有效阻止用戶生成並散布未經同意的色情深偽影像（Deepfake），以及涉及兒童性虐待的內容。
參議員 Ron Wyden、Ed Markey 與 Ben Ray Luján 在週五致函 Apple(AAPL) 執行長提姆·庫克（Tim Cook）與 Google(GOOGL) 執行長桑德爾·皮查伊（Sundar Pichai）。信中明確指出，這兩大科技公司應「立即移除 X 和 Grok 應用程式」，直到該公司執行長馬斯克解決這些令人不安且可能違法的活動。參議員們警告，若對 X 平台的惡劣行為視而不見，將使應用程式商店的審核機制淪為笑柄，並破壞科技巨頭長期以來聲稱「應用程式商店比直接下載更安全」的公開承諾。
生成式AI缺乏防護機制釀成監管風波
此次爭議的核心在於 Grok 與 X 平台讓用戶能輕易生成並廣泛散布「深度偽造」的色情內容，受害者往往是在未經許可的情況下被盜用肖像。此外，Grok 也被用於生成基於種族或族裔貶低他人的影像。倫敦泰晤士報近期報導了一個駭人聽聞的案例：有用戶利用 Grok 生成了一張大屠殺倖存者後代身穿比基尼站在奧斯威辛集中營外的合成影像，引發輿論譁然。
這些問題已引發歐洲、馬來西亞、澳洲與印度等國監管機構的廣泛批評與調查。儘管如此，美國聯邦貿易委員會（FTC）與司法部尚未表態是否會對開發 Grok 的 xAI 公司展開調查。面對指控，馬斯克與 X 平台曾在 1 月 3 日發表聲明，宣稱「任何使用或引導 Grok 製作非法內容的人，將承擔與上傳非法內容相同的後果」。
蘋果與Google商店審查標準面臨考驗
Apple(AAPL) 與 Google(GOOGL) 對於應用程式開發商皆設有嚴格的指導方針，要求必須防止上傳與分享描繪兒童性虐待及其他有害內容的影像。過去，包括 Tumblr 和 Telegram 等知名社群與通訊應用程式，都曾因未能有效過濾不當內容而遭 Apple(AAPL) 的應用程式商店暫時下架。這意味著若 X 平台無法改善現狀，面臨被踢出主流應用程式商店的風險是真實存在的。
雖然 X 平台據傳已在週五將 Grok 的 AI 圖像生成功能限制為僅供付費訂閱者使用，但 Grok 的獨立應用程式與網站仍允許用戶在未取得同意的情況下，輸入指令生成剝衣、色情化或貶低他人的影像。對於參議員的指控，Google(GOOGL) 與 Apple(AAPL) 尚未立即做出回應，而 xAI 則以自動回覆應對媒體詢問。
忽視安全團隊建議導致xAI內部動盪
根據 CNN 報導，Grok 近期的功能更新之所以缺乏足夠的安全防護措施，是出於馬斯克本人的直接要求。報導指出，三名在 xAI 安全團隊工作的員工已在 X 平台上宣佈離職，原因正是馬斯克強行推動缺乏防護的功能更新。這顯示出公司內部在追求技術突破與遵守安全倫理之間存在嚴重分歧。
儘管爭議不斷，投資市場對 xAI 的熱度似乎未受影響。xAI 本週宣佈完成一輪高達 200 億美元的融資，投資方陣容豪華，包括晶片大廠 輝達(NVDA) 與 網路設備大廠 思科(CSCO)，以及長期支持馬斯克的 Valor Equity Partners、Stepstone Group、富達投資（Fidelity）等機構。這顯示儘管面臨監管逆風，大型機構投資人仍看好生成式 AI 的長期發展潛力。
