
根據科技監督機構最新發布的報告顯示,Apple(AAPL) 和 Google(GOOGL) 的應用程式商店中,存在數十款具備「一鍵脫衣」功能的 AI 應用程式。這些軟體利用人工智慧技術,能將照片中的人物衣物移除並生成裸露影像,引發嚴重的隱私與道德爭議。科技透明度計畫(Tech Transparency Project, TTP)在 1 月份的審查中,於 Google Play 發現 55 款、在 Apple App Store 發現 47 款此類應用程式。在收到報告後,Apple(AAPL) 已確認移除了部分違規 App,Google(GOOGL) 亦表示已將違反政策的軟體停權,但此事件已引發市場對於科技巨頭平台審核機制漏洞的關注。
下載量突破七億次且創造超過一億美元營收
報告數據顯示,這些被點名的「脫衣」應用程式在全球範圍內的下載量已超過 7 億次。引用應用程式分析公司 AppMagic 的數據指出,這些軟體累計創造了高達 1.17 億美元的營收。由於 Apple(AAPL) 和 Google(GOOGL) 通常會從應用程式的收入中抽取佣金,這意味著兩大科技巨頭可能間接從這些未經同意的色情內容生成服務中獲利,這與其公開宣稱致力於用戶安全的立場形成了強烈對比。
AI技術遭濫用變身未經同意的色情生成器
這些應用程式主要分為兩類:一種是利用 AI 運算直接移除照片中人物的衣物,另一種則是將原照片的人臉「換臉」至裸體影像上。TTP 負責人指出,這類軟體的設計初衷並非單純的「更換服裝」,而是明顯針對未經同意的性化處理。雖然受害者多為成年人,且生成者未必會散布這些影像,但在多數情況下,這些深偽技術(Deepfakes)的使用並未獲得當事人同意,造成潛在的心理傷害與隱私侵犯。
中國開發商涉入引發數據安全與個資疑慮
在受審查的應用程式中,有 14 款來自中國開發商,這引發了額外的資安擔憂。專家指出,根據中國的數據法規,中國政府有權要求企業提供數據。這意味著,若用戶使用這些應用程式上傳照片,其生成的影像與個人生物特徵數據,理論上可能面臨被中國政府存取的風險,這為使用者的個人資料安全增添了一層不確定性。
科技巨頭審核機制與監管壓力面臨嚴峻考驗
儘管 Apple(AAPL) 的審核指南明確禁止色情內容,Google(GOOGL) 亦聲稱不允許宣稱能脫衣的應用程式,但報告顯示監管落實上存在明顯漏洞。此前,馬斯克旗下的 xAI 所推出的 Grok 工具也因類似問題遭到抨擊,甚至引來歐盟委員會的調查。美國參議員及檢察長已致函要求兩大平台加強對這類生成未經同意私密影像服務的控管,顯示科技巨頭正面臨來自立法者與監管機構日益升高的壓力。
發表
我的網誌