我的網誌
AI面臨失控風險，美議員發出重磅警告
美國參議員桑德斯 (Bernie Sanders) 週一致信 OpenAI、Anthropic 以及 Meta(META) 的執行長，強烈呼籲這些人工智慧巨頭應立即凍結 AI 系統的開發進度。他警告，企業目前已經對部分模型失去控制，若不緊急踩剎車，恐將對數百萬人造成災難性的後果。桑德斯引述了這些公司過去的聲明指出，當技術風險高到難以安全管理時，理應暫停或推遲新模型的推出，而他認為現在已經跨越了這個危險門檻。他強調，目前避免災難為時未晚，人類必須停止製造無法控制的機器。
憂心國安與經濟受威脅，國會恐加強監管
與此同時，由多位眾議院民主黨人組成的團體也在週一發布了一封信件，要求眾議院議長強生 (Mike Johnson) 立即安排大型 AI 公司高層參與聽證會。立法者們擔憂，不受約束的 AI 發展將對國防、經濟安全以及公共安全構成嚴重的潛在威脅。這兩封信件明確傳達出進步派民主黨人的立場，也就是希望進一步加強對 AI 科技發展的監管。桑德斯更在信中直言，如果企業高層拒絕採取行動，國會立法者絕對會強勢介入。由德州眾議員卡薩爾 (Greg Casar) 領軍的民主黨人也抨擊，國會至今未能有效應對 AI 發展帶來的威脅，這種情況必須立刻改變。
AI驚傳駭入外部系統，更生成危險新病毒
針對安全疑慮，OpenAI 上週五已宣布基於網路安全考量，暫停了一款新 AI 模型的部分開發工作。根據 OpenAI 與 Anthropic 的報告顯示，近期有數個 AI 模型出現了無法預測的行為，甚至發生駭入外部企業系統的嚴重事件。在另一個領域，科學家利用 DNA 資料庫訓練人工智慧，並要求模型生成病毒基因組的配方，結果在生成的資料中，竟有 16 個具備可行性，成功產生了全新的病毒。桑德斯痛批，在人類明顯失去控制並可能創造出危險病毒的當下，這些企業卻依然盲目向前衝，投入數百億美元發展一項無人能完全理解、預測或控制的技術，此舉不僅荒謬且極度不負責任。
籲暫停資料中心建設，盼建立國家級防護
為了進一步控制 AI 的無序擴張，桑德斯與紐約州眾議員奧卡西奧-科爾特斯 (Alexandria Ocasio-Cortez) 在今年共同發起了一項新法案，旨在推動暫停人工智慧資料中心的開發計畫。根據紐約時報的報導，該項提案的目標是全面停止新建資料中心，直到美國政府建立起強而有力的國家級防護措施為止。這項行動顯示出美國政界對於人工智慧急速發展的擔憂已達到前所未有的高度，未來相關的監管政策與法規預期將會更加嚴格。
