因應生成式人工智能（AI）聊天機械人與社媒平台對未成年人心理健康造成潛在衝擊與沉迷風險，美國加州州長紐森9月10日簽署13項網絡與AI安全新法案，旨在加強對未成年人的網絡保護。新法規將禁止社媒對未成年人提供「成癮性」功能，並嚴格限制未成年人使用AI聊天機械人的時限，同時全面升級針對社媒算法誘導與數據收集的法定問責機制。
加州今次舉措屬全美首例。在法案簽署聲明中，加州多名主導立法的議員與兒童權益倡導團體指出，科技平台為追逐用戶黏性，長期將心智尚未成熟的未成年人置於充滿成癮性與心理操縱風險的數碼熔爐中。加州作為全球科技創新的核心引擎，決不能對技術野蠻生長帶來的兒童心理健康代價視而不見。通過立法為AI聊天機械人和社媒設立明確道德與安全邊界，不僅是保護下一代身心健康的緊迫之舉，也是對科企履行社會責任劃下一條底線。
促停止無限滾動自動播放等工具
為防止社媒「令人上癮」，新法案要求社媒停止向16歲及以下用戶，提供如無限滾動和自動播放等「成癮性」工具，或完全禁止這部分用戶使用其社媒平台。
法案作者表示，此舉對因應青少年心理健康危機至關重要。紐森在記者會上稱，「家長無法與工程技術與算法競爭，反會在孩子上癮後覺得自己糟糕」。
然而該社媒法案面臨爭議。電子前沿基金會等數碼權利組織正敦促否決該法案，稱其「出發點良好，但存在嚴重缺陷」。該組織認為法案對「令人上癮的功能」定義過於寬泛，或演變為對16歲以下未成年人實施的全面社媒禁令，導致該人群缺乏獲取重要資訊的途徑。
隨着具備擬人化交互能力的AI伴侶、虛擬輔導與角色扮演聊天機械人的爆發式普及，青少年群體對AI的「擬人情感依附」現象引發醫學界與教育界深度憂慮。
在此背景下，今次獲簽署的另一項限制AI聊天機械人的措施獲得更廣泛支持，甚至包括AI公司OpenAI。
禁AI向未成年人輸出自殘等言論
法案規定，面向未成年人營運的聊天機械人平台，必須建立嚴格的年齡門檻與安全護欄。法規明確禁止AI向未成年人輸出涉及自殘、自殺、極端厭食傾向、暴力行為及露骨成人內容的引導性言論。
在系統底層行為框架上，平台必須內置敏感詞風控與危機干預協議，一旦算法檢測到未成年用戶表達出抑鬱、自傷或絕望情緒，必須立刻中斷常規對話，並強制彈出官方自殺干預與心理危機援助熱線的直達通道。
此外，新法規還要求開發者對未成年用戶強調AI的非人類屬性，嚴禁通過算法刻意塑造虛假的情感誘導，或建立讓孩子產生依賴感的「情感紐帶」營銷話術，同時還應提供可選的家長控制未成年人每日使用時長的控制機制，以及夜間防沉迷限制。
除上述兩項法案外，此次獲簽署的其他措施還包括讓社媒公司在其平台傷害兒童時承擔法律賠償責任、擴大年齡檢查要求，以及對16歲以下兒童的AI聊天機械人玩具實施為期4年暫停令。
AI失控警告掀美國會立法角力
美國人工智能（AI）公司Anthropic離職研究員考克森早前在社媒發文，嚴厲警告稱其所在實驗室與同僚正構建自身根本無法掌控的系統，認為「AI可能失控並毀滅人類文明」，罕見激發出美國國會立法層面的緊迫感。
《華爾街日報》報道，在多年來鮮有作為之後，數十名國會議員證紛紛拋出新提案，試圖對能力日益強大的AI模型施加監管。加州民主黨議員康納10日呼籲，成立一個類似核能和航空領域監管機構的新聯邦監管機構。他還提出引入一項所謂「緊急關停開關」，能在AI系統出現危險行為時，立即將其強行切斷。佛蒙特州參議員桑德斯在公開信中稱，「毫無疑問，國會應對這項飛速發展且危險重重的技術的行動已遠遠落後」，他與一眾同僚大力推動一項禁令，試圖禁止研發智力超過人類的所謂「超級智能」。
加強監管或損AI競爭力
據報國會曾試圖通過工作組和新委員會，來理清AI政策的制定流程，但相關法案最終都未能突破基礎提案和路線圖階段。議員在限制範圍方面分歧嚴重，美國總統特朗普就曾表示，雖支持設立緊急關停開關及其他AI安全保障措施，但過於繁重的監管，或損害美國在科技競賽中的競爭力，加上國會目前陷入黨派僵局，且中期選舉日益臨近，國會會期所剩無幾，針對AI模型的聯邦監管法相信難順利出台。
馬斯克反駁研究員「AI毀滅論」
日前離職的美國人工智能（AI）企業Anthropic研究員考克森9日在社媒發文稱，「不要低估AI的威力，它很快會變得超乎尋常的強大，屆時它能入侵任何系統獲取權力和資源，並可能在未來10年毀滅我們所有人。」帖文在網上反應熱烈，然而美國富豪馬斯克卻駁斥有關說法。
該帖文已獲逾1.6億瀏覽，並得到Anthropic更多研究人員贊同。從事通用AI安全工作、此前任職於Google Deepmind部門的王安娜在社媒發文響應，稱「目前還未有可行計劃來解決遞歸式自我改進型AI（RSI）帶來的風險」，並透露Anthropic內部許多人都希望放緩開發進程，以制定計劃控制這些AI模型潛在的風險。在Anthropic從事安全研究的薩繆爾則表示，「AI開發者相信，他們的技術可能導致人類滅絕，或就在數年內發生。通常來說，員工級別愈高就會愈擔憂。」
「這場心理戰已準備很久」
包括馬斯克在內的其他保守派人士，則將民眾對AI失控的擔憂稱為「陰謀論」。馬斯克直指考克森的說法是一場「心理戰」，旨在對公眾關於AI的情感製造負面影響，「我認為這場心理戰已準備很久，這不過是點燃乾柴的一根火柴。」
馬斯克此番表態是在社媒上回應保守派智庫Capital Research研究員塞耶觀點時發出。塞耶當時在毫無確鑿證據的情況下，指控考克森的帖文是一場「極其精密且資金充裕的公關行動」的開端，旨在「爭取對民主黨人的支持，進而將AI監管到徹底扼殺。」
