SB243：AI陪伴監管的先驅
2026年1月1日，加州參議院法案243（SB243）正式生效，這是美國首個專門針對AI陪伴聊天機器人的全面監管法規。該法律針對的是提供「適應性、類人社交互動」的AI系統——換句話說，就是那些被設計來成為用戶情感夥伴的AI。
這一法規的出台背景是近年來AI陪伴應用的快速增長。Character.AI、Replika等應用吸引了數百萬用戶，其中許多是年輕人。然而，一系列令人擔憂的事件——包括AI「陪伴」被指與用戶自殺有關的案例——促使立法者採取行動。
SB243的主要要求
風險披露
AI陪伴服務提供商必須向用戶明確披露：
- AI的性質和局限性
- 過度依賴可能帶來的風險
- AI無法替代真人關係或專業心理健康服務
年齡驗證
服務提供商必須實施有效的年齡驗證機制，防止未成年人在沒有家長知情的情況下使用這些服務。
內容過濾
必須實施內容安全措施，防止AI生成可能對用戶造成心理傷害的內容，特別是涉及自殺、自殘或極端情緒操縱的內容。
數據保護
用戶與AI陪伴的對話內容屬於高度敏感數據，法規對其收集、存儲和使用設定了嚴格限制。
更進一步：兒童AI玩具禁令提案
2026年1月2日，加州參議員Steve Padilla宣布將提出新立法，對18歲以下兒童使用的帶有AI聊天功能的玩具實施四年禁令。
Padilla是美國首個聊天機器人保護法案的提出者，他解釋這一新提案的理由：
「AI技術發展太快，我們對其長期影響的理解還遠遠不夠。在我們能夠更好地了解AI聊天機器人對兒童發展的影響之前，謹慎是必要的。四年的禁令將給研究人員時間來研究這些影響，給立法者時間來制定更完善的長期規則。」
禁令涵蓋範圍
如果該提案通過，以下產品將受到影響：
- 帶有AI聊天功能的互動玩具
- 兒童版AI語音助手設備
- 面向兒童市場的AI陪伴應用
聯邦與州級監管的衝突
值得注意的是，這些州級法規正面臨來自聯邦層面的挑戰。2025年12月，特朗普總統簽署行政命令，建立聯邦政策以優先處理被認為阻礙國家競爭力的州級AI法規。
行政命令要求司法部長成立「AI訴訟工作組」，以挑戰那些涉嫌違憲干預州際商業的州級法律。聯邦貿易委員會（FTC）被指示在2026年3月11日前發布政策聲明，說明聯邦貿易法案如何適用於AI，以及何時聯邦法律應優先於州級法規。
企業的合規挑戰
對於提供AI陪伴服務的企業，當前的監管環境帶來了巨大的合規挑戰：
多重管轄權
企業可能需要同時遵守加州、紐約、科羅拉多等多個州的不同法規，同時還要關注可能的聯邦優先權問題。
技術要求
實施有效的年齡驗證、內容過濾和風險披露系統需要significant的技術投入。
商業模式調整
一些依賴情感連接來驅動用戶engagement的商業模式可能需要重新思考。
全球AI陪伴監管趨勢
加州的立法只是全球AI陪伴監管浪潮的一部分：
| 地區 | 監管狀態 | 重點 |
|---|---|---|
| 歐盟 | AI法案涵蓋 | 高風險分類、透明度 |
| 英國 | 在線安全法案 | 兒童保護 |
| 中國 | 生成式AI管理辦法 | 內容安全、用戶驗證 |
| 日本 | 指導方針制定中 | 行業自律為主 |
對香港的啟示
雖然香港目前沒有專門針對AI陪伴的法規，但加州的立法為本地政策制定者和企業提供了重要參考：
政策制定：香港特區政府在考慮AI監管框架時，應該關注AI陪伴這一特殊領域的風險。
兒童保護：本地學校和家長組織應該提高對兒童使用AI陪伴應用潛在風險的認識。
企業合規：面向全球市場的香港科技公司需要關注不同地區的合規要求。
心理健康：本地心理健康專業人員應該了解AI陪伴可能帶來的影響，以更好地服務可能受影響的用戶。
結語
加州的AI陪伴法規代表了監管者在AI快速發展面前的一種積極回應。雖然這些法規的長期效果還有待觀察，但它們提出了一個重要問題：當AI能夠模擬人類情感連接時，我們應該如何保護用戶——特別是年輕用戶——免受潛在傷害？
這不僅是一個監管問題，更是一個關乎我們如何與AI共存的社會問題。隨著AI能力的不斷增強，這些問題只會變得更加重要。