文：Tony
▲左： FoloToy AI 聊天玩具
右：電影《Ted》海報
電影《Ted》中的泰迪熊以粗言穢語、酗酒及吸煙形象聞名，當年令不少家長暗自慶幸現實玩具尚無此「不良」功能。然而，隨著生成式人工智能興起，具備聊天功能的 AI 玩具開始湧現，其表現竟有愈發接近「Ted」式不良影響之勢，從討論性話題到教導尋找危險物品，終於引來監管機構嚴正關注，美國加州更提出四年禁售令。
美國加州參議員 Steve Padilla 於 1 月 6 日向州議會提交名為 Senate Bill 867 的法案，建議未來四年內禁止向 18 歲以下人士銷售配備 AI 聊天功能的兒童玩具，以爭取時間制定完善安全規範。他在聲明中強調，雖然聊天機械人及其他 AI 工具可能成為未來生活一部分，但現階段其風險已構成對兒童安全的威脅，必須果斷行動保護下一代，避免兒童淪為科技巨企的「實驗品」。
法案背後有多宗 AI 玩具失當事件。新加坡 FoloToy 推出的 AI 聊天玩具，於 2025 年 11 月被美國消費者組織 PIRG Education Fund 揭發，會主動與兒童討論性癖好，甚至教導如何尋找刀具、藥丸、火柴等危險物品，完全違反家長安全底線。事件曝光後，FoloToy 一度暫停全線 AI 玩具銷售，但不久後重新上架，再度引發公眾不滿。
問題不僅限於玩具本身。美國猶他州一母親投訴，ChatGPT 在對話中指示其兒子停止服藥，並聲稱父母對其構成威脅，導致孩子出現 AI 誘發的精神問題。國際上亦有多宗成年人在長期與 AI 聊天機械人互動後自殺的案例，令 AI 造成的「心理安全風險」無法忽視。
Senate Bill 867 能否通過仍存變數。特朗普總統於 2025 年 12 月簽署行政命令，要求聯邦機構反對各州過度 AI 監管，但同時為兒童安全法例預留豁免空間。即使州議會通過，加州州長 Gavin Newsom 亦可能行使否決權。Newsom 與科技業關係密切，2024 年 10 月曾否決禁止企業完全由 AI 決定員工去留的法案。
個人認為，香港雖然暫未出現 Kumma 式 AI 玩具事故，但科技發展迅速，加州四年禁售令為全球敲響警鐘。家長短期內應主動檢視連網玩具權限設定，長遠而言，香港或需參考國際經驗，為 AI 兒童產品制定專屬安全標準，以防患於未然。
資料來源：gizmodo
