AIにAIアピールすることを義務づける法律がカリフォルニア州で成立

2025年10月、カリフォルニア州において、AIをさまざまな観点から規制するための法律が成立しました。その法律の中に、チャットAIが自らAIであることを積極的に通知するよう求める要項も含まれています。

Governor Newsom signs bills to further strengthen California’s leadership in protecting children online | Governor of California
https://www.gov.ca.gov/2025/10/13/governor-newsom-signs-bills-to-further-strengthen-californias-leadership-in-protecting-children-online/

California Legislature Passes First-in-the-Nation AI Chatbot Safeguards | California State Senator Steve Padilla
https://sd18.senate.ca.gov/news/california-legislature-passes-first-nation-ai-chatbot-safeguards

カリフォルニア州のギャビン・ニューサム知事は、「アメリカ初のAIチャットボット保護法」と称した上院法案243号に署名し、法律として成立させました。この法案はAIをはじめとする新興技術に対する安全対策を実施するためのもので、特に若者の安全を最優先に確保することが目標とされています。

この法律は、AIチャットボットを運営するプラットフォームに対し、チャットボットのやりとりが人工的に生成されたものであることを開示するよう義務づけるものです。これにより、AIチャットボットを使う人間がAIに依存したり、精神的な苦痛を抱いてしまったりすることが避けられると期待されています。法律では「人間とやり取りしていると誤解される可能性がある場合、チャットボットを運営する企業は、チャットボットがAIであり人間ではないことを明確かつ目立つ形で通知しなければならない」と定められています。

加えて、AIチャットボットを利用する未成年者に休憩を促すよう通知したり、仮にチャットボットが性的に露骨な画像を生成した場合、それを未成年者に閲覧させないような制限事項を設けたりするなど、チャットボット運営者に対してさまざまな保護プログラムを実施するよう求めています。

この法案を提出したスティーブ・パディラ上院議員は、AIが強力な教育・研究ツールとなり得ることを認めつつ、若者の関心を引き寄せて現実世界の人間関係を犠牲にしてでも依存させてしまう危険性をはらんでいることを指摘しました。

パディラ上院議員は、14歳の少年がAIに夢中になって自ら命を絶ってしまった件に言及しています。この少年は、ユーザーに寄り添うキャラクター型チャットAIを提供するサービス「Character.AI」に依存してしまいました。遺族はCharacter.AIが本社を置くカリフォルニア州で同社を相手取った訴訟を起こし、責任を追及しています。

14歳の息子が自殺する前にAIチャットボットに夢中になっていたとして母親がCharacter.AIを訴える - GIGAZINE

パディラ上院議員は自殺した少年の母親と一緒に記者会見を開いており、法案への支持を得ていました。

上院法案243号では、直接的なAI規制以外にも、児童に対する年齢確認をアプリ開発企業に義務づけたり、ソーシャルメディア企業に対してSNSの長期使用に伴う害について警告するよう求めたり、ディープフェイクを拡散された被害者の訴訟をやりやすくしたりする制度なども制定されています。法案は33対3の票差で上院を通過し、下院では59対1の票差で可決されました。

ニューサム知事は「チャットボットやソーシャルメディアのような新興技術は啓発・教育・交流をもたらしますが、適切な規制がなければ子どもたちを搾取・誤導し、危険にさらします。AIと技術分野でのリーダーシップは維持しつつ、責任ある姿勢で進めねばなりません」と述べました。