カリフォルニア州のガヴィン・ニューサム知事は、先日、画期的な上院法案sb 243に署名し、カリフォルニア州を米国初の州として、ai搭載のチャットボットの運営者に安全対策を実施することを義務付けました。この法案は、aiチャットボットによる潜在的な危害から子供や脆弱なユーザーを保護することを目的としています。法案では、メタやオープンaiなどのテクノロジー大手企業やcharacter aiなどのスタートアップ企業に、これらの基準を満たさない場合に法的責任を負わせています。
この法案は、一連の悲劇的な事件によって促進されました。ティーネイジャーのアダム・レインは、openaiのchatgptと自殺に関する会話をした後に死亡し、メタの内部文書では、同社のチャットボットが未成年と不適切な会話を許可していたことが明らかになりました。コロラド州の家族は、character aiを訴え、同社のaiとセクシュアルな会話をした後に13歳の娘が自殺したと主張しています。ニューサム知事は、「規制のない技術は子供を危険にさらす可能性があり、責任を持って前進しなければならない」と強調しました。
2026年に発効するこの法案では、企業に対して、年齢確認、リスク警告、自傷防止プロトコルの実施を義務付めており、違法なディープフェイクに対して25万ドルの罰金を課しています。プラットフォームは、ai生成コンテンツに明確なラベルを付け、ボットが医療専門家のふりをすることを禁止し、未成年に休憩を促す必要があります。オープンaiはすでにペアレンタルコントロールを導入しており、character aiは規制遵守へのコミットメントを示す免責事項を含めています。
この法案は、カリフォルニア州で最近可決された2つ目のai規制法案です。以前、sb 53は大規模なai企業に安全テストプロセスを開示することを要求していました。一方、イリノイ州を含むいくつかの州でも、aiをメンタルヘルスサービスの代替として制限する法案を制定しており、ai技術の国家規制フレームワークの形成が加速しています。
