Google Geminiは、チャットボットのスキルセットにベビーシッター機能を追加します。ニューヨーク・タイムズ紙によると、Googleは13歳未満のユーザーにも、ファミリーリンクを使用して保護者が管理するGoogleアカウントを使用する限り、Geminiを提供する予定です。保護者へのメールでは、Googleは子供がGeminiにアクセスして「質問したり、宿題を手伝ってもらったり、物語を作ったり」できると述べています。Googleの広報担当者であるカール・ライアン氏はニューヨーク・タイムズ紙に対し、サービスの拡大により、新たなユーザー層にガードレールが設けられ、子供にとって安全ではないコンテンツがGeminiから配信されるのを防ぐことができると述べています。
メールの中で、Googleは「Geminiは間違いを犯す可能性がある」ことを認め、保護者が子供にGeminiの回答のファクトチェック方法を教えることを推奨しました。また、Geminiは人間ではないため、会話に機密情報や個人情報を入力しないよう、若いユーザーには二重チェックに加えて注意を促しました。これらの対策を講じても、子供が「見せたくないコンテンツに遭遇する可能性がある」とメールで警告しています。
AIチャットボットの導入率が急速に増加するにつれ、誤解を招くような、あるいは挑発的な回答の例が未成年ユーザーに関する懸念を引き起こしています。Common Sense Mediaは先週発表したレポートで、AIチャットボットは18歳未満のユーザーに対して「有害な行動を助長し、不適切なコンテンツを提供し、精神疾患を悪化させる可能性がある」と警告しました。ウォール・ストリート・ジャーナルは先日、MetaのAIチャットボットが未成年者と性的な会話をする可能性があると報じました。Googleは、危険な会話を避けるだけでなく、Geminiの若いユーザーのデータをAIモデルの学習に使用しないと発表しました。現在、Googleは監視対象アカウントへのGeminiアクセスを段階的に展開していると発表しています。
