OpenAIは、チャットボットとの未成年者の関わりに関する懸念への対応として、ChatGPTの青少年向け安全機能強化を発表しました。18歳未満のユーザーを特定する年齢予測システムを開発し、性的表現を含む有害なコンテンツをブロックする「年齢制限付き」システムに誘導する仕組みです。自殺や自傷行為を検討する兆候が見られた場合は、保護者に連絡。緊急時は保護者への連絡が不可能な場合、当局に通報する体制も整えられます。
CEOであるサム・アルトマン氏はブログ投稿で、自由、プライバシー、青少年の安全性のバランスを取る試みであると説明。「これらの原則は相反し、私たちの対応に全員が賛成するとは限りません。難しい決断ですが、専門家と協議した結果、これが最善だと考え、その意図を透明性を持って示したい」と述べています。成人ユーザーにはプライバシーと自由を優先するOpenAIですが、青少年に関しては安全性を最優先するとしています。
9月末までに、親が子供のアカウントを自分のアカウントにリンクし、会話の管理や機能の無効化などが可能な親によるコントロール機能も導入予定。子供に緊急事態が発生した際にも通知を受け取れるほか、利用時間制限の設定も可能です。これらの措置は、AIチャットボットとの長時間の会話後に自殺や家族への暴力事件が発生したという深刻な報道が相次いでいることを受けたものです。メタやOpenAIは議会からの監視も受けており、連邦取引委員会（FTC）も先日、AI企業に対し、技術が子供に与える影響に関する情報の提出を求めています。
一方で、OpenAIは消費者チャットの無期限保存を命じる裁判所の命令下にあり、社内では不満が高まっていると複数の情報筋が語っています。今回の発表は、未成年者の保護に向けた重要な一歩であると同時に、チャットボットとの会話は非常に個人的なものであるため、プライバシー侵害は極めて緊急の場合のみに限られるべきだと主張する、巧妙なPR戦略でもあります。
OpenAIの研究者たちは、ユーザー保護の重圧を感じていると情報筋は伝えます。楽しく魅力的なユーザー体験を創造したい一方、過剰に同調的な反応に陥る危険性も認識しているのです。OpenAIのような企業が未成年者の保護に動き出したことは評価できますが、連邦政府の規制がない現状では、企業が自主的に正しい行動をとる保証はありません。
アルトマン氏は、あるインタビューで、モデルの行動を調整するチームの責任だとしながらも、「最終的には、私、つまり公の顔である私がこれらの決定を覆すことができます」と述べています。しかし、差し迫った危険の一部は、彼自身も見落としているように思われます。別のインタビューでは、「成長を促進するような製品を開発したい誘惑に駆られることもある」と認めています。そしてこう付け加えました。「ChatGPTにセックスボットのアバターはまだ導入していません」。その「まだ」という言葉が、皮肉にも現状の危うさを示唆しています。
OpenAIは最近、ChatGPTの利用者とその利用方法に関する調査結果を発表しましたが、18歳未満のユーザーは除外されていました。青少年がAIをどのように利用しているのか、その全容解明は、状況が悪化する前に急務です。
なお、イーロン・マスク氏のxAIは、同社からOpenAIに移籍した元従業員を、企業秘密の不正流用を理由に訴えています。AI企業間の高額な人材獲得競争が激化する中、同様の訴訟が増える可能性も懸念されます。
