米連邦取引委員会（FTC）はこのほど、チャットボットに代表される生成人工知能（AI）が子どもや青少年にもたらしうる危害、および企業がこのような危害の発生をどのように回避するのかを調べるため、大手テクノロジー企業7社を対象に調査を開始すると発表しました。

FTCは、グーグルの親会社であるアルファベット、メタ・プラットフォームズ、オープンAI、XAIなどのテクノロジー企業7社に対し、チャットボットの収益化モデル、ユーザー層維持計画、ユーザーリスク低減措置などを開示するよう求めました。これにより、会社がチャットボットの安全性をどのように評価しているか、子どもや青少年が製品を使用する際にどのような悪影響があるか、保護者やユーザーに製品使用に関連するリスクを周知しているかどうかを調べています。

メディアの報道によると、現在、チャットボットを利用する子どもや青少年はますます増加しており、その利用範囲は宿題や人生に対するアドバイス、ひいては感情的なカウンセリングに至るまで非常に幅広いということです。ある研究によれば、チャットボットは麻薬やアルコール、飲食などの問題に関して子どもたちに危険なアドバイスを提供する可能性が指摘されています。さらに、青少年がチャットボットを通じて自殺問題について相談した結果、危険なアドバイスを受けて悲劇を招くケースもこれまでに複数あったということです。

学生たちも、チャットボットを使って研究をしたり、要点をまとめたり、文字校正を行ったりしているものの、その使用範囲の見極めが難しいと感じているといいます。現在、多くの学校では既に生成AIの使用ガイドラインを策定しており、教育現場におけるAIツールの補助的役割を明確化し、その利用範囲の限界を強調しています。（提供/CRI）