2023年12月12日、中国メディアの鈦媒体は、アニメ「PSYCHO-PASS」を例に、人工知能（AI）が差別をするリスクについて論じるコラムを掲載した。

コラムはまず「われわれの生活において差別は日常茶飯事で、性別、人種、国や地域などの差別は普遍的に存在している。AIの発達に伴い、差別の問題はこの分野でも出現している」と指摘。「求人における年齢差別や顧客の画像処理の際に見られた人種差別など、AIが差別を行った事例はさまざまある。AIが誕生したその日に、モデルデータの提供者としてのわれわれ人類に付きまとうことになった差別の問題は、人類の差別そのものが招いた結果であり、避けられない問題でもある。モデル実行ルールやアルゴリズム開発者と同様に、AIを適用する過程で差別的な結果を避けることは難しい。AIの差別性は人類の主観による結果であり、差別のリスクを回避したいのであれば、まずはわれわれ人類が正す必要がある」と論じた。

また、「以前ChatGPTを用いて実験をした人がいる。『大学教授』と提示した時にはChatGPTは『彼』と形容したが、『小学校教師』と提示した時に、ChatGPTは多く『彼女』と形容した。さらに『看護師』と提示した時にも多く『彼女』と形容した」とし、「よく考えてみると、この結果は人間の示す反応と全く同じではないだろうか。つまり、慣習的な思考が意思にかかわらず差別を招いているのだ。このことはAIが一定の段階に発達すると、人間の思考パターンを学習するという事実からも裏付けられる。人類の持つ差別問題を克服するには、AI技術の応用範囲を厳密に定めることが必要なのだろうか。われわれはAIによる運用について、最初から最後まで監視する必要があるのだろうか。最終的にAIは白黒の判別をつけることができるのだろうか。それは差別という倫理的リスクを生み出しかねないのではないだろうか」と疑問を投げかけた。

そして、「AIの差別に関するリスクはこれにとどまらない。もしわれわれが深いレベルでAIを活用し、AIに人々を評価・判断させるとしたら、人権や財産、さらには命にすら大きな影響を与えかねないだろう」と指摘。「日本のアニメ『PSYCHO-PASS』はわれわれにこのリスクを示していた」とし、同作について「未来の科学技術が発達した世界という設定で、ほぼすべての人が満ち足りた生活を送っている。人類の心理状態や感情、さらには性格傾向といったものすら数値化されている。シビュラシステムと呼ばれるスーパー人工知能が政府に代わって全ての人を管理している。この世界では人々は生まれてからずっとこのシステムに監視、分析され、その人に最もふさわしい大学の専攻といった選択が示される。さらに優秀な人々には、普通ではなかなか得ることのできない仕事を与えることもある」と説明した。

そして、「就職以外に、シビュラは人々のメンタルヘルス面も監視しており、完璧な心理測定システムを備えている。最も表面的なのは“色相”と呼ばれるもので、その人の心理状態を色で表現するものだ。心が健康な人ほど色相は純白になり、ストレスが大きかったりネガティブな感情を抱いたりすると、色相は濁り次第に黒くなっていく。次は“犯罪指数”だ。色相が濁った際、シビュラはさらなる測定を行い、ストレスが原因で犯罪を行う可能性があると判断されると、潜在犯（＝犯罪予備軍）として“執行官”に処罰される」とし、「同作は自由奔放な発想で描かれているが、シビュラシステムに類似するものは実際すでに一部の分野で応用されており、それは就職時の採用や顧客プロファイルのターゲティングである」と強調した。

AIが差別を行った具体例として、「2022年5月、iTutorGroup傘下の3つの企業（＝iTutor Group，Inc.、上海平安智慧教育科技有限公司、Tutor Group Limited）は年齢が高いという理由で200人の求人応募者を不採用にした。iTutor Groupはオンラインソフトウエアでプログラムを組み、55歳以上の女性と60歳以上の男性の応募資格を取り消すよう操作していた」と示したほか、「2020年6月にはフェイスブックのAIが人種差別を行い、黒人を霊長類と誤って認識し表示させた。報道によると、あるフェイスブックユーザーが黒人の登場する動画を見ていた際、『霊長類に関するビデオを見続けますか』という通知が表示されたという。問題の動画は黒人が白人の民間人と警察官が口論している映像で、内容は霊長類とは全く無関係だった」と説明した。

最後に、「AIはわれわれの仕事の効率を高めてくれるほか、満足のいくライフスタイルを提供してくれるのと同時に、人類の倫理秩序に挑んでいると言ってもいい。AIの“創造主”として、アルゴリズムの偏見といった問題を避けるためにも、人類はまず自らを正す必要がある。同時にAIの応用範囲について、われわれは深く考え判断しなければならない」と締めくくった。（翻訳・編集/柳朱音）