中国メディアの第一財経は、人工知能（AI）が持つ四つの潜在的なリスクについて解説する長江商学院の劉勁（リウ・ジン）教授による評論記事を掲載した。

劉教授が最初に挙げたのは「AIによる雇用の脅威」だ。かつてのロボットは知能面で人類に大きく劣るためあくまで「人間の助手」だったものの、AIの発達によってロボットの知能が人類の知能の平均レベルを上回るようになれば、体力労働だけではなく医療や法律、金融といった頭脳労働分野においても人間の仕事を奪うことになると指摘。すでにカスタマーサービスや翻訳、プログラミングなどでその片鱗を見せ始めているとし、ある研究では30年までに4〜8億人が自動化によって新たな仕事を探す必要に迫られる可能性があると紹介した。

次に挙げたのは「AIの安全性と価値の整合性」。AIには一定の自主性があるため、価値観を正しく調整しなければAIの選択や判断が人類の利益を脅かす恐れがあるとした。具体的には自動運転や医療、健康管理などにおいて単に技術だけでなく人間の倫理に沿った判断をするようなチューニングが必要だと論じている。また、AIがしばしば引き起こす「ハルシネーション」（幻覚を意味し、事実に基づかない出力を指す）による判断ミスが、重大な事故やトラブルに繋がって巨大な損失を生む可能性についても指摘した。

三つ目は「AIによる社会的脅威」。AIは今や自然言語処理の進歩によって特定の風格を持ったスムーズな文章を書けるようになっており、フェイクニュースの生成や悪用の可能性が増しているとした。そして、社会全体での情報の信頼性が損なわれる危険性があるほか、AIの普及によって悪意ある者による犯罪活動やテロ行為が拡大する恐れがあると指摘した。

最後の四つ目では「AIが人類の生存に対する脅威をもたらす可能性」について言及。現状では人間はAIの作業を監督したり、不満があれば修正したり、場合によっては電源を切ったりといったようにAIを支配する立場にあるものの、今後人間が実現可能な知的作業全般をこなせる汎用人工知能（AGI）が実現すれば、人間はAIを制御できなくなるとした。人智を超えたAIは自らの意思でアルゴリズムを変え、データを集め、さらに進化したAIやロボットを生み出していくことになり、そうなれば人類の文明が絶滅するリスクもゼロとは言えないと警告している。

劉教授は、四つのリスクのうち「人類の生存に対する脅威」が最も確率が低い一方でインパクトが大きく、安定性や価値観の調整といった技術的なリスクが最も対処しやすいと説明。ただ、AIが引き起こす失業などの社会リスクは制御が難しく、社会全体が協力して対処していく必要があると指摘した。また、フェイクニュースの問題は「真実」そのものの定義が難しく、社会全体が問題解決に至る共通認識の形成に至らない可能性があるとも論じた。（編集・翻訳/川尻）