豆蔵AIテクニカルセクターが論文発表、生成AIの「自分で間違っているとわかるにも関わらず間違いを出力する」現象を発見

＠Press 2025年11月11日(火) 11時0分

(1 / 0 枚)

株式会社豆蔵(本社：東京都新宿区、代表取締役社長：中原徹也、以下豆蔵)が生成AIの研究論文を発表したことをお知らせいたします。豆蔵のAIテクニカルセクター所属の石川真之介、藤堂真登、立教大学大学院人工知能科学研究科(所在地：東京都豊島区、研究科委員長：大西立顕)による研究グループは、大規模言語モデル(Large Language Model, LLM)が、与えられた情報に対し、実際には存在しない誤った規則性を見出してしまうことがあると発見しました。特筆すべきは、そのような誤った規則性についてLLM自身に検証を行わせたところ、「その規則性は存在しない」と正しく判断できる場合も少なくないことが分かりました。つまり、LLMは自ら誤りであると判断できる規則性を、存在すると主張してしまうことがあるということです。

ピックアップ

豆蔵AIテクニカルセクターが論文発表、生成AIの「自分で間違っているとわかるにも関わらず間違いを出力する」現象を発見

関連記事

世界自動車販売で3位の韓国メーカーが中国市場で淘汰されつつある―中国メディア

「ハクサイ無料」とのデマ動画拡散、数百人が畑に押し寄せ持ち去る＝管理者「止めようがない」―中国

韓国で日本のアニメ映画の大ヒット後に映画館離れ＝韓国ネット「最近の韓国映画はつまらない」

そろそろ「中国に責任を押し付ける」ことをやめるべき―豪メディア

日本への「買春ツアー」拡大？高市首相も対策を明言＝韓国ネット「いまさら？」「日本も韓国も…」

地下鉄車内で女性の服が燃える、モバイルバッテリーが発火―中国

総合トピックス

中国が「世界最強」の緊急地震速報システムを構築

映画「果てしなきスカーレット」の中国公開決定

韓国の邦人死亡事故現場でまた飲酒運転、検問2時間で11人摘発

高市首相の台湾有事発言に元首相「中国の内政」、台湾ネット「現実を見た方がいい」

話しかけてきた日本人のおじいさんに戦々恐々、お金を取られるんじゃないかと思ったが…

世界自動車販売で3位の韓国メーカーが中国市場で淘汰されつつある

アジアの窓

早田ひな選手はなぜ中国から批判されたのか、知覧や鹿屋など特攻隊基地跡を歩く

英雄譚から省察へ――「葬送のフリーレン」が現代アニメに響く理由

＜写真特集＞北京の秋、故宮で味わう中国的美学の極み

発展つづけ70年新疆ウイグル自治区に輝く「五星」

スタジオジブリ空と大地、人と動物のあわいに生まれた物語

1年の半分以上食べるほどの餃子愛！一体どこの人？―中国

豆蔵AIテクニカルセクターが論文発表、生成AIの「自分で間違っているとわかるにも関わらず間違いを出力する」現象を発見

関連記事

総合 トピックス

アジアの窓

総合トピックス