参考情報の“ループ”が招くネガティブバイアス──AIリサーチの落とし穴

パキスタンのペシャワールに来ています。首都イスラマバードから西の方へ移動し、アフガニスタンとの国境も近いエリアです。ここに、わたしたちがお世話になっているパキスタンの開発チームがありますが、ペシャワールまで来たのは初めてです。

パキスタンってどこにあるの？
インドとアフガニスタンに挟まれた場所に位置します。

首都イスラマバードで滞在したあと、ペシャワールへ移動しました。

パキスタンに限らず、どの国へ行くときにも、日本の外務省が発信している情報の確認や、「たびレジ」への登録は必須です。たびレジで過去のパキスタンに関する注意喚起を確認すると、一般的に言われる「危険地域」という概念のわりには、ペシャワールやイスラマバードに特化した情報は見当たりませんでした。

最近の事件の多くは南部のカラチで起きていますが、外務省の情報では、カラチの危険レベルは2のまま止まっています。

AIを通じて「ペシャワール」を検索すると、“危険”という言葉ばかりが目立ち、旅行を控えるよう促す記事が並びます。“国全体を警戒レベル2～4”とされている情報が氾濫していて、その一部をかいつまんだブログ記事が何度も引用され、同じ文言がくり返し拡散されている現状が見えました。

一方、グローバル視点で見れば、トリップアドバイザーなどの口コミに「ペシャワールへ普通に旅行している人たちのレポート」が存在します。実際に訪れた人たちが書き込む生の情報を見ると、必ずしも一様に「危険」だとは言い切れないようです。こうしたギャップから、わたしは“参照のループ問題”と“ネガティブバイアス”について考えさせられました。

参照のループ問題とは？

AIで何かをリサーチするとき、同じ少数の情報源が繰り返し引用されることで、事実かどうかにかかわらず“確かな情報”として定着してしまう現象があります。たとえばあるブログが「ペシャワールは危険だ」と書いたとすると、それを参照した別のサイトが複数生まれ、それをまたAIが「確認された情報」として拡散する。すると、他の人が「AIでペシャワールを調べる」と、やはり同じ記事を参照する結果、「結論は危険」という言葉だけが増幅されるわけです。

さらに、情報量そのものが少ない場合、“ファクトチェック”機能をうたうAIでさえ、“記事数が少ない → 同じ根拠を参照するしかない → それがある種の既成事実化”といった悪循環に陥りがちです。これがわたしの言う「参照のループ問題」で、AIのモデル学習時の偏りとはまた別のレイヤーで起こる、いわば二次流通以降の情報バイアスです。

ネガティブバイアスの拡散

もうひとつ見逃せないのが、ネガティブな情報ほど拡散されやすいというバイアスです。危険や事件、リスクにまつわる話は、どうしても人の注意を引きます。読んだ人が「怖いからシェアしておこう」と思えば、その情報は加速度的に広まりやすい。一方で「特に大きな問題はないです」という話は、驚きが少ないぶん、記事としても地味に埋もれがちです。結果として、「危険がある」という意見ばかりが際立って蓄積され、誰かがそれを参照すると「やはり危険なのだ」という結論が強化されてしまうのです。

AI時代に求められるのは“自らデータを生み出す力”

こうした参照のループ問題を防ぐために、わたしが今回実感したのは、「自分自身で一次情報を得ること」の大切さです。もちろん、旅におけるリスクは十分考慮すべきですが、だからといって少数の記事が繰り返し言う「危険」という評価に頼りきるのではなく、実際に現地の人の声を聞き、グローバルな口コミを調べ、必要ならば実地に足を運ぶ。そうして初めて、既存の情報を上書きする新しいコンテンツやデータを生み出せるのだと思います。

これは、旅行に限ったことではありません。