インターネット上のアルゴリズムによって、ユーザーは自分の意見や好みに近い情報にばかり触れる「エコーチェンバー」状態に陥りやすい。しかし、その情報がどのように選別されているかをユーザー自身が意識することは難しく、これが今の民主主義というシステムを脅かしているという。
書籍『アルゴリズム・AIを疑う』より一部を抜粋・再構成し、SNSで触れる情報を疑うための基礎知識をお届けする。
エコーチェンバーが生み出す「分断」
アテンション・エコノミー環境*1におけるアルゴリズムは、単に「誰もが共通にアテンションを払いたくなる情報」を選別・配信するだけでなく、「個々のユーザーそれぞれがアテンションを払うであろう情報」を選別・配信するための最適化にも活用される。
インターネットが普及期に入った2000年代、法学者のキャス・サンスティーンは、インターネット事業者のアルゴリズムが、過剰な情報量を調整しようとした結果として、情報がユーザーごとに選別され「カスタマイズ」されることの弊害を指摘した*2。
情報オーバーロードによって過剰な選択肢、過剰な話題、過剰な意見、そして過剰な声による不協和音が起これば、人間は自分の意見や好みに近いものだけを選択したいと考えるようになる。そのようなユーザーの要望に沿うかたちで、アルゴリズムはユーザーごとに必要な情報をカスタマイズするようになっていく。
さらに、自分の意見や好みに近いものだけを信じようとする確証バイアスなどの心理傾向が重なることによって、この弊害は拡大する。
ユーザーはプラットフォームがフィルタリングした好ましい結果のみに選択的に接触し続け、また似たような意見をもつグループ内での情報交換を重ねることで、徐々に同じ方向の極端な意見にシフトしてしまう。
サンスティーンはこのような意見の分極化につながる情報交換のプロセスを「サイバー・カスケード」とよび、ある特定の意見が確証なく広がってしまう危険なメカニズムであると指摘した。
このようなメカニズムによって異なる意見や好みをもつ複数のグループに分極化されたコミュニケーション空間は、似たもの同士が相互に響き合って小部屋に閉じこもる様子から「エコーチェンバー」ともよばれ、現代のプラットフォーム上で異なる意見をもつグループが相互に「分断」し、他の意見の存在がみえなくなってしまう現象として問題となっている。
当然ながら、エコーチェンバーのメカニズムはSNSなどのプラットフォームのアルゴリズムと密接に関係している。Xやインスタグラムなどのタイムラインのアルゴリズムでは、先述のとおり、ユーザーの過去の行動履歴（どの投稿に「いいね」したか、どのアカウントをフォローしているか、どのコンテンツをシェアしたかなど）を分析し、個々のユーザーごとにアテンションを向けそうな投稿を優先的に表示するように設計されている。
「自分と同じ意見の人がたくさんいる」
たとえば、あるユーザーが政治的な話題に関心をもち、特定の政党や主義主張を支持する投稿に「いいね」やシェアを繰り返しているとする。
このユーザーのタイムラインには、同様の政治的見解をもつアカウントからの投稿が優先的に表示されるようになる。その結果、ユーザーは同じ意見をもつ人々の投稿ばかりをみるようになり、異なる視点や反対意見に触れる機会が減少する。
これがエコーチェンバーの一例である。エコーチェンバーは、アルゴリズムによるアテンションへの最適化が再帰的に適用されることで、情報の偏りを助長し、ユーザーの確証バイアスを強化してしまう。
自分の意見に近い情報ばかりに囲まれた状態は、とても居心地がよいともいえ、情報の正確な分布を知ろうとする意欲を失わせることにもつながる。そこに入ってきた真偽不明の情報に対し、エコーチェンバーの内部で都合のいい偏った解釈が信じられたり、外部と情報が「分断」されて異なる意見に不寛容になったりする弊害が起こりうる。
図は、計算社会科学者の鳥海不二夫が2021年に日本のツイッター（当時）におけるエコーチェンバー現象を可視化したものだ*3。
2021年の東京オリンピック・パラリンピック開催時には、コロナ禍ということもありSNS上でもその賛否が議論された。図の上部の小さなかたまりがオリンピック・パラリンピックの開催賛成のツイート群、下部の大きなかたまりが開催反対のツイート群である。このように、2つのツイート群は相互に交流がほとんどなく、意見が「分断」していることが可視化されている。
それぞれの群に属しているユーザーは、エコーチェンバー状態になり、全体の意見の実際の分布とは無関係に、「自分と同じ意見の人が周りにたくさんいる」ようにみえていたことが推測できるのだ。
これは、アテンションに最適化されたSNSのアルゴリズムが、そのアカウントが賛成した意見を優先表示すると同時に、無視した意見への接触機会を減らすようにフィルタリングすることによって生じてしまう現象だ。
