「AIがそう言っているから」と判断していないか
営業先のリストを見ながら、こんな経験はないだろうか。長年の付き合いで「あの担当者なら今がアプローチのタイミングだ」と直感が告げているのに、CRM（顧客管理）システムのスコアリングが低いから後回しにしてしまう。
あるいは、クリエイティブの現場ではデザイン案について生成AIに「どちらのデザインの方が訴求力が高いか」と尋ね、出てきた答えに「なんとなく違う気がする」と思いながらも、根拠を示せないまま受け入れてしまう。
このとき、私たちはなぜか反論しづらさを感じる。相手は人ではなく、感情も意図もないアルゴリズムなのに、不思議と「データの方が正しいかもしれない」という空気が生まれる。違和感はあるのに、それを言葉にすると「勘でものを言っている」と思われそうで口をつぐむ——このような漠然としたモヤモヤを感じたことはないだろうか。実はその気持ちには名前がついている。
それが「アルゴリズミック・オーソリティ（Algorithmic Authority）」である。日本語に直訳すれば「アルゴリズムの権威」。人ではなくアルゴリズムの判断を、ひとつの「権威」として受け入れてしまう心理的・社会的な現象を指す。
アルゴリズミック・オーソリティとは何か
「アルゴリズミック・オーソリティ（Algorithmic Authority）」という言葉は、米国のインターネット研究者クレイ・シャーキー（Clay Shirky）が2009年に提起した概念である。シャーキーは、人間の専門家や管理者ではなく、アルゴリズムによるプロセスそのものが権威として受け入れられる現象に着目した。
私たちは通常、情報の正しさを判断する際、「誰が言ったのか」を手がかりにする。しかし、インターネット上では、必ずしも特定の専門家や組織が保証しているわけではない情報や判断結果が、多くの人々によって参照され、信頼されている。シャーキーが注目したのは、そうした状況において、権威の源泉が個人や組織からアルゴリズムへと移りつつある点であった。
その後、この概念はAIや意思決定研究の文脈で再整理・検討が進められている。
たとえば、人間とAIの相互作用に関する研究（Human-AI Interaction）の分野では、Facchiniら（2024）が、アルゴリズミック・オーソリティを「AIシステムが人間の行動・意思決定・信念に及ぼす影響力」として捉えている。また、その影響力はAIの技術的能力だけから生じるものではなく、人間とAIとの相互作用を形づくる社会的・心理的要因によって形成されると論じている。
つまり、アルゴリズミック・オーソリティとは、単に「AIの精度が高いから人々がその判断に従う」という現象ではない。人々がAIをどのように認識し、どの程度信頼し、どのような状況で利用するのかといった要因が重なり合うことで、AIの判断が人間の意思決定や信念に影響を及ぼす現象なのである。
なお、「アルゴリズミック・オーソリティ」は英語圏を中心に議論が進められている概念であり、日本語ではまだ広く定着しているとは言い難い。そのため、初めて耳にする読者も多いかもしれない。しかし、AIが日常的な意思決定に入り込み始めた現在、この概念は私たちの働き方や判断のあり方を考えるうえで、ますます重要な視点になっていくだろう。
そもそもAIは”権威”と呼べるのか
ここで、少し立ち止まって考えたい問いがある。冒頭で述べたように、私たちは日常的に「AIの判断」をひとつの”権威”のように受け止めてしまうことがあるが、そもそもAIは、権威として捉えられるのにふさわしい存在なのだろうか。
この問いに向き合った研究があるので紹介したい。Ferrarioら（2024）による研究「Experts or Authorities? The Strange Case of the Presumed Epistemic Superiority of Artificial Intelligence Systems（専門家か、それとも権威か？AIシステムに帰属された認識論的優越性という奇妙な事例）」である。
彼らはこの論文の中で、「AIは高精度な予測ができるのだから、人間はAIの判断に従うべきだ」という近年の主張に対し、真っ向から疑問を投げかけた。
「専門家」と「権威」は同じではない
Ferrarioらの議論の出発点は、「専門家」と「権威」は同じではないという認識論上の区別である。
哲学者マイケル・クローチェ（Michele Croce）の議論を引きながら、Ferrarioらは専門家を次のように特徴づける。
専門家とは、ある領域について深い理解を持ち、かつ知的好奇心、創造性、粘り強さ、そして現状に異議を唱え、反論し、挑戦する意欲である「知的な勇気」などの「研究者的な徳」を備えた存在である。単に正答率が高いだけでは、専門家とは呼べない。
一方、権威は「相手の理解レベルや認知的なニーズを察知し、それに応じて導く力」を必要とする。教師や指導医、メンターがその典型である。
AIは真の「専門家」ではない
この基準に照らしたとき、AIはどう位置づけられるのか。Ferrarioらの答えは明確だ。AIは、この意味での「専門家」にはなれない。
理由は二つある。一つは、AIが「理解していない」ためである。医療AIは敗血症の発症リスクを高い精度で予測できるが、AI自身が「敗血症とは何か」「なぜこの患者が悪化するのか」を理解しているわけではない。ただ、学習データから抽出したパターンにもとづいて、確率を計算しているにすぎない。
もう一つは、AIには「知的な徳がない」ためである。AIは、自ら新しい問いを立てたり、既存の枠組みに疑問を持ったり、知的好奇心を持って探究したりはしない。生成AIが好奇心を持っているように「見える」としても、それは好奇心を表現しているだけであって、実際にそうした心的状態があるわけではないとFerrarioらは指摘する。
したがってFerrarioらは、AIが高い正答率を持つことを理由に「人間はAIの判断に従う認識論的義務がある」という結論は導けないと論じる。AIに帰属できるのは、せいぜい「多数の真なる命題を保持している」という弱い意味での知識にとどまるということだ。
AIは「理解の権威」にはなれないが、「信念の権威」にはなり得る
権威についても、Ferrarioらは慎重な区別を提示する。権威には二種類ある。ひとつは、単に「これはこうだ」と信じさせる「信念の権威（authority of belief）」。もうひとつは、相手を理解へと導く「理解の権威（authority of understanding）」である。
現代のAIは、後者——理解の権威にはなれない、というのがFerrarioらの結論である。理解の権威には、相手の状況をくみ取り、思考の道筋を示し、対話を通じて理解を促す複雑な能力が必要になる。これは、単に会話がなめらかであることとはまったく別の話である。
一方で、Ferrarioらは、将来的にAIが「信念の権威」として機能する可能性は否定できないとも述べている。たとえば、特定の環境で長期的に高い精度を示し、人間に対して認識上有利な立場にあると考えられるAIであれば、その出力を信じる理由を与える存在として扱われるような場合だ。実際、私たちが日常でAIをそのように扱ってしまう場面は、すでに数多くある。
本当に権威と呼べるのは「人間＋AI」というハイブリッド・エージェント
Ferrarioらの議論のもっともユニークな点は、AIを単体で評価するのではなく、人間とAIの相互作用全体に目を向けるところにある。背景にあるのは、認知や判断を個人の頭の中だけでなく、人間・道具・環境の相互作用の中で生まれるものとして捉える「分散認知（Distributed Cognition）」の考え方である。
この考え方に立つと、人間がAIをうまく使いこなし、そのおかげで自分だけでもAIだけでも達成できないような認識的成果を上げたとき、重要なのはAI単体の能力ではなく、人間とAIの相互作用全体になる。Ferrarioらは、このような「人間＋AI」の組み合わせを、「ハイブリッド・エージェント（人間とAIが協働して判断を生み出す単位）」として捉える。
そして、専門家や権威と呼ぶにふさわしいのは、AIだけでも人間だけでもなく、両者が協働して判断を生み出すこの関係ではないか、と論じている。
論文では二つの印象的な例が示されている。
一つは、技術に習熟した医師とAIの協働。医師はAIの予測をうのみにするのではなく、そのロジックを検討し、自分の臨床経験と照らし合わせ、必要に応じて修正する。ここでは、医師単独でもAI単独でもなく、両者の相互作用が優れた診断を生む。
もう一つは、孫に「北極星の探し方」を聞かれた祖父が生成AIを使って答えるという例だ。祖父は天文学の専門家ではないし、生成AIも教育者ではない。しかし祖父が問いをうまく投げ、AIの回答を自分の言葉で咀嚼して孫に伝えることで、孫にとっては十分に権威ある学びが成立する。
この議論から私たちが受け取るべきもの
Ferrarioらの議論は、私たちが日常的にAIをどう位置づけるかについて、重要な示唆を与えてくれる。
一つは、「AIは高精度だから権威だ」という理屈は、実は簡単には成り立たないということ。私たちがAIを権威として受け入れているとき、そこには技術的な優位性以上に、社会的・心理的な”権威化”のプロセスが働いている。
もう一つは、AIが「真の権威」に近づくのは、それを使いこなす人間との協働のなか中においてであるということ。AIの出力をそのまま受け取るのではなく、問いを投げ、疑い、確かめ、自分の知識と照らし合わせる。このプロセスを経て初めて、AIは私たちの認識を豊かにする存在になり得る。
言い換えれば、AIを権威化するかどうかは、AIの側の問題ではなく、私たち人間の関わり方の問題なのである。
アルゴリズミック・オーソリティと健全に付き合う三つの視点
AIを権威化するかどうかが私たち人間の関わり方の問題であるとすれば、日々の実践において、私たちはどのように向き合えばよいのだろうか。ここからは、働く一人ひとりの目線から、アルゴリズミック・オーソリティと健全に付き合うための三つの視点を提案したい。
「なぜそう判断したのか」を問う習慣を持つこと
AIが提示してきた結果を見たときに、「この提案は、どんな前提や材料からつくられているのだろう」と一拍置いて考える。たとえば営業スコアの低い顧客は、本当に見込みが低いのか、それとも単に過去の購買履歴データが少ないだけなのか。
検索ボリュームが小さい企画は、需要がないのか、それともまだ言語化されていない潜在ニーズなのか。こうした問いを立てる力である「アルゴリズム・リテラシー」を磨く必要があるだろう。
最終判断は人間が担うという線引きを意識すること
AIは大量の情報を高速で処理し、選択肢を整理してくれる優れたパートナーである。しかし、「最終的にどうするか」を決める責任は、依然として私たちのものだ。
Ferrarioらの言葉を借りれば、望ましいのはAIに従属することではなく、AIとの協働の中で「ハイブリッド・エージェント」としてよりよい判断を生み出すことである。AIを「下書きをしてくれる相棒」として使い、自分はそれを批判的に読み、選び、書き換える。この姿勢こそが、AIと共に働くということの本質ではないだろうか。
自分の違和感を言語化する場を残すこと
営業の感触、編集者の経験に基づく“嗅覚”、現場で起きている小さな兆候、これらは数値化されにくいけれど、確かに存在する価値ある情報である。「AIはこう言っているけれど、私はこう感じる」と口に出せるチームの空気は、組織の財産だ。違和感を発言できる場が残されていることで、アルゴリズムが取りこぼした重要な情報をすくい上げ、システム自体を改善していくこともできる。
おわりに
アルゴリズミック・オーソリティは、誰かが悪意を持って私たちに強いている現象ではない。便利さと効率を求めた結果として、静かに、しかし確実に進行している「権威の移譲」である。だからこそ気づきにくい。
AIと共に働く時代は、もう始まっている。大切なのは、AIを過信することでも、拒絶することでもなく、「ちょうどよい距離感」をその都度つくり直していくことである。
アルゴリズミック・オーソリティという言葉と概念を知ることで、その距離感を客観的に測ろうと意識するきっかけになれば幸いである。
【参考文献】
Shirky, C. (2009). A Speculative Post on the Idea of Algorithmic Authority.
Facchini, A., Fregosi, C., Natali, C., Termine, A., & Wilson, B. (2024, November). Algorithmic Authority & AI Influence in Decision Settings: Theories and Implications for Design. In Proceedings of the 12th International Conference on Human-Agent Interaction (pp. 472-474).
https://dl.acm.org/doi/pdf/10.1145/3687272.3691363
Ferrario, A., Facchini, A., & Termine, A. (2024). Experts or Authorities? The Strange Case of the Presumed Epistemic Superiority of Artificial Intelligence Systems: A. Ferrario et al. Minds and Machines, 34(3), 30.
https://link.springer.com/content/pdf/10.1007/s11023-024-09681-1.pdf
