近い将来、組織のマネジメントにもAI（人工知能）が活用されようとしています。前編に引き続き、「アルゴリズミック・マネジメント」という、AI(人工知能）による組織マネジメントなどを研究している京都大学 経営管理大学院の関口 倫紀教授に話を伺いました。

後編となる今回は、「アルゴリズミック・マネジメント」により、働く人々の立場はどう変わっていくのか、新たに誕生する職種とはなど、将来における企業と労働者、AIと労働者の関係について、語っていただきました。

AIが正しく判断できないからこそ、人間が介入する仕事がある

——前編では、「アルゴリズミック・マネジメント」によって、管理職の仕事がなくなって、新たな仕事が生まれてくるだろうという話がありました。具体的には、どのような仕事が誕生する可能性があるのでしょうか？

関口：キャサリン C. ケロッグ氏を筆頭とするMITとスタンフォード大学の研究者のグループが、「アルゴリズミック・マネジメント」の登場（普及）により3つの職種が誕生すると研究論文で紹介しています。

• アルゴリズミック・キュレーター
• アルゴリズミック・ブローカー
• アルゴリズム調整職

1つ目は「アルゴリズミック・キュレーター」という職種です。アルゴリズムが生み出す知識は非常に膨大で、複雑になっていくなかで、大事だと思われる知識を取捨選択して、人々に伝える。

いわゆる「キュレーション（大量の情報を収集・整理し、ユーザーに共有する）」の仕事です。ただし、この仕事は正しい取捨選択を行う必要があるので、周囲から信頼の置ける、その道のプロフェッショナルが行うことになるでしょう。

2つ目は「アルゴリズミック・ブローカー」といって、AIが人・組織をマネジメントする際に行っている計算方法や考え方を分かりやすく説明する仕事です。この部分は、AIからマネジメントや評価を受ける人にとっては、ブラックボックスになるため、納得感のあるマネジメントを行うためにも、こうした仕事が大きな役割を担ってきます。

3つ目は「アルゴリズム調整職」という職種です。「アルゴリズミック・マネジメント」そのものを監視して、アルゴリズムのプログラミングや、周辺の基幹技術に直接介入して、アルゴリズム自体を修正したり、変更したりする仕事です。

多くのAI研究者が言っていますが、現段階においてAI（アルゴリズム）が、すべて正しく判断できるとは限りません。AIはまだ倫理的な判断ができないため、たとえば、採用などでは、一定の人だけが排除されてしまうことが起こり得ます。そういうところは、人間を介して調整していく必要があります。

AIに任せれば便利だからといっても、人間がAIに支配されるようになってはいけません。だからこそ、人間がAI（アルゴリズム）に介入して、技術を通じてAIと対話し、調整を行う役割（職種）が求められます。

「アルゴリズム調整職」というのは、技術を軸にしてアルゴリズムを変えることができる人材以外に、広い視野や哲学的な考え方を持って、AIを正しい方向に導いていける人材が必要になってきます。そういう意味では、ITのテクニカルなスキルを持った人と、経営的な判断ができる人がチームを組んで行っていくべき職種と言えるでしょう。

——米国では、採用活動や査定にAIを導入する企業が増えており、ニューヨーク市では、AIを評価・査定に使用する1年以内に、人種や性別などに基づくバイアスに関する監査を第三者機関から受け、その結果を自社のWebサイトで公表するAI規制法（Local Law 144）の執行を2023年7月から開始されています。やはり、今後は日本もこういう措置がスタンダードになっていくのでしょうか？

関口：そうなると思います。今のAI技術では、ビッグデータといっても、ほとんど過去のデータから学んで結論を出しているだけなので、 間違った結論を出すと、それが過去のデータとして保存され、それを是としてしまうようなフィードバック機能が働いていくことになります。

そのまま何も手をつけずに放置しておくと、とんでもない方向に暴走してしまう恐れがあるため、行政を含めた第三者機関が監視し、統制することが重要になってきます。

企業やお客さんから監視され、収入が減り、労働者の立場が弱くなっていく

——「アルゴリズミック・マネジメント」が浸透することで、働き手（人）の立場も変化しそうですが、いかがですか？

関口：結論として、「アルゴリズミック・マネジメント」が浸透することで、労働者の力（立場）がどんどん弱くなっていくことが考えられます。それは、2つの理由があるからです。まず労働者の働きぶりが、AI（アルゴリズム）を通じて、企業側のみならず、お客さんからも監視されるようになります。

Uberでいえば、お客さんの気に障る言動を発すると、非難的な発言がコメント欄に書かれ、評価も下がってしまいます。たとえ、それが自分に非がないことであっても、です。それによって、労働者は大きなストレスを抱え込むことになります。

人からの依頼であれば相手の顔色を伺いながら断ることができても、AI（アルゴリズム）だと、断ればその瞬間に仕事を失うかもしれないと考えるようになり、次第に断りづらくなってしまい、精神的負担が急激に増えていきます。

もう1つは、仕事が標準化され、細分化していくと、誰でもできる仕事が増えてきます。そうなると隙間時間を活用して、多くの人が空いた時間を仕事に使えるようになってきます。これだけ聞くと、一人ひとりが時間を効率的に使えるようになって生産性が高まるように思えますが、反対に供給できる人が増えてくるので単価が下がり、総合的に見ると、労働者の収入が減少してしまう可能性があります。

このようにAI（アルゴリズム）の管理下で働くようになると、労働者が弱くなり、新たな労働者搾取が起こる可能性があります。これが進んでいくと、生活を維持するために必要な賃金（給与）よりも下がってしまって、さらに働かないと生活が成り立たないようなことが起こり得ます。一方、お客さんにとっては、安い価格で利用できるので、喜ばれるサービスになってきますが……その分どこかで、犠牲になっている人が出てくるのも事実です。

こうした状態が生まれてくると、それを是正（規制）する法律がつくられたり、AI（アルゴリズム）に対して、人々が抵抗する運動が起こったり可能性があります。これを「アルゴアクティビズム」という言い方をしますが、そうしたことを言っている研究論文もあります。

人間は無力化する恐れがある。自ら学び、経験していく姿勢が大切

——「アルゴリズミック・マネジメント」が、今後発展していく可能性があるなかで、人間はどのようなことに気をつけるべきでしょうか？

関口：AI（アルゴリズム）は、今でも便利ですが、学習し発展していくと、さらに便利になっていくので、知らぬ間に依存している可能性があります。私たち人間は、それを理解し、意識した上で、AI（アルゴリズム）と向き合う必要があります。

つまり、AI（アルゴリズム）に依存しすぎず、あくまで人間が幸せになるためのツールであることを忘れないことです。それを忘れてしまうと、本当に人間は無力化してしまいます。そうならないためには、やはり自ら学習することが大切です。

たとえば、AIが自動運転を行ってくれるからといって、自動運転のメカニズムなどを知らないまま過ごしていいのでしょうか。勝手に目的地まで運んでくれるからといって、地理を知らないままで、問題はないのでしょうか。知らないがゆえに、大事故を招いてしまうことは往々にして起こり得ます。そうならないためにも、自らで基本的な知識を身に付けておくことが大切でしょう。

AI（アルゴリズム）も学習によって、次第に賢くなっていくものの、まだまだ完璧なシステムではありません。それにAIに従っているだけだと、人間も頭を使わなくなってくるため、退化していく恐れがあります。そういう意味でも、自ら経験したり、学んだりすることは今後より一層大事になってくると思われます。そこが注意すべき点になってきます。

もう1つ求められるのは「対人スキル」です。仕事の相談も人ではなくAIに行うようになれば、オフィスに出社することもなくなり、人間と話す機会も減ってきます。そうすると、生身の人間と話した時に、自分の話を聞いてくれなかったり、愚痴を聞かされたりして、辛抱強く相手の話を聞くことができなくなる恐れがあります。そういう対人スキルも、今後意識して磨いていく必要があるように思います。

逆に言えば、普段から人と接することが少ない分、話を辛抱強く聞いてくれる生身の人間に飢えてくる可能性も出てきます、ホスピタリティがあり、ヒューマンタッチを大事にする仕事はAIにはまだまだ真似できません。希少価値が高く、なくならない仕事と言えるかもしれません。

もちろん、人間の本質が変わってしまったら、これらのニーズも変わってしまいますが……。今と同じ特性を持つ人間であれば、こうしたコミュニケーションはまだまた求められると思います。

学び、経験する。ホスピタリティ・マインドセットを持った対人力。人間にしかできない素養を意識して、仕事に取り組むことこそが、マネジメントにAI（アルゴリズム）が普及する世界では、人やAIと差別化できるポイントになるかもしれません。

編集後記

前編・後編でお届けした記事では、京都大学関口倫紀教授とのインタビューを通じて、AIによる組織マネジメントの将来と労働者の立場について探ってきました。関口教授は、「アルゴリズミック・マネジメント」の普及により、新たな職種や労働環境が生まれる可能性があることを示唆されました。

また、AI（アルゴリズム）を導入することで、労働者の立場も変わっていくことが懸念されます。そして、それに対応するための法規制や、抵抗運動が起こる可能性があると指摘されました。AIが便利である一方で、それに頼りすぎることで人間の能力の退化につながる恐れがあるため、「自ら学び、経験する姿勢が重要だ」と、提言されました。

AIによるマネジメントの普及に伴い、労働者の立場や働き方のパラダイムシフトが起こることが予想されます。そこでは人間独自の能力とAIの強みを最大限に活かし、両者が相互補完的に働くことで、より進化した組織が期待できるのではないでしょうか。

---