機械学習・AI

Shadow AI ~AI実装の隠されたインパクト~

世界有数のグローバル企業であるGartnerに25年間勤め、
エグゼクティブバイスプレジデント(リサ―チ&アドバイザリー部門責任者)としての経歴ももつグローバルITリーダーPeter Sondaergaard(現2021.AI取締役会長)。
彼の記事の翻訳シリーズ第3弾です。

元記事:Shadow AI – The hidden impact of deploying artificial intelligence

AIのインパクト

先日、私はクライアントに会ったのだが、自然と人工知能(AI)のインパクトについて会話をしていた。 議論の中心は、「現代の組織におけるAIモデルの実装」という点に集中した。

直近4年の成長予想

企業が実装しているモデルの数は平均5つ程度だ、とする研究もあるが、向こう4年間の年平均成長率は60%を超えると予測できる。 4年の間に平均的な大手企業は35のモデルを実装、デプロイし、AIによるインパクトはより広がるだろう。

しかしながら、これはAIがもたらす本当のインパクトの根幹ではない。 組織にインパクトを与える他のいくつかの要因を含め考察する必要がある。

Shadow AI

Shadow AIの存在

ガートナー、マッキンゼーの調査が示す、「実際にデプロイされているモデルの数」は、あくまで公式に発表されているAIモデルの数しか考慮していない。 あらゆる組織において「シャドウAIモデル」の実装が増えていると見るのは、いかにももっともらしい。

ここで言う「Shadow」とは、元々エンドユーザーがPCやソフトウェアを購入する、という出来事を意味しているが、その当時の現象と何ら変わらない。 AIの増加の仕方は同じような傾向になるだろう。

追記

訳者追記:かつてコンピュータは非常に高価であり、研究などを目的とし、大組織の限られた部門での使用が主であった。しかし、時代の変化とともに、一般の消費者でも手が届くまで普及し、現代に至る。

結果として、公式に製品として、あるいは取り組みとして外部に公開しているシステム以外にも、内部的に業務を効率化したり、負を解消したりするために様々なシステムが稼働している。これらの、影でこっそり稼働しているコンピュータやシステムを総称し「Shadow」と表現している。AIについても、同様の現象が起こると筆者は述べている。

AIソリューションの広がり

今後はますます、マーケティング、物流、HRなどの部署単独の判断で、AIモデルを含んだソリューションを配備するという意思決定がなされる。 AIソリューションの広がりは「シャドウAIモデル」環境の爆発的増加に直結すると考えられる。

複雑化するAI

複雑さとは

これは単なる「インパクト」に留まらない。 モデルがデプロイされて、絶えず改良されていくのにつれて、複雑さは増していく。 ここでいう複雑さとは、AIによって扱われる仕事、あるいはAIに対する需要の複雑さを意味している。

AIの守備範囲

AIモデルはより幅を広げ、1人の人間や、従来の製品、サービスよりもずっと多くの仕事をこなすことができるようになる。 そして最終的に、2020年にデプロイされるAIモデルを利用するユーザーは年々増加していくだろう。

モデルが成熟していくにつれて、マーケティングやHRといった部署内の多くのユーザーに向けたモデルをデプロイすることが経済的に技術的にもより可能になっていく。 さらには、AI環境を採用する部署そのものの数も増えていくかもしれない。

AIマネジメント

マネジメントの範囲

組織全体のAIのマネジメントとは、今後数年で増加する、デプロイされたモデルのマネジメントだけを指すわけではない。 組織全体のAIマネジメントはモデルの複雑さ、モデルの幅の拡大、ユーザーの数、「シャドウAI」の急増を管理していくことと同義である。

管理と戦略

企業によるAI管理、そして洗練されたAIガバナンス戦略へのアプローチは、AIモデル、及び「シャドウAI」が爆増している中でますます必要性を増している。 時と共に、AIはより複雑な手順とガバナンスを要するのだ。

組織とAI

組織は以下の3つのテーマに基づいて考える必要がある。

AIマネジメント
  • 組織内の幅広い部署に導入される、大量のAIモデルをいかにしてマネジメントするか
  • そしてその結果、シャドウAIにどのような事象が起きうるか
AIガバナンス
  • 組織にとってのAIガバナンスとは何か
  • 誰が説明責任を負うのか
  • 彼らが果たすべき責任は何か
AIコミュニケーション
  • AIについてどのようにコミュニケーションするか
  • 組織に属する全員の説明責任について
  • 全員がAI関連のスキルを身に付ける必要性
  • シャドウAIをどう扱うかを理解する

人工知能(AI)の複雑さはデプロイされるモデルの増加、という問題をはるかに超えるものだ。 組織のCxOはシャドウAIのインパクトがもつポテンシャルにしっかりと意識を向ける必要がる。

翻訳者あとがき

AI導入の障壁を下げるサービスが次々に登場しており、ソンダーガード氏が述べるような、AIモデルの実務導入が進むことに疑いの余地はない。 部署部門を問わず、業務効率化、生産性向上といった文脈で各組織に最適化された無数のモデルが稼働することであろう。

しかし、同時に今までは発生しなかった問題が噴出するリスクも高まっていく。 実際、Amazonでは学習モデルの欠陥から、人材採用でのAI利用を取りやめた。 問題の発生を事前に抑制するのが最も理想的であることに間違いはないが、起きてしまったことにどうあたるかもまた重要である。 抱えた課題をいかに解決し、次の進歩につなげるか、という意味でも事前にガイドラインを作成することは重要である。

関連記事Related Posts