機械学習・AI

AIガバナンスーKPIとは?責任者とは?

世界有数のグローバル企業であるGartnerに25年間勤め、エグゼクティブバイスプレジデント(リサ―チ&アドバイザリー部門責任者)としての経歴ももつグローバルITリーダーPeter Sondaergaard(現2021.AI取締役会長)。

この記事では、そんな世界的リーダーであるPeter Sondaergaardの記事を翻訳します。 第1回は、下記の記事について。

AI Governance – What are the KPIs? And Who is Accountable? (Nov 8, 2019)

-Peter Sondergaard

引用:https://www.sondergaardgroup.com/post/ai-governance-what-are-the-kpis-and-who-is-accountable

AIガバナンスの概要

AIの責任対象範囲を見てみると至るところで、AIガバナンスという言葉が出てくる。 だが、面白いことに、3つのシンプルだがとても重要な項目が、この対象範囲から抜けているようだ。

1点目、AIガバナンスという言葉自体の定義がほとんどされていないということ。

みなさん全員がガバナンスという意味がわかっていても、AIガバナンスとはどういう意味なのかわかるだろうか?公的機関を中心に語られるAIガバナンスやそれに相当する意味は、ビジネスにおいて必ずしも適当であるとは言えない。

2点目、企業における経営層や該当する部署が、AIガバナンスの側面における責任を少しももたないということ。

公的機関のポリシーを否定することになるわけだが、責任感が必要なのである。つまり、誰に責任があるのかをはっきりさせる必要があるのだ。

3点目、AIガバナンスにおいて多くの面で、測定が不可能となっていること。

もしくは、AIガバナンスをどのように測定するのか、また、どのようにAIガバナンスを機械的にトラックするのかについての配慮がない。

AIガバナンスについての上記3点をひとつひとつ、すべての企業が注目しなければならない。では、それぞれについて詳しく述べていくとしよう。

AIガバナンスとは何か?

AIガバナンス

過去30年で「ガバナンス」という言葉は、ビジネス用語としてスタンダードになってきたが、どういうわけか、少し異なる物事に対して、異なる意味合いでよく使われている。 通常、ガバナンスとはすべてのプロセスの管理統括を含んだものを指すはずだ。ルールや行動を構造化したり、保持したり、規制をしたりすることだけでなく、責任がどこにあるのかの割り振りもガバナンスにあたる。AIガバナンスに対してもこの説明が当てはまるだろう。

AIガバナンスとは、AIに「説明可能性」があり、「透明性」があり、「倫理観」があるということなのだ。

しかしながら、これら3つの言葉は各企業の中の、部門や機関によってさえも、少し異なるものを指している。そうして、AIガバナンスとは何なのかという定義や説明にそれぞれすこしずつ異なる意味合いを持つようになってしまった。

AIガバナンスの定義

例えば、「透明性」について、技術的な定義と公的な(法的な)定義の違いがある。技術的に言えば、ソフトウェアのコードや、個々のデータの構成要素についての詳細をたいてい含んでいる。公的な定義ではその詳細は含まれない。同じように、「説明可能性」や「倫理観」という言葉は、コスト・バリュー・監査能力・コンプライアンスを含む。それでも、ほとんどのAIガバナンスの手法は、先ほど挙げた3つの性質の内少なくとも1つは欠落している。もしくは、すべてにおいて特定のどこかが欠けているだろう。

そして最後に、どのようにAIガバナンスが周りのすべてのことと関連しているかということだ。

AIガバナンスの領域

ガバナンスポリシーはあってしかるべきであり、それは取り巻く世界や企業の中に相互的に関連しているものであるべきだ。つまり、AIガバナンスは用いるためにあるのだ。AIガバナンスについての説明のほとんどは、この事実が欠けている。

シンガポール政府のビジョンのように、いくつかの定義では、AIソリューションは人間中心的である必要があると明示している。明確にすることによって、AIガバナンスという漠然とした領域を制限している。しかし、それだけがAIガバナンスの役割ではないだろう。 AIガバナンスは、全社的なコーポレートガバナンスのフレームワークすべてにフィットしており、人間を中心として、機械的に能率よく動かなければならない。

全ての企業にとってのカギは、AIガバナンスとは何かを慎重かつ意義深い思想をもって定義することである。これを定義する責任は経営層にある。その重要な部分は、AIガバナンスにおける責任がはっきりと明確で、重要項目が測定可能であることを経営層が保証することにある。

では、次にこれらひとつひとつを見ていこう。まずは、「誰がAIガバナンスにおいて責任をもつべきか?」について。

AIガバナンスにおいて誰が責任を持つべきか?

これはややこしい質問だ。 なぜなら、現在、たった一人で責任を持つ人はおらず、その答えも各企業におけるAIガバナンスの定義によって異なるからである。すべてのビジネスにおける重要な機能、顧客満足度、製品、商流のデータと合わせて、リーダーはAIについて見識を持たなければならない。

AIリーダーシップ

AIリーダーシップはすべてのリーダーたちにとって重要な新しいスキルであり(「デジタルエコノミーにおける7つの新しいスキル」を見てほしい)、AIガバナンスはその要素の一つである。 だからこそ、AIガバナンスは企業の中ですべてのリーダーにとって、適切で、適当であるべきということが明確である。 しかしながら、それは施行している中でも重要であり、企業におけるAIガバナンスを進化し続けさせるための機能的な役割もある。

AIガバナンスにおける責任の所在

    • 1つ目に、企業ガバナンスの経営層か上位リーダーはAIガバナンスの憲章について究極的に説明責任と、企業の中で明確な責任的地位をもつ人であるべきだ。
 
    • 2つ目に、もしデータが真に競争的資産であるならば、制限したり、できる限り審査する責任は、企業のボードメンバーにある。審査委員会もこの責任を持たなければならない。
 
  • 3つ目に、企業内の特定の機能的な役割には、AIガバナンスが含まれなければならない。

弁護士は、法律やリスクの側面において責任をもつ。CFOは、コストやファイナンシャルリスク。そして、ここで強く訴えたいのだが、CDO(Chief Data Officer)こそが、進化し続ける企業AIガバナンスの保持とコーディネートの役割と責任をもつということだ。他の役員たちの役割は、AIガバナンスにおいて特定の責任をもつことがあるが、ここにおいて、AIガバナンスを含む、AIが企業のどのマネージャーもマスターすべき、一般的なリーダーシップスキルになるのである。

AIガバナンスにおける責任を命じることは重要である。明確な責任がないと、誰にも説明責任がなくなるからだ。もし、だれも責任を持ってなければ、AIガバナンスへのアプローチは良くて平凡なものとなり、多くは失敗に終わるだろう。

なぜなら、特にAIや企業の潜在データは、企業がよりすべてのプロセスやプロダクトでデータやAIを戦略的に使うようになればなるほど、いつも変化、変形しているからだ。経営層メンバーはAIガバナンスにおける自身の役割を果たすべきだ。企業が取り組むのと同じように、政府がより規制や法的な必要条件に首を突っ込むようになり、監査法人が自立したサードパーティとしてAIガバナンスの終わりなきレビューに入り込むようになるのは、もっともである。

どのようにAIガバナンスは評価されるべきか?

AIガバナンスの評価

責任を課すということに加えて、AIガバナンスを測れるようになることも必要である。 「測れないものは、マネジメントできない」と昔から言われてるように。 ほとんどのAIガバナンス領域で、評価方法についての問題を避けている。

シンガポールの「AIガバナンスフレームワークモデル」でもそのように触れられている。しかしながら、ここでさえ、何か特定の推奨されたAIガバナンスの評価方法は述べられていない。これらの手法の欠如がどの企業においても弱点になるだろう。 なぜなら、これらはプロセスやシステム、プラットフォームなどに、移行したり、組み込んだりすることができないからだ。ソフトウェア環境の要素であるAIガバナンスを展開することは、すべての企業にとって非常に重要になるだろう。

AIガバナンスの適切な手法

すると、疑問点はどの手法が適切なのかということになる。 企業にとって、この質問に答えるには、最初に取り上げられた2つのセクションをまず始めに明らかにする必要がある。

  • 企業にとってのAIガバナンスの定義を明確にすること。
  • そして、企業の中で誰が説明責任を持ち、彼らが何に対しての責任を負っているのかを明確にすること。

AIガバナンスのいくつかの手法やメトリックスは、どの企業、規制、市場においても、スタンダードになるだろう。 同様に、企業はその企業の戦略的な方向性だけでなく、企業が日々の活動べースでどのように経営されるのかを支持するような、他の手法も検討する必要がある。

企業が検討すべき項目とデータドリブンKPI

    • データ:データの系統やデータの出所のための対策。データの質についての対策も。
 
    • セキュリティ:モデルや利用データ供給のセキュリティ。改ざんしたり、不適切なAI環境の利用について理解し、見込んでいるだろうか。究極的には、これらはいつか将来的なブロックチェーンバージョンのAI環境に包括されるだろう。
 
    • コスト/バリュー:理想的には、データのコスト、もしくは、データやアルゴリズムによってもたらされたバリューにさえもKPIがあるべきだ。
 
    • バイアス:選定バイアス、評価バイアスを表すKPIが必要とされる。企業は生のデータや取得データから、常にバイアスを監視する必要があることは確かなのである。さらに言えば、測定したり、倫理学にあるおおよその情報から、少なくともKPIを作ることが可能となるだろう。
 
    • 説明責任:人が何かシステムを使ったり、決断をする際の、責任の明確さ、それ関わる個々人の関与。
 
    • 監査:全体として、定期的なシステムの審査やレビューからなる、継続的なデータ収集。こうして、継続的に審査を公表するには、監査機関やソフトウェアプラットフォームのような、第3者機関のためにデータを綺麗にならしておくことが必要だ。
 
  • 時間:時間の測定はすべてのKPIの一部でなくてはならない。かけた時間に対してのインパクトをよりわかりやすくしておくことだ。

これら以外にも、企業が考えなければならない多くの手法やKPIがある。 重要なことは、今これを実行し、評価環境を育成、進化させることにコミットすると企業が考えることだ。そして最後に、ソフトウェアに落とし込み始める。AIガバナンスはすべてのAIや機械学習環境の一部であるということなのだ。

企業AIガバナンスの今。

経営層が各企業におけるAIガバナンスチャーターを作る最高責任を持つこと。そして、その行為には、説明責任を任命することや企業の評価やKPIを作ることも含まれている。AIガバナンスの全体的なアプローチなくして、AI事業の成功はなし得ないのである。

翻訳者あとがき

「AIガバナンス」自体を、どれだけの人が、企業が、意識しているのだろうか。もう、データやAIについての取り扱い方も企業ガバナンスの領域に入ってきているということを強く感じる。この記事を通して、以下の点が明らかになった。

  • 企業全体として取り組むべきAIガバナンスへの意識
  • 個人情報アクセスへの抑制が高まっているヨーロッパだからこそのデータセキュアに対する先見
  • 評価の重要性が訴えられていながらも、汎用的な尺度や手法は未だないということ

日本の遅れを声高に訴えるのではなく、先進国でさえ未だ明確な手法がない中で、日本という小さな島国が一蓮托生でAIガバナンスを定義していくことに意義があるのではないだろうか。

関連記事Related Posts