説明可能なAI

SF 映画のように、ロボットが人間を 支配する日はくるのでしょうか。 何年も前のことですが、 私が聴いていたラジオのトーク番組で、 リスナーからゲストに こんな質問がありました。 「コンピューターが強力になりすぎて、 世界を支配するようなことは あると思いますか」。 ゲストの返答は意外なものでした。 「それはもうとっくに起きています」 と言うのです。 そしてリスナーにこう尋ねました。 「あなたは、自分の家にコンピューターの チップがいくつあるかを知っていますか。 それぞれの働きを知っていますか。 あなたが指示や許可をするまで じっと待っていますか」と。 もちろん答えは全部「ノー」です。 私を含め、自宅にいくつ コンピューターチップがあるかさえ 全然わかっていない人が大半でしょう。 チップが至るところにあって、 その全貌もやっていることも人間には わからないというこの状況は、 一種の支配と言えるのかもしれません。 さて、同じような状況は、 人工知能、すなわち AI にも当てはまります。 AI は至るところに使われ、 「ユビキタスAI」という言葉もあります。 ネットの検索、ショッピング、テレビ番組や 楽曲のおすすめ、空調、自動運転、 口座管理など、挙げればきりがありません。 AI はいつも休みなく働いています。 新たな応用分野が広がるとともに、 導入数も加速度的に増え続けています。 ここで、状況を複雑にしているのは、 AI の中で起きていることは だいたい不透明だという点です。 最新の AI は、 ディープラーニング・ ニューラルネットワークを多用していて、 すばらしい仕事をしますが、 ネットワーク上のデータの動きを 確認することは難しく、 不可能とさえ言えるかもしれません。 ブラックボックス的と呼ばれるゆえんです。 入力される情報があって、 見えない箱の中で 不明な処理が行われてから、 出力となります。 このプロセスは 高速かつ効果的で、 すごいことをやってのけます。 でも、データを使って何が起きているか、 正確にわかる人はいないのです。 このことは本当に厄介な問題です。 それは、前のレッスンで解説した カリフォルニア州の 「消費者プライバシー法」、 通称 CCPA や、 EU の「一般データ保護規則」、 通称 GDPR といった法規制が 誕生しているからです。…