AIになにを学ばせ、なにを最適化させるのかを考えるのが人の役割

　近年、私たちの生活にもAIがどんどん応用されています。例えば、インターネットで買い物をしたり、ニュースを読んだりすると、自分好みの商品やニュースをAIが学習し、それらを優先的に表示するようになります。それを便利だと思う人は多いと思います。

　しかし、一方で、それは人の周りをタコツボ化させるという指摘もあります。自分好みの情報に囲まれることは居心地が良く、そこから抜け出さなくなるからです。

　でも、そうしたタコツボが自分の視野を広げる妨げになっていると思えば、その問題を解決するように声をあげることも必要です。それによって、システム開発者が新たな問題をAIに与えるきっかけになるかもしれません。

　あるいは、何回かに1回は、自分自身で異なる傾向のニュースを意図的に探したりすることで、「自分が望んでいるのは別の世界である」とこちらからAIに伝えることもできるかもしれません。AIの学習が開発者任せになるのではなく、ユーザーである私たちも関与することができるわけです。

　そのためには、AIがどういう形で動いており、どういった学習をするのか、その仕組みをできるだけ理解することも必要になります。

　EUでは、AIが人に対して示した解について、説明しなければいけないという倫理指針を作っています。

　例えば、ある求人に応募した人に対して、AIが不採用という解を出したとき、なぜ、そういう解が出たのか、理由は、キャリアなのか、なんらかの測定で人のやる気の強さを推定しているのか。その理由に不公正な差別はないのか。AIを利用している求人元の会社は、不採用とされた人に対して納得のいく説明をしなければならないのです。

　それは、もちろん人権問題でもありますが、AIの計算をブラックボックス化させないためでもあります。つまり、どのようなデータを読み込み、どのような問題を与えられて学習し、この解を出したのか、その過程がわからない状態にしてはいけないということです。

　これは非常に重要なことで、これがブラックボックス化すると、それこそシンギュラリティ脅威論の世界になりかねません。

　要は、人を凌駕するAIの機能によって生み出される利便性やわかりやすさに、ただ飛びつくのではなく、それを含めた大きな枠組みを、一歩引いたところから見直すということが、私たちにとって重要だということです。

　私たちが本当にやりたいことはなんだったのか、そのための問題とはなにで、AIになにを学ばせ、なにを最適化させたら良いのか。それを考えるのが人の役割です。

　あなたは、AIによって作られたタコツボに入りたかったのか、就く仕事を決めてもらいたかったのか。それをきちんと考えられる力がリテラシーであり、それを身につけることが、私たちのこれからの「生きる力」なのかもしれないと思います。

　将棋AIは強くなることを問題にし、進歩してきましたが、いまや、強い将棋ソフトばかりです。そこで、私たちは、例えば、感想戦を充実させたり、あるいは、気持ち良い負け方ができるようなAIを研究しています。強さの追求から、ユーザーが快適に遊べるという問題にシフトしているのです。AIは人のためのツールであることを、いま最も体現しているのは、このようなゲームなのかもしれません。

>>英語版はこちら(English)