Meiji.net

2019.05.29

AIのタコツボに入るか、AIに指針を示すかは、使うあなた次第

  • Share

問題解決のシステム全体をデザインすることが重要

 人を凌駕するコンピュータが、人が予測できないような能力に達するシンギュラリティが起こり、脅威となるという説があります。しかし、私は、そのような脅威論には賛成しません。

 確かに、膨大なデータや可能性を瞬時に調べ上げ、最適な選択をするという作業において、コンピュータは人を完全に凌駕しているし、その機能はさらに進歩するでしょう。

 しかし、将棋AIの開発がそうであったように、ただ、膨大な棋譜を読み込ませても、なにを目指すのか、何が良い状態なのかという方針を与えなければ、AIは学習しません。人が指した手が良い手なのでそれを真似るのだ、という問題を与えたことにより、その解として、強い手を選択するようになったわけです。

 この仕組みは、ゲーム以外のどのようなAIにとっても、基本の仕組みだと思います。

 例えば、経路探索、いわゆるナビで考えてみましょう。すべての路線のダイヤを読み込ませても、それはただのデータベースです。ここに、最短時間のルートで移動するのが良い、という問題設定を与えると、コンピュータはそのような答えを出すようになります。

 しかし、人は最短時間での移動だけを求めるでしょうか?なんとなく人間が「快適」だと感じるような移動を行うには、どうしたらよいでしょう。

 ここで、実際に人が移動した履歴のデータをコンピュータに取り込んでみることにしましょう。すると、例えば、多くの人が最短ルートを外れた駅を使っているデータが現れます。その理由はコンピュータにはわかりません。乗り換えの時に階段の昇り降りがないためかもしれませんし、実はそこには美味しい立ち食いそば屋があるからかもしれません。しかし、「多くの人が選んでいる経路はおそらく快適な移動経路なのだ」と考えることにすると、その履歴から学習を行うことができます。望ましい経路というものを、学習を利用できるような形で問題として定式化することで、AIが力を発揮できる状況を作り出すことができるのです。

 ちなみに、この経路探索AIが見つけた乗り換えルートを、実際に乗り換えしたい人に推薦してみるとしましょう。その人が、推薦ルートを実際に利用したのであれば、それは快適な経路だったことになります。異なる経路で乗り換えたのであれば、AIの選択は良くなかったことになります。AIは、快適なルートという問題に対する解によって報酬を得て、その精度をさらに上げていくことができるわけです。

 さらに、季節によっては、天気がとても良い日は一駅手前で降りて歩く気分になるという人もいるかもしれません。逆に、雨降りの日は駅までバスを利用するという人もいるかもしれません。すると、快適なルートという問題に対して最適な解を選択するためには、気候や天気などの情報を読み込ませ、学習させることも必要になります。

 つまり、AIに何が望ましいかを教えているのは人であり、人がAIに与える問題をどのように捉え、どうやって解かせるか、問題解決のシステム全体をデザインすることが重要になってくるのです。すると、AIを暴走させるのも、暴走させないのも、人の問題ということになります。

※記事の内容は、執筆者個人の考え、意見に基づくものであり、明治大学の公式見解を示すものではありません。

  • Share

あわせて読みたい