明治大学の教授陣が社会のあらゆるテーマと向き合う、大学独自の情報発信サイト

不安? 便利? もう始まっている人工知能が働く社会

明治大学 総合数理学部 准教授 福地 健太郎

インフラ化する人工知能

福地 健太郎 人工知能が十分に高い能力を持つためには、人工知能の仕組みそのものに加えて、それを動かすための膨大なコンピュータパワーと、人工知能を訓練するための膨大な学習用データが不可欠です。幅広くサービスを提供しようとなると、現在、これらを思うように揃えられるのは一部の大企業に限られています。こうした組織に合意形成のプロセスのコントロール権が集中することは、社会に新たな格差をもたらしかねません。

 例えば、人工知能の開発においては、広くデータを集められる事業者が有利となる傾向があり、データの一極集中を招く怖れがあります。そのため、高度な人工知能をサービスに組み込める事業者は限られてしまい、寡占状態を招くことも考えられます。少なくとも公共性の強いサービスに直結するデータについては、社会インフラであるとみなし、誰もが利用できるよう整備する必要があるのではないでしょうか。

 別の危惧は、前述した“割り切り”の合意形成において一方的な押し付けがまかり通ってしまうことです。事業者間の競争が健全に働いていれば、利用者はより割り切りの少ない、自分に都合のよいサービスを選んでいくことができます。しかし前述のような理由で事業者の数が限られてくると、事業者側に都合のよい割り切りを強要されることになるでしょう。

 そうした割り切りの中でも特に注視しなければいけないのが、人工知能の思考プロセスのブラックボックス化です。すでに囲碁プログラムなどでは、どうしてプログラムがうまく着手を選べているのか、人間には判断できなくなりつつあると言われています。人工知能を動かすデータや計算資源が膨大になればなるほど、その挙動を人手で解明するのは困難になっていきます。そのため、ある段階から、なぜうまく動くかはよくわからないが、よい結果が出ているから、便利だからこれを使い続けよう、という判断が働くようになるでしょう。ここまでは人工知能を搭載しない従来の機械やサービスでも同じなのですが、人工知能が昔からあるそれらと異なるのは、序々に成長をする点です。与えられた学習用データを元に構築された人工知能は、使用されるにつれさらにデータを吸収し、成長していきます。しかしその成長の過程で、都合の悪い結果が出ていてもちょっとくらいなら目をつぶろうということは十分に起きえます。あるいは、都合の悪い結果がフィルタリングされ、気がつくことすらないということも起きるかもしれません。これが繰り返されると、人工知能の予測に沿った、都合のよいデータによってさらに学習が進み、過剰適応を起こしてしまいます。人間の認知能力は、内在するバイアスに気づきにくい性質を持っています。ブラックボックス化した人工知能はそのバイアスの強化をもたらします。特定の組織や体制を利するよう、気づかぬうちにコントロールされでもしたら大変です。それを防ぐためにも人工知能の画一化・寡占化の起きぬよう社会制度を整えることが求められます。

IT・科学の関連記事

生物化学は、「より良く生きるための医療」に貢献する

2019.8.7

生物化学は、「より良く生きるための医療」に貢献する

  • 明治大学 理工学部 准教授
  • 本田 みちよ
使い心地の良い道具は、道具ではなくなる

2019.7.24

使い心地の良い道具は、道具ではなくなる

  • 明治大学 総合数理学部 准教授
  • 渡邊 恵太
AIのタコツボに入るか、AIに指針を示すかは、使うあなた次第

2019.5.29

AIのタコツボに入るか、AIに指針を示すかは、使うあなた次第

  • 明治大学 理工学部 准教授
  • 横山 大作
AIがビジネスのインフラになる

2019.4.10

AIがビジネスのインフラになる

  • 明治大学 総合数理学部 准教授
  • 櫻井 義尚
「フェイクニュース」は「嘘ニュース」のことではない

2019.2.20

「フェイクニュース」は「嘘ニュース」のことではない

  • 明治大学 情報コミュニケーション学部 教授
  • 大黒 岳彦

Meiji.netとは

新聞広告連動企画

新着記事

2019.09.11

日本企業のアジア進出は、日本人のあり方を見直すきっかけになる

2019.09.04

グローバル化による「組織パラドックス」をマネジメントするには

2019.08.28

アフリカへの協力から日本経済の将来を考える

2019.08.21

地方自治の権限の拡大によって、現代型民主主義は進化する

2019.08.07

生物化学は、「より良く生きるための医療」に貢献する

人気記事ランキング

1

2019.09.11

日本企業のアジア進出は、日本人のあり方を見直すきっかけになる

2

2018.05.23

衰える結婚、止まらぬ無子化 ――このままでは日本の未来が失われる

3

2017.12.06

ネット依存によって、現代人の脳の構造が変わりつつある!?

4

2014.09.01

緊急提言、人口減少社会に歯止めをかける ―方策は少子化対策、社会…

5

2019.04.24

子どもに会うための共同親権制度では本末転倒

Meiji.net注目キーワード

【注目!】連載コラム