明治大学の教授陣が社会のあらゆるテーマと向き合う、大学独自の情報発信サイト

不安? 便利? もう始まっている人工知能が働く社会

明治大学 総合数理学部 准教授 福地 健太郎

インフラ化する人工知能

福地 健太郎 人工知能が十分に高い能力を持つためには、人工知能の仕組みそのものに加えて、それを動かすための膨大なコンピュータパワーと、人工知能を訓練するための膨大な学習用データが不可欠です。幅広くサービスを提供しようとなると、現在、これらを思うように揃えられるのは一部の大企業に限られています。こうした組織に合意形成のプロセスのコントロール権が集中することは、社会に新たな格差をもたらしかねません。

 例えば、人工知能の開発においては、広くデータを集められる事業者が有利となる傾向があり、データの一極集中を招く怖れがあります。そのため、高度な人工知能をサービスに組み込める事業者は限られてしまい、寡占状態を招くことも考えられます。少なくとも公共性の強いサービスに直結するデータについては、社会インフラであるとみなし、誰もが利用できるよう整備する必要があるのではないでしょうか。

 別の危惧は、前述した“割り切り”の合意形成において一方的な押し付けがまかり通ってしまうことです。事業者間の競争が健全に働いていれば、利用者はより割り切りの少ない、自分に都合のよいサービスを選んでいくことができます。しかし前述のような理由で事業者の数が限られてくると、事業者側に都合のよい割り切りを強要されることになるでしょう。

 そうした割り切りの中でも特に注視しなければいけないのが、人工知能の思考プロセスのブラックボックス化です。すでに囲碁プログラムなどでは、どうしてプログラムがうまく着手を選べているのか、人間には判断できなくなりつつあると言われています。人工知能を動かすデータや計算資源が膨大になればなるほど、その挙動を人手で解明するのは困難になっていきます。そのため、ある段階から、なぜうまく動くかはよくわからないが、よい結果が出ているから、便利だからこれを使い続けよう、という判断が働くようになるでしょう。ここまでは人工知能を搭載しない従来の機械やサービスでも同じなのですが、人工知能が昔からあるそれらと異なるのは、序々に成長をする点です。与えられた学習用データを元に構築された人工知能は、使用されるにつれさらにデータを吸収し、成長していきます。しかしその成長の過程で、都合の悪い結果が出ていてもちょっとくらいなら目をつぶろうということは十分に起きえます。あるいは、都合の悪い結果がフィルタリングされ、気がつくことすらないということも起きるかもしれません。これが繰り返されると、人工知能の予測に沿った、都合のよいデータによってさらに学習が進み、過剰適応を起こしてしまいます。人間の認知能力は、内在するバイアスに気づきにくい性質を持っています。ブラックボックス化した人工知能はそのバイアスの強化をもたらします。特定の組織や体制を利するよう、気づかぬうちにコントロールされでもしたら大変です。それを防ぐためにも人工知能の画一化・寡占化の起きぬよう社会制度を整えることが求められます。

IT・科学の関連記事

インテリジェンス研究:安全と権利自由の「両立」をいかにして実現するか

2020.6.17

インテリジェンス研究:安全と権利自由の「両立」をいかにして実現するか

  • 明治大学 専門職大学院 ガバナンス研究科 特任教授
  • 小林 良樹
画像処理技術は、より安全と公平を社会にもたらす

2020.4.22

画像処理技術は、より安全と公平を社会にもたらす

  • 明治大学 理工学部 専任講師
  • 宮本 龍介
がんの検査だけじゃない! ヒ素を無毒化する線虫にも注目!

2020.3.4

がんの検査だけじゃない! ヒ素を無毒化する線虫にも注目!

  • 明治大学 農学部 専任講師
      科学技術振興機構 さきがけ研究者(兼任)
  • 新屋 良治
人型ロボット、ヒューマノイドが私たちを救う!!

2020.2.19

人型ロボット、ヒューマノイドが私たちを救う!!

  • 明治大学 理工学部 准教授
  • 橋本 健二

Meiji.netとは

Meiji.net英語版

特別授業

新着記事

2020.07.01

「経営を見える化」する力が「ビジネス」を変える

2020.06.24

子どもの権利を見落とす/教師の権利も見落とされる「ブラック」な学校

2020.06.17

インテリジェンス研究:安全と権利自由の「両立」をいかにして実現するか

2020.06.10

書店が本の価格を決めたら、本はもっと売れる!?

2020.06.03

移民を引き寄せるアメリカの魅力が、日本にはあるか

人気記事ランキング

1

2020.04.01

歴史を紐解くと見えてくる、台湾の親日の複雑な思い

2

2017.10.18

ゲーテッド・コミュニティの実態に迫り、その“可能性”を探る

3

2020.07.01

「経営を見える化」する力が「ビジネス」を変える

4

2019.07.31

万葉集に由来する「令和」に込められた、時代にふさわしい願い

5

2017.10.04

精神鑑定は犯人救済のために行うのではない

Meiji.net注目キーワード

【注目!】連載コラム