明治大学の教授陣が社会のあらゆるテーマと向き合う、大学独自の情報発信サイト

不安? 便利? もう始まっている人工知能が働く社会

福地 健太郎 福地 健太郎 明治大学 総合数理学部 准教授

インフラ化する人工知能

福地 健太郎 人工知能が十分に高い能力を持つためには、人工知能の仕組みそのものに加えて、それを動かすための膨大なコンピュータパワーと、人工知能を訓練するための膨大な学習用データが不可欠です。幅広くサービスを提供しようとなると、現在、これらを思うように揃えられるのは一部の大企業に限られています。こうした組織に合意形成のプロセスのコントロール権が集中することは、社会に新たな格差をもたらしかねません。

 例えば、人工知能の開発においては、広くデータを集められる事業者が有利となる傾向があり、データの一極集中を招く怖れがあります。そのため、高度な人工知能をサービスに組み込める事業者は限られてしまい、寡占状態を招くことも考えられます。少なくとも公共性の強いサービスに直結するデータについては、社会インフラであるとみなし、誰もが利用できるよう整備する必要があるのではないでしょうか。

 別の危惧は、前述した“割り切り”の合意形成において一方的な押し付けがまかり通ってしまうことです。事業者間の競争が健全に働いていれば、利用者はより割り切りの少ない、自分に都合のよいサービスを選んでいくことができます。しかし前述のような理由で事業者の数が限られてくると、事業者側に都合のよい割り切りを強要されることになるでしょう。

 そうした割り切りの中でも特に注視しなければいけないのが、人工知能の思考プロセスのブラックボックス化です。すでに囲碁プログラムなどでは、どうしてプログラムがうまく着手を選べているのか、人間には判断できなくなりつつあると言われています。人工知能を動かすデータや計算資源が膨大になればなるほど、その挙動を人手で解明するのは困難になっていきます。そのため、ある段階から、なぜうまく動くかはよくわからないが、よい結果が出ているから、便利だからこれを使い続けよう、という判断が働くようになるでしょう。ここまでは人工知能を搭載しない従来の機械やサービスでも同じなのですが、人工知能が昔からあるそれらと異なるのは、序々に成長をする点です。与えられた学習用データを元に構築された人工知能は、使用されるにつれさらにデータを吸収し、成長していきます。しかしその成長の過程で、都合の悪い結果が出ていてもちょっとくらいなら目をつぶろうということは十分に起きえます。あるいは、都合の悪い結果がフィルタリングされ、気がつくことすらないということも起きるかもしれません。これが繰り返されると、人工知能の予測に沿った、都合のよいデータによってさらに学習が進み、過剰適応を起こしてしまいます。人間の認知能力は、内在するバイアスに気づきにくい性質を持っています。ブラックボックス化した人工知能はそのバイアスの強化をもたらします。特定の組織や体制を利するよう、気づかぬうちにコントロールされでもしたら大変です。それを防ぐためにも人工知能の画一化・寡占化の起きぬよう社会制度を整えることが求められます。

IT・科学の関連記事

がんを分子レベルで早期診断するシステム開発が始まっている

2021.5.19

がんを分子レベルで早期診断するシステム開発が始まっている

  • 明治大学 理工学部 教授
  • 石原 康利
先端医療に貢献するものづくりは、汗の結晶!?

2021.3.31

先端医療に貢献するものづくりは、汗の結晶!?

  • 明治大学 理工学部 准教授
  • 工藤 寛之
デジタル機器に欠かせない透明導電膜の作製技術を自然界に学ぶ

2021.3.17

デジタル機器に欠かせない透明導電膜の作製技術を自然界に学ぶ

  • 明治大学 理工学部 専任講師
  • 我田 元
ストレスから救ってくれるのは、老化の主犯の活性酸素!?

2021.2.24

ストレスから救ってくれるのは、老化の主犯の活性酸素!?

  • 明治大学 農学部 准教授
  • 安保 充
イノベーションという「パン」は空から降ってくるもの?

2021.2.17

イノベーションという「パン」は空から降ってくるもの?

  • 明治大学 政治経済学部 教授
  • 末永 啓一郎

新着記事

2021.06.24

ときには、自分の“原体験”を振り返ってみよう

2021.06.23

コロナ禍の人口移動で、都市のバーチャル化が進む?

2021.06.22

同じ志を持つ人との関係を、大切にしよう

2021.06.21

「権利」、「法」、「自由」について、私たちは誤解していないか

2021.06.17

受け取った“想い”を、次世代へつないでいこう

人気記事ランキング

1

2021.06.21

「権利」、「法」、「自由」について、私たちは誤解していないか

2

2020.04.01

歴史を紐解くと見えてくる、台湾の親日の複雑な思い

3

2017.10.18

ゲーテッド・コミュニティの実態に迫り、その“可能性”を探る

4

2021.06.23

コロナ禍の人口移動で、都市のバーチャル化が進む?

5

2021.06.16

違憲判決を社会に活かすために必要なのは

リレーコラム