生成AIによるメール攻撃やポルノ画像・映像に対する規制は遅れている

　2023年、BEC（ビジネスメール詐欺）を支援する生成AIツールのほか、マルウエアを作成するためのいわゆる「WormGPT」が公開され、すでに闇サイトでの提供も進んでしまっている状況です。前者は、従来、外国人が日本語で詐欺メールをつくると不自然なことが多く、違和感を覚えやすかったのですが、生成AIで作文するとスムーズな日本語で表現できてしまう。本文だけでは偽物か本物かわからないような、より騙されやすい詐欺メールが今後増えていくおそれがあります。

　また、これまでウイルスやワームなどのマルウェアをつくるには、ある程度の知識や技術が必要でしたが、生成AIを使えば専門知識のない人でも容易に作成ができます。過去や現在のマルウェアを含めて学習させると、より悪用しやすいプログラムの作成も可能になり、巧妙化していく可能性が高い。「WormGPT」がより広まれば、攻撃対象も広がり、悪用に特化した機能もさらに洗練され、偽装もしやすくなるだろうと考えられます。

　日本政府も現在、規制を検討しつつありますが、公的機関までもが「WormGPT」に対抗できるような加害的なプログラムを生成できる生成AIを使えなくなると、対応策をとるのも難しくなってしまいます。これから法整備が進むでしょうが、どこまで規制するかという線引きの問題が残ってくるでしょう。

　生成AIを使ったポルノ画像・映像に対する法解釈も課題です。ポルノは需要が高く、昔からパソコンやインターネット、ICTの技術発展に大きく寄与してきました。これまでWebサイト上に無修正の画像・映像を公開して摘発された事例もありますが、復元可能なモザイク処理をして公開されるなど巧妙化しています。現在はAIを使うことで、以前よりも容易にモザイク処理された画像や映像を処理前に戻すことが可能になっています。

　生成AIの困る点の一つは、ポルノ画像の合成が簡単にできることです。写真の顔部分だけ切り取って、別の画像に貼り付けるようなアナログな方法であれば、それが合成だとわかりやすいのですが、生成AIは自然な人の画像をつくれるので悪用されやすい。生成AIで実在の人物からヌード写真をつくって公開した場合、名誉毀損罪が適用される可能性が高いと考えられます。