生成AIの悪用　「脅威」との危機感を持て

This post is also available in: English

生成AIで作成した猥褻（わいせつ）な画像をインターネット上で販売していた男女4人を、警視庁が猥褻図画頒布（はんぷ）の容疑で逮捕した。

生成AIによる猥褻なフェイク画像の氾濫は以前から懸念されていたが、警察が摘発したのは初めてだ。

実在の人物でなく、AIが作成した画像でも猥褻物頒布罪の対象となる―との姿勢を示したことが今回の摘発の意義だ。裁判の判断が注目されるが、社会通念に合致した摘発だろう。

4人はそれぞれ猥褻画像のポスターを作成し、ネットオークションで販売していた。1年間で約1千万円を売り上げた者もいる。憂慮すべきは、4容疑者のうち3人が、特段のIT知識がないのに無料の生成AIソフトで猥褻ポスターを作成していたという「手軽さ」だ。

4人はみな「アダルトAIポスターの販売は原価が安く、手軽に稼げると知ってやった」と供述しているという。AI悪用のハードルは下がり、裾野が広がっているとみるべきだ。

AIの進化は速い。人間の目で生成物の真贋（しんがん）が見分けられなくなる状態なのに、特殊な知識は不要で誰でも操作可能なところまで技術が平準化している。

だが、悪用を防ぐ方策は立ち遅れている。鳥取県でディープフェイクポルノ作成・提供を禁じる改正県青少年健全育成条例が施行されたが、国こそが法整備を主導すべきではないのか。

今回の事件は、警視庁によるサイバーパトロールで発覚した。ネット空間の違法行為の精査は必要な警察業務であり、活動の質を高めてほしい。ただ、いずれは精査が人間の力では追い付かなくなる恐れがある。そのときに備え、捜査の側も精査のためのAIが必要になるのではないか。検討を求めたい。

生成AIがもたらす知的作業の利便性は社会的に不可欠となる一方で、個々の人間では見破れない虚偽情報が拡散される恐れがある。犯罪への悪用が手軽過ぎるため、使う側に罪の意識が希薄という面もある。

今後も画像、動画、テキストといった生成AI作成物を使って人を騙（だま）し、噓で誹謗（ひぼう）中傷し、著作権を侵害するなど犯罪の多発化・高度化が予測される。国はAI悪用の現状を「社会を混乱させる脅威」と認識し、法整備と摘発の両輪によって、健全化を図らねばならない。

◇

2025年4月20日付産経新聞【主張】を転載しています

This post is also available in: English