~~
生成AI(人工知能)を悪用した偽のニュース動画などがインターネット上に出回り波紋を広げている。岸田文雄首相がみだらな発言をしたかのような偽動画も拡散され、物議を醸した。
こうした偽動画が氾濫すれば社会は混乱する。単なるいたずらでは済まされない。政府は早急に対策を講じ、国民を惑わすような虚偽情報の拡散を防ぐべきだ。
岸田首相の偽動画は、日本テレビのニュース番組が報じた映像を使い、首相の声をAIに学習させて作られた。X(旧ツイッター)などで広まり、数百万回再生されたという。
また、日本テレビの別のニュース番組を加工し、実在の女性アナウンサーが投資情報サイトへの登録を促すような偽動画も作られ、同社が注意を呼びかける騒動も起きた。
生成AIによる偽の画像や動画は「ディープフェイク」と呼ばれ、ネット上のアプリを使えば簡単に作ることができる。今回のケースはすぐに偽物と分かる品質だったが、AI技術は急速に進化しており、やがて本物と見分けがつかない偽動画が蔓延(まんえん)する恐れもある。
海外では深刻な被害も起きている。今年5月には米国防総省の近くで爆発が起きたとする偽画像が拡散し、ニューヨーク株式市場のダウ平均株価が一時急落した。
イスラエル軍とイスラム原理主義組織ハマスとの戦闘が続くパレスチナ自治区ガザでも、AIによる偽画像などが無数に出回っている。
こうした中、欧州連合(EU)ではディープフェイクを規制する動きが進んでいる。
一方、日本政府も「AI戦略会議」を設置し、ガイドラインの作成などに取り組んでいるものの、技術革新を優先して規制には至っていない。
表現の自由との兼ね合いもあるが、ディープフェイクは風刺やパロディーとは異なる。社会に出回れば国民は正常な判断ができなくなり、民主主義の基盤が崩れかねない。規制を含め、蔓延させない取り組みが急務である。
国民も注意が必要だ。外国勢力が日本社会を混乱させるため、選挙の際などに虚偽情報を拡散させる恐れもある。ディープフェイクに惑わされないネットリテラシーが求められる。
◇
2023年11月20日付産経新聞【主張】を転載しています