かつて主流だったコラージュ画像は、画像編集ソフトを用いて手作業で切り貼りされたものが多く、不自然な境界線や光の加減から偽物であることの判別が比較的容易だった。しかし、現在の生成AI技術は全く異なる次元にある。数枚の本人の顔写真さえあれば、AIモデルが表情や骨格、肌の質感を学習し、高精細な偽画像を数秒で生成してしまう。
特に問題視されているのは、オープンソースで公開されている画像生成AIの悪用だ。フィルターや規制を解除した改造モデルがアンダーグラウンドなコミュニティで流通しており、これが悪質なフェイク画像の量産を後押ししている。技術の民主化が、結果として個人の尊厳を脅かす兵器となってしまっているのが現状だ。
