行政の動きと並行して、大手テック企業によるディープフェイク対策も本格化しています。日本政府が改定を重ねる生成AI倫理ガイドラインでは、開発者・サービス提供者に対し、性的同意のないコンテンツの生成をブロックする厳格なセーフティガードの設置を強く求めています。
AppleのApp StoreやGoogle Playなどの公式アプリストアでは、脱衣を想起させるワードを含むアプリや画像変換ツールの排除基準が極めて厳格化されました。また、主要な画像生成AIモデルには、プロンプト(指示文)に「nude」「undress」などの禁止語句が含まれていた場合に生成を強制遮断するフィルターが標準装備されています。
しかし課題は依然として残ります。オープンソースとして公開されているAIモデルをローカル環境(個人のPC)にダウンロードし、セーフティ制限を解除(ジェイルブレイク)して悪用するアンダーグラウンドなコミュニティが後を絶ちません。生成された画像に不可視の電子透かしを埋め込む技術も進化していますが、トリミングや再圧縮によって痕跡を消滅させるツールとの間で「いたちごっこ」が続いています。