今回の記事では生成AIを用いて生成されるディープフェイクポルノに関連した事例とその対処法についての解説をしていきます。
このページの目次
ディープフェイクポルノとは何か
ディープフェイクポルノとはディープフェイク技術を悪用してポルノ画像・動画 を作成・流布する行為です。具体的には、実在の人物（芸能人や社員など）の顔を無修正のアダルト動画に合成した「ディープフェイクポルノ」や、架空の児童のわいせつ画像をAIで生成するといったケースが考えられます。
これらは単なる「悪ふざけ」では済まされず、法的にはわいせつ物頒布罪（刑法175条）や児童ポルノ禁止法違反に該当し得る重大犯罪行為です。実際に、生成AIで作成したわいせつ画像をネット販売した事案では容疑者が逮捕されており、他人の顔を合成したフェイクポルノ動画を配信した者が名誉毀損罪とともに処罰された例もあります。
近年も、2026年1月に、生成AIで女性芸能人に似せたわいせつな画像を作成してインターネット上で有料公開していたとして、わいせつ電磁的記録陳列の疑いで男が逮捕されています。
また2026年6月には、名古屋地裁が、実在する女子児童の写真を基に生成AIで作成した裸の画像について、一般人が見れば実在の児童を撮影したものと誤信するほど精巧であるとして、児童ポルノに当たると判断しました。生成AIによる性的ディープフェイクを児童ポルノと認めた司法判断は初めてとみられます。
ディープフェイクポルノは被害者の人格権を深刻に侵害し、特に本人の同意なく作成・拡散すれば社会的にも強い非難を浴びる行為です。
ディープフェイクポルノに対する企業側の対応の必要性
あくまで犯行自体は個人が行うものですが、自社の社員が社内のシステムを利用して作成した場合には企業側にも不利益が生じるおそれがあります。
企業内でこのような不祥事が起これば、その組織のコンプライアンス意識が疑われ、信用失墜は免れません。また企業側の監督体制も疑われ企業イメージに対して深刻なダメージを受けるおそれがあります。
そこで特に生成AIを業務で扱う企業にとっては、ディープフェイクポルノの問題は他人事とはいえないのです。
また社内の人間がディープフェイクポルノの被害者になる場合もあります。特に芸能事務所などでは所属するタレントなどがネット上でディープフェイクポルノに利用されて名誉棄損等の被害を受ける場合もあります。その場合にも名誉回復の為に削除要請や刑事告訴などの早急な対応が求められます。
ディープフェイクポルノに対する企業の対応策
ここからは、企業側がディープフェイクポルノの予防策や実際に問題になった場合の対応策について詳しく解説します。
①事前の技術利用の制限と監督態勢の構築
社員が業務用途で画像生成AIを使う際は、公序良俗に反するわいせつな画像を生成・共有することを厳禁とするポリシーを作成し、社員に対して明示します。
私的利用の場合でも会社設備でディープフェイク技術を乱用しないよう求め、社内ネットワークで不適切な画像・動画のやりとりが行われていないかIT部門と連携して監督する体制を構築します。内部通報制度を整備して万一社内でディープフェイクポルノの噂や兆候があれば見逃さず、速やかに実態を確認します。
しっかりした予防策や監督体制をとっていることで事前にこのような事案が発生するリスクを下げることができます。
加えて万が一、社内でディープフェイクポルノ事案が発生した場合に企業の受けるダメージを最小限度にとどめることにもなります。
②厳正な処分と被害者への対応
組織内でディープフェイクポルノの作成・頒布といった行為が判明した場合、当該関係者に対しては就業規則に則り厳正な懲戒処分を検討します。同時に、その行為が明確に違法で被害者が存在する場合には、企業として警察への通報や被害届提出を行うことも視野に入れるべきです。
この点は状況や被害者側の意向、事案の内容も踏まえてどのような対応をしていくか検討する必要があります。被害者が分かっている場合には、第三者である弁護士が被害者の方への対応を行うことが必要になるケースが多いでしょう。
顧問弁護士がいる場合には、ディープフェイクポルノ事案が発生した場合の対応にあたって、事実関係を慎重に確認しつつ、顧問弁護士と協議の上で適切な措置を取ることが可能になります。
③被害者保護と再発防止
ディープフェイクポルノの被害者が自社の関係者（社員など）である場合には、プライバシー保護とメンタルケアにも配慮します。
被害者の意思を尊重し、必要な法的措置（加害者への損害賠償請求や差止め請求等）を支援するとともに、今後の再発防止のための社内研修やホットライン設置など環境整備にも努めます。社内外問わず、生成AIの不適切利用を発見した社員が速やかに報告できる内部通報制度を機能させることも再発防止に有効です。
まとめ
弁護士法人あいち刑事事件総合法律事務所では、ディープフェイクポルノなどの有事の対応のために会社の顧問弁護士として活動させていただきます。
顧問契約を結んでいただくことで著作権法違反事件を含む刑事事件について豊富な経験を有する弊所が、充実したガイドラインの作成に関与させていただき、有事の際の迅速な対応についてもお約束させていただきます。
生成AIを業務に導入されている企業の方は是非一度ご相談ください。
