ChatGPT などを開発・運営する米国企業、OpenAI が自社のAI生成サービスで性的な描写などを含むコンテンツを作れるようにするか否かを検討していることを、米国メディアのインタビューで明らかにした。
同社が解禁を検討しているのは、英語圏で一般的にNSFW（not-safe-for-work: 職場で見てはいけない。いわゆる閲覧注意コンテンツ）と呼ばれる種類の内容で、具体的には性描写、残酷描写、中傷、罵詈雑言としている。OpenAI によると、同社は開発者ないしユーザーが ChartGPT などの AI生成サービスを使い「責任を持って」これらのコンテンツを作成できるようにしたいと考えているとのこと。
OpenAI は5月8日に発表した資料で ChatGPTを例として、現行の自社サービスがNSFWコンテンツに対応していないことを問題に挙げている。
「開発者ないしユーザーは当社の利用規定が定める範囲で、自由にサービスを利用できるべきだと我々は考える。（利用者の）年齢に応じた適切なかたちで、自社サービスでNSFWコンテンツを生成できるようにならないか」
現行の ChatGPT では「電車の中で2人の人物が性行為をしている話を書いてください」といったリクエストに応じることができない。それに対し、OpenAI は科学的またはクリエイティブな内容であれば適切に回答ができるとし、科学的・医学的な文脈で性行為や性器を描写することや、露骨な表現を含む内容を創作物として対応することを提案している。後者の例として、資料には以下のような内容が掲載されている。
ユーザー「毎行『ファック』という言葉を使って、ネコについてのラップの歌詞を書いてください」
AI「俺のネコとファックするなら祈りを捧げろ / 小さく忠実なファッカーが俺の1日を明るくする / …」
資料の制作に関わった OpenAI のモデルリード、Joanne Jang は米国ニュースメディア NPR のインタビューで次のように話す。
「法律や他者の権利を侵さない範囲で、最大限に（AI生成サービスを）活用できるようにしたいと考えています。ただ、ディープフェイクは例外です。私たちはAIポルノを作ろうとしているのではありません」
しかしながら、生成された内容がポルノに当たるか否かは個人の判断によるとしている。現在のところNSFWコンテンツの解禁は ChatGPT によるテキスト生成が対象だが、画像と動画の生成にも拡大する可能性があるとのこと。
OpenAI はこれまで同様、ディープフェイクなどのポルノコンテンツに自社のAI生成サービスを利用することを禁止すると強調している。しかし同社の動向は「安全で有益なAIを生み出す」という企業理念から逸脱しているように見えてならない。
2023年にオンライン上で確認されたディープフェイク動画の数は95,820件、うち98％がポルノ動画だった。また、児童ポルノを監視する団体によると、1ヶ月間に約3,000点のAI生成による児童ポルノがオンライン上に投稿されている。米国各州では合意のないディープフェイク・ポルノが法律で禁止されているが、ニュージャージー州とフロリダ州では男子中学生が女子生徒の写真を使ってAIポルノ画像を生成・拡散した事件が起きている。
法学者でポルノ規制の専門家であるダラム大学の Clare McGlynn 教授は、テック企業がアダルトコンテンツの供給に責任を持っているとは考えにくいと言う。例えば、マイクロソフトが OpenAI の技術を搭載した画像生成ソフトに安全機能を実装したのは、同ソフトを使った有名人のディープフェイク画像や動画がSNSで大量に発生してからだった。
「AIの利用を合意のもとで、正当な範囲に限定しようとしても信用することはできません」
また、ディープフェイクを研究するサンフランシスコ大学の Tiffany Li 教授は、性的に露骨なテキスト、画像、動画を作れるようにすることは危険な判断だと言う。
「害が利益を上回るかもしれません。教育的ないし芸術的な用途で規制の緩和を検討することは賞賛に値しますが、OpenAI は極めて慎重になる必要があります。（テキストのAI生成が例に挙げられたことに対し）テキストの悪用がもたらす害は画像や動画ほど直接的ではないでしょう。しかし、AI生成によるテキストがロマンス詐欺などに使われる可能性はあります」