T・スウィフトさんの性的なAI生成画像、SNSで急速に拡散 

  • このエントリーをはてなブックマークに追加
テイラー・スウィフト/Axelle/Bauer-Griffin/FilmMagic/Getty Images/FILE

テイラー・スウィフト/Axelle/Bauer-Griffin/FilmMagic/Getty Images/FILE

ニューヨーク(CNN) AI(人工知能)で生成した米人気歌手テイラー・スウィフトさんのポルノまがいの画像が今週、SNSで拡散した。本物そっくりの有害な画像を生成する主流AI技術の危険性が浮き彫りになった。

スウィフトさんの偽画像は主にX(旧ツイッター)で出回った。偽画像には性的にきわどい露骨な姿勢を取ったスウィフトさんの姿が写っており、数千万回閲覧された後に各種のSNSプラットフォームから削除された。

ただ、インターネット上の情報が永久に消えることはありえず、今後も間違いなく、他の規制の緩いメディアで共有され続けるとみられる。

スウィフトさんの広報担当者はコメントを控えた。

他のSNSプラットフォームと同様、Xのポリシーでは「利用者を欺いたり混乱させたりして損害をもたらす可能性のある、合成または操作されたメディアや、文脈から切り離されたメディア」の共有を禁じている。

今回の出来事は米国が2024年大統領選に突入する中で発生した。誤解を招くAI生成画像や動画が偽情報工作に利用され、最終的に投票に混乱を及ぼす可能性に懸念が高まっている。

デジタル調査組織メメティカを運営するベン・デッカー氏はCNNの取材に、「これは公共空間を守るガードレールが十分に存在しない状況で、AIが多くの悪質な理由で乱用されている好例だ」と指摘した。

デッカー氏はまた、SNS企業は有効なコンテンツ監視策を必ずしも講じていないとの見方も示した。

例えば、Xはコンテンツ監視チームをほぼ骨抜きにし、自動システムやユーザーの報告に頼っている。欧州連合(EU)では現在、Xのコンテンツ監視慣行をめぐる調査が行われている。

事情を直接知る関係者がCNNに明らかにしたところによると、メタも偽情報対策チームを削減しており、米国など世界各地で今年重要な選挙が行われるのを前に懸念が高まっている。

メールマガジン登録
見過ごしていた世界の動き一目でわかる

世界20億を超える人々にニュースを提供する米CNN。「CNN.co.jpメールマガジン」は、世界各地のCNN記者から届く記事を、日本語で毎日皆様にお届けします*。世界の最新情勢やトレンドを把握しておきたい人に有益なツールです。

*平日のみ、年末年始など一部期間除く。

「米国」のニュース

Video

Photo

注目ニュース

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]