xAIは、テイラー・スウィフトのヌードディープフェイクを生成するAIツールのために論争を引き起こしています。

xAIの新しいAIビデオツールが、イーロン・マスクが設立した会社で、テイラー・スウィフトのような実力のある人のヌードディープフェイクを最小限の操作で作成できるため、批判の波に直面しています。火曜日に発表されたこの機能は、ポルノコンテンツを禁止するxAIのポリシーに違反するにもかかわらず、ヌードやセクシーなビデオを作成できる「スパイシー」オプションを提供しています。

初日には、このツールが2000万枚の画像を生成し、マスクがそれを「ハイパーバイラル」と呼ぶ一因となった。スウィフトのディープフェイクが広まった後、xAIはこの女性歌手の画像を用いた「スパイシー」機能を制限せざるを得なかった。

Google Veo 3やOpenAI Soraのようなプラットフォームが厳格な検閲対策を講じているのとは異なり、xAIはセンシティブなコンテンツや実際の画像の違反を阻止するための障壁が不足しているとして批判されています。特に注目すべきは、この事件が2024年の選挙シーズンにトランプを支持するディープフェイクがSwiftに関連付けられた1年後に発生したことで、彼女はその後、対抗馬のカマラ・ハリスを支持したということです。

現在、イーロン・マスクは沈黙を守っており、アメリカの立法府は、5月に同意のないプライベート画像の被害者を保護するために「Take It Down」法を通過させた後、引き続き圧力をかけています。

これは、7月に人種差別的な発言をしたチャットボットGrokの事件に続く、xAIの厳密に検証されていないAI製品に関連する最新の問題です。