いくつかある画像生成AIのなかでも人気の高い「Midjourney」が、招待さえ受ければ誰でも一定数の画像を生成できる無料トライアルの提供を取りやめると発表した。

その理由は、Midjourneyに対し「異常なほどの無料トライアルのデマンド増加」があったため。当初、この現象はMidjourneyで作られたとされるディープフェイク画像、たとえばドナルド・トランプ元大統領が制服警官と乱闘の末に逮捕・連行される一連の画像や、カジュアルな白いダウンコート姿で街を闊歩するローマ教皇フランシスコの画像などに関連しているものと推測されていた。

The Pope Drip by in midjourney

しかしその後、Midjourneyの創業者でCEOのデヴィッド・ホルツ氏は「原因はおそらく中国でバイラル化したハウツー動画だと思う」と述べている。

ホルツ氏は、問題の引き金になったと思われたディープフェイク画像は、Midjouneyの最新版であるVer.5を用いて作られていたが、Midjoureyの無料トライアルにはVer.5が使われていないという。そして「中国から大量のユーザーが使い捨てアカウントを使って無料トライアルに押し寄せ、一時的にGPUが不足状態だったことと重なって、有料ユーザー向けのサービスに影響を来すようになった」と説明し、上記のフェイク画像による影響は「誤解だった」と述べている。

Midjouney Ver.5は、AIが苦手とする手の造形も問題にならない程度に自然に描かれるようになった。また、照明や影などの表現も向上している。そして何より、人物の描写が格段に進歩しており、数々の有名人の画像を出力することができる。その結果、冒頭に紹介した2枚のディープフェイクに加え、エマニュエル・マクロン仏大統領がパリでデモの行進に参加している画像や、イーロン・マスク氏が米下院議員アレクサンドリア・オカシオ・コルテスと親しそうにしている画像なども拡散されている。

ただ、こうしたディープフェイクへのMidjourneyの対応は十分とは言えず、Stable Diffusionほど甘くないものの、OpenAI の DALL･Eに比べると寛容であり、モデレーションに関するポリシーの見直しなども行われていない。ホルツCEOはDiscordに投稿したメッセージにおいて「コンテンツに関するポリシーを確立するのは難しい」と述べ、画像生成に対する禁止ワードのリストは非公開のままにしつつ、風刺的なコンテンツの許可よりも、中国からのあらゆるアクセスを可能にするほうが重要だとして、習近平氏の画像生成を禁止した。

MidjourneyはVer.5によって精巧なディープフェイクの拡散（特にトランプ氏が逮捕連行される画像）が大きく話題になったことを受け、最近では「arrested（逮捕された）」というワードを禁止リストに加えたという（トランプ氏のディープフェイクを作成したユーザーはアカウントを停止された）。

とはいえ、The Vergeが試したところでは「Donald Trump being arrested（逮捕されるドナルド・トランプ）」では画像生成ができなかったものの「Donald Trump in handcuffs surrounded by police（警察に囲まれ手錠をかけられたドナルド・トランプ）」とすれば、同じ目的を満たす画像が生成できたとされ、見込まれたほどの効果はない模様だ。

なおホルツCEOは、Midjourneyの無料試用版を復活させる方法を模索中だと述べ、メールアドレスの登録だけで行えたこれまでの無料トライアルの提供のしくみを、一から作り直す予定としている。

Source: Washington Post
via: The Verge, Engadget