Google、「Gemini」での人物画像生成機能を停止に。機能の大幅改善に取り組む

最終更新日:2024/03/01

Google Geminiでの画像生成機能を停止

Googleは、Geminiによる人物画像生成の描写に問題があったことを認め、機能の欠点と今後の課題について説明しました。

米Googleは2月23日、生成AIツール「Gemini」による人物の画像生成を一時的に利用停止していることを、公式ブログで説明しました。Geminiで生成された人物画像の中に、不正確で不快感を与えるものがあったとユーザーからのフィードバックで判明し、現在改善作業を行っていると述べました。

2月1日に画像生成機能を開始すると発表したGeminiは、画像生成AIモデル「Imagen 2」 に基づいて構築されており、不適切なコンテンツや同意のない実在の個人の描写などを回避し、世界中の人々の多様かつ正確な表現を提供することを目的として調整されていました。

例えば、サッカーチームや犬の散歩をしている人を生成する場合、ある特定の民族ではなく、多様な民族の画像を提供できるようにしていました。

しかし今回、Geminiの人物画像生成に問題が生じているとし、画像生成機能を停止しました。同社シニアバイスプレジデントのプラバカール・ラガヴァン氏は公式ブログで、この機能には2つの欠点があると説明しています。

まずは、多様な人物を生成するように調整したことにより、歴史上や文化上ありえないといったような、明らかに不適切なケースを考慮していなかった点です。

次に、モデルが学習するにつれて、意図していたよりも過度に慎重になり、問題のないプロンプトをデリケートな内容であると誤解し応答を拒否する場合が発生していることです。結果として「恥ずかしい、誤った画像を生成する」といった現象が起きていました。

ラガヴァン氏は、Geminiの画像生成機能を再開するまでに大幅な改善に取り組むとし、また「ハルシネーション」はすべてのLLMの分野における既知の課題であり、その課題にも常に取り組んでいると述べています。

Googleは「Geminiが時々、不正確であったり、攻撃的な結果を生成しないとは約束はできませんが、問題が特定されるたびに行動を起こし続けることは約束します」とコメントしています。

出典：Google

AIsmiley編集部

株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。

・Facebookでも発信しています @AIsmiley.inc
・Xもフォローください @AIsmiley_inc
・Youtubeのチャンネル登録もお願いいたします@aismiley
メルマガに登録する