アメリカ大統領は誰？とAIに尋ねてみたら...

筆者がミッドジャーニーで生成した「アメリカ大統領」の画像　SCOTT NOVER VIA MIDJOURNEYｰSLATE

＜人気の画像生成AIに指示すると、トランプの画像だらけになる理由と不吉な未来＞

アメリカの大統領は誰？　もちろんジョー・バイデンだが、ある人気AI（人工知能）アプリの答えは違う。

AIが幻覚を見る（つまり事実をでっち上げる）ことは周知の事実だが、大統領の名前のような単純な問いを間違うことは通常ない。オープンAIのチャットGPTに同じ質問をすると、正しい答えと短い経歴、ホワイトハウスのウェブサイトやウィキペディアへのリンクを教えてくれる。

一方、グーグルのジェミニは回答を断固拒否する。「現在、選挙や政治家に関する回答はお手伝いできません。可能な限り正確であるように訓練されていますが、間違えることもあります。選挙や政治を論じられるように機能を改善中ですが、代わりにグーグル検索をお試しください」

AIが選挙に影響を与えたり偽情報を広めたりする危険性を考えれば、それも理解できる。特に画像生成AIへの制限は、一般的なチャットボットより厳しい場合が多い。

それも当然だ。政治家のフェイク画像は大混乱を引き起こしかねない。最近もドナルド・トランプ前大統領と黒人有権者のディープフェイク画像が出回ったばかりだ。

実際、オープンAIの画像生成AIであるDALL-E（ダリ）に、バイデンとトランプの画像生成を指示したところ、同社の使用ポリシーを理由に拒否された。

同じ画像生成AIのミッドジャーニーにも同様のルールがある。候補者の画像生成を指示したら、エラーメッセージが出た。「申し訳ありません！　ミッドジャーニーコミュニティーは投票の結果、選挙期間中に『ドナルド・トランプ』と『ジョー・バイデン』を使用不可にしました」

問題解決は望み薄？

イギリスの非営利団体デジタル・ヘイト対策センターは3月上旬、ミッドジャーニーを含む画像生成AIは入院着姿のバイデン、逮捕されたトランプなど、政治的ディープフェイク画像を生成可能だとする報告書を発表した。その1週間後、同社はこの2人の画像を禁止し始めたと、AP通信は報じている。

だが4カ月近く後、ミッドジャーニーに米大統領の画像を指示したところ、トランプの画像が次々と生成された。16枚の画像のうち1枚はバラク・オバマ元大統領だったが、バイデンはなんとゼロ。この件について開発元にコメントを何度も求めたが、ついに返答はなかった。

ミッドジャーニーがトランプの画像を大量に吐き出すのは、それなりの理由があるからだ。トランプは間違いなく人類史上最も写真に撮られた人物の1人であり、その顔は「大統領」という単語と共にウェブのそこらじゅうに貼り付けられている。だからミッドジャーニーがどこかから画像を拝借してきたにせよ、トランプの顔の偏在を回避することはできない。

現時点で政府の規制が存在しない以上、開発企業が自力で問題を解決しなければならない。だが、ミッドジャーニー社の従業員数はわずか十数人だという。オープンAIやシリコンバレーの巨大テック企業と比べ、いかにも少ない。

創業者のデービッド・ホルツは3月、「この調整はちょっと難しい」と語った。そんなはずはない。トランプは自分を大統領と思っているかもしれないが、AIはそれより賢いはずだ。

鄭重声明：本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。