白いダウンジャケットを着て宝石をちりばめた十字架を背負ったフランシスコ教皇の画像が話題になったのを覚えているだろうか。まるでストリートファッションのランウェイショーから飛び出してきたかのようだ。ディープフェイクはこれまでにも目にしたことがあったが、これほどインパクトのあるものはほとんどなかった。今回、Google はこのような画像が野放しに拡散するのを防ぐツールをリリースした。
SynthID の紹介: 仕組み
Googleが買収したAI研究機関DeepMindは最近、 シンセIDAI 生成画像を識別するために特別に設計された透かしツールです。
「AI が生成したコンテンツを識別できることは、生成されたメディアといつやり取りしているのかを人々に知らせ、誤情報の拡散を防ぐのに不可欠です」と DeepMind チームは述べています。目に見える透かしやメタデータに依存する従来の透かし技術とは異なり、DeepMind は画像のピクセルに直接デジタル透かしを埋め込みます。つまり、画像が切り抜き、サイズ変更、フィルター、明るさ調整によって変更されても、透かしはそのまま残ります。人間の目には検出できませんが、検出ソフトウェアはそれを識別できます。
この技術について、これ以上のことは明かされていない。CEOのデミス・ハサビス氏はThe Vergeに対し、「仕組みを明かせば明かすほど、ハッカーや悪意ある組織がそれを回避しやすくなる」と説明した。現在ベータ版のSynthIDは、Google Cloudの製品であるImagenのユーザーが利用できる。 頂点AIは、クラウドベースの機械学習プラットフォームです。顧客は責任を持って AI 生成画像を作成、共有、識別できます。ただし、ハサビス氏は、この技術は「極端な画像操作」に対して絶対確実ではないものの、正しい方向への一歩であると指摘しています。
SynthID の今後の予定は?
DeepMindチームはSynthIDへのアクセス拡大に取り組んでおり、第三者に提供し、より多くのGoogle製品に統合することを目指している。この発表は、Googleと6つのトップAI企業がホワイトハウスサミットに出席し、AIの安全ツールと責任ある使用のための研究に投資することを約束した直後に行われた。ホワイトハウスは、AI企業が国民の信頼を得るための手段として、新しい透かし技術を要求した。 ベルジェ今後、このソフトウェアはオーディオやビジュアルのコンテンツにも拡張される可能性があります。
このサミットは、ディープフェイクと戦う政府の継続的な取り組みの一環である。2021年、国土安全保障省政府問題委員会は、 ディープフェイクタスクフォース法軽い面では、ディープフェイクは教皇を流行のファッションでユーモラスに演出することができます。一方、暗い面では、政治不安、詐欺、株価操作につながる可能性があります。
2021年、アドビは非営利団体を共同設立しました コンテンツの出所と真正性に関する連合 (C2PA) メディアコンテンツのラベル付けを標準化し、誤報と戦うために。これらは承認の印として機能し、消費者に資産が操作されていないことを示す。AIブームにより、C2PAの会員数は過去56か月でXNUMX％増加したと、 MITテクノロジーレビュー2月下旬、Shutterstockは、CXNUMXPAの技術プロトコルを、AI画像ジェネレーターを含む自社のAIシステムとクリエイティブツールに統合すると発表した。
テイクアウト
政府からの圧力が高まる中、AI 企業は規模の大小を問わず、責任ある AI の取り組みを優先する必要があります。AI ツールを使用しているか作成しているかにかかわらず、今後は監視が強化されるでしょう。
