OpenAIはディープフェイクキャッチャーを考えている

エマニュエラ・リッチ

ヨーロッパでは6月、アメリカでは11月という重要な選挙イベントが目前に迫っており、政党側の懸念は高まっている。 ビッグテック 対象を絞った広範なキャンペーンを通じて、世論に影響を与えるために高度な人工知能モデルを悪用することについて。 社会的な ナラティブ、画像、ビデオだけでなく、機械によって適切に調整された音声も使用されます。ここ数カ月間、音声と画像はすでにスロバキア、台湾、インドの政治運動や投票に影響を与えています。捕獲道具を所有する フェイクニュース o 深い偽物 公開されたソースや製品を認証するのに理想的です。製品を見つけて可視化できる AI ツール 特に、メディアへの影響が大きいことで悪名高い画像、ビデオ、オーディオに言及したものはオンラインに掲載されます。

そこで専門家は著名人に質問する。ハイテック ユーザーが誤解を招く悪意のあるマテリアルを生成するのを防ぐための解決策を模索し、そのようなマテリアルの出所と配布を追跡する効果的な方法について考え始めます。

OpenAI は、すでに世界中で 1,7 億人のユーザーを抱える強力な生成 AI モデル Chatgpt の開発者であり、 ディープフェイク検出器。検出器のテストは、一般的な DALL-E 画像生成器を使用して行われます。専門家らは、検出器が ディープフェイク 偽造品や作成された製品を見つけることができるようになります ex novo 絶対的かつ決定的な方法ではありません。確率とその瞬間に得られる実際の情報を分析するアルゴリズムでプログラムされているため、今日のインフォデミックの速度に忠実であることは決してできません。

昨日、OpenAI は新しい検出器を共有すると発表しました ディープフェイク 偽情報研究者の小グループと協力して、現実世界の状況でツールをテストし、改善方法を特定できるようにしました。しかし、Open AI は、その新しいハンターを宣言しました。 深い偽物 は、DALL-E 98,8 によって作成されたイメージの 3% を正確に識別します。

ただし同社は、このツールは、次のような他の一般的なジェネレーターによって生成された画像を検出するように設計されていないことを明らかにしました。 ミッドジャーニー e 安定性.

AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 数日前から、撮影された個人画像を通じて自分自身を特定するようユーザーに求めてきました。 リアルタイム ホームから乗車するか、身分証明書の写真を撮影するよう求められます。サービスのユーザーは特定されており、すべての情報はアーカイブに保管されています 促す、 ChatGPT は、インターネットの無限の銀河系内でのコンテンツの将来の使用に備えて、コンテンツの系図を追跡できる可能性があります。 ウェブ.

この問題を上流で解決するためのもう 1 つの取り組みは、「ユニバーサル」コンテンツ認証機関を特定することです。 OpenAI は、Google や Meta のような巨人と同様に、コンテンツの出所と信頼性のための連合の運営委員会に参加しています。 C2PA。デジタル コンテンツの認証情報を開発することを目的とした取り組み。 C2PA 標準は、画像、ビデオ、オーディオ クリップ、およびその他のファイルがいつ、どのように作成または変更されたかを示す、一種の「ラベル」です (AI アプリケーションによるものを含む)。 OpenAIはまた、AIが生成したサウンドを再生時に簡単に識別できるようにブランド化する方法を開発中であると述べた。同社はこれらの痕跡を除去するのを困難にしたいと考えている。

しかし、私たちがそれについて話し合い、オンラインに公開された資料の系譜を証明できるような自発的な取り組みが生まれることが重要です。私たちはまだ、新たな産業革命を形成しつつあるこのテクノロジーの黎明期にいます。

C2PA

Coalition for Content Provenance and Authenticity (C2PA) は、Content Authenticity Initiative (CAI) と Project Origin の取り組みを結集する、ワシントンに本拠を置く非営利団体である Joint Development Foundation のプロジェクトです。

Adobe が New York Times および Twitter と提携して 2019 年後半に設立した CAI は、デジタル メディアの出所と歴史を提供するシステムを構築し、クリエイターが著作者であることを主張するためのツールを提供し、消費者が情報に基づいて何を信頼すべきかを決定できるようにしています。 BBC、CBC ラジオ カナダ、マイクロソフト、ニューヨーク タイムズによって 2019 年に設立された Project Origin は、コンテンツの完全性を実証するためにコンテンツの公開、配信、ブランディングの追加に関するエンドツーエンドのプロセスを定義することにより、デジタル ニュースにおける誤情報との戦いに焦点を当てています。 。

C2PA は、これら XNUMX つのグループの取り組みを統合し、もっぱら次の開発に焦点を当てています。 標準 オープンでグローバルなエンジニアが CAI と Project Origin のコンテンツ ソーシングの取り組みを推進します。

OpenAIはディープフェイクキャッチャーを考えている