ニュース

Aug 31, 2023

ディープフェイクとは何ですか? 偽の AI オーディオとビデオを見分ける方法

コンピューターは現実をシミュレートする能力がますます向上しています。 人工知能 (AI) によって生成されたメディア、特に誰かを模倣するように設計されたビデオが重大な見出しを飾っています。

コンピューターは現実をシミュレートする能力がますます向上しています。 人工知能 (AI) によって生成されたメディア、特に誰かを模倣して、その人が実際にないことを言ったり行ったりしているように見せるように設計されたビデオは、重大な見出しを飾っています。

Twitch ストリーマーが、AI によって生成された仲間のポルノを作成していることで知られる Web サイトに捕まった。 ニューヨークの学生グループは、校長が人種差別的な発言をし、学生を脅迫する動画を作成した。 ベネズエラでは、生成されたビデオが政治プロパガンダを広めるために使用されています。

3 つのケースすべてにおいて、AI が生成したビデオは、誰かが実際にはやっていないことをしたと信じ込ませることを目的として作成されました。 この種のコンテンツを指す言葉に「ディープフェイク」があります。

ディープフェイクは AI を使用してまったく新しいビデオやオーディオを生成し、最終目標は現実には起こらなかったものを描写することです。

「ディープフェイク」という用語は、基礎となるテクノロジーである深層学習アルゴリズムに由来しています。このアルゴリズムは、大規模なデータセットを使用して問題を解決する方法を学習し、本物の人物の偽のコンテンツを作成するために使用できます。

デジタルネットワーク上の情報の流れを研究する会社グラフィカのシニアアナリスト、クリスティーナ・ロペス氏は、「ディープフェイクとは、無数の既存の画像を使って訓練されたコンピューターによって生成される映像だろう」と述べた。

ディープフェイクは、単なる偽の画像や誤解を招く画像ではありません。 AIが生成したダウンジャケットを着た法王や、起訴直前に出回ったドナルド・トランプ氏が逮捕される偽のシーンはAIが生成したものだが、ディープフェイクではない。 (このような画像は、誤解を招く情報と組み合わされると、一般に「浅いフェイク」と呼ばれます。)ディープフェイクを区別するのは、人間による入力の要素です。

ディープフェイクに関しては、ユーザーは生成プロセスの最後に、作成されたものが自分の望むものであるかどうかを判断することしかできません。 彼らは、トレーニング データを調整し、事後にコンピューターが生成するものに対して「はい」か「いいえ」と言う以外には、コンピューターがそれをどのように作成するかを選択することについて何の発言権もありません。

注記：メディアの作成には Photoshop や CGI などのコンピューター支援テクノロジーが一般的に使用されますが、違いは、Adobe の生成 Firefly ツールのような最近開発されたものを除いて、人間がプロセスのあらゆる段階に関与していることです。 「CGI には AI の支援がたくさんありますが、最終的には人間の視点を持った人間が出力を制御します」とロペス氏は言いました。

ディープフェイクを作成するにはいくつかの方法がありますが、最も一般的な方法は、顔交換技術を採用したディープ ニューラル ネットワークの使用に依存します。 まずディープフェイクのベースとして使用するターゲットビデオが必要で、次にターゲットに挿入したい人物のビデオクリップのコレクションが必要です。

ビデオがまったく無関係である場合もあります。 たとえば、ターゲットはハリウッド映画のクリップである可能性があり、映画に挿入したい人物のビデオは YouTube からダウンロードされたランダムなクリップである可能性があります。

このプログラムは、複数の角度や条件から人物がどのように見えるかを推測し、共通の特徴を見つけて、その人物を対象のビデオ内の他の人物にマッピングします。

敵対的生成ネットワーク (GAN) として知られる別のタイプの機械学習がミックスに追加され、複数のラウンド内でディープフェイクの欠陥を検出して改善し、ディープフェイク検出器によるデコードを困難にします。

プロセスは複雑ですが、ソフトウェアはかなりアクセスしやすいです。 中国のアプリ Zao、DeepFace Lab、FakeApp、Face Swap など、初心者でも簡単にディープフェイクを生成できるアプリがいくつかあり、オープンソース開発コミュニティである GitHub には大量のディープフェイク ソフトウェアが見つかります。

ディープフェイク技術は歴史的に、同意のないポルノの生成など、違法な目的に使用されてきました。 FBIは2023年6月に公共広告を発表し、生成型AIの危険性と、生成型AIが「露骨なコンテンツ作成」、「性的強要」、「ハラスメント」にどのように利用されているかについて一般に警告した。