セキュリティの
学び場

今回の解説ニュース

ディープフェイクによるなりすましにより、不正送金の被害が発生したということです。ディープフェイクの概要と、その対策について説明します。

今回のインシデントは、最高財務責任者になりすまし、約38億円を送金させたというものです。原因として、ビデオ会議において詐欺グループがディープフェイク技術を悪用したことが挙げられています。ライブビデオ通話を介した資金移動の承認であったため、従業員は疑念を抱かずに送金手続きを進めてしまったということです。対策として、組織や企業は安全な資金移動プロセスの早急な構築が求められるとしています。

ディープフェイクの概要

ディープフェイクとは、AIを使って本物の画像や動画を加工して別の人物に入れ替える技術です。AI技術の進歩が著しい現在、有名人の顔を動画内で入れ替えるなど、本物と見分けがつかないリアルな動画が簡単に作れるようになっています。

ディープフェイクは、まず、本物の画像や動画を大量にAIへ学習させて、その人物の顔の特徴を覚えさせます。そして、AIが新しい画像や動画を生成して、別の人物の顔と入れ替えます。現在は、AIツールの使用で簡単にディープフェイクを作成でき、対象者の動画をAIに学習させると、数分でディープフェイク動画を作成することができるということです。

ディープフェイクはエンターテイメント分野での活用もされていますが、ディープフェイクが悪用されると、誰かを誹謗中傷したり、偽のニュースを流したりと、ディープフェイクの対象者とその関係者にとって、甚大な被害が発生する可能性があります。そのため、ディープフェイクを含めたAI技術が倫理的に正しく活用される必要があり、技術の進歩と同時に規制も検討されています。

ディープフェイクの対策

ディープフェイクの対策として、技術的な対策に加えて、人に対する対策が求められます。

まず、ディープフェイクの技術的な対策として、ディープフェイクの検出ツールを導入して、偽コンテンツを自動的に検知する仕組みが挙げられます。生体認証や顔認証技術を活用して、ディープフェイク動画に埋め込まれる微細な合成痕跡を検知することで、ディープフェイクによるなりすましを防ぎます。

技術的な対策に加えて、人に対する対策も求められます。まず、ディープフェイク技術に関する知識を習得して、その特徴や生成方法を理解することで、偽コンテンツを見破る力を高めましょう。従業員向けにディープフェイクに関する教育を実施して、組織全体で認識を高めることが必要です。

また、情報源の信頼性を常に確認して、不自然な内容や疑わしい情報を鵜呑みしないようにしましょう。公式な情報源や複数の情報源から情報収集を行い、情報の正確性を検証することは、フィッシング詐欺への対策と同様です。