top of page

AI生成のフェイク画像の脅威


 

 今年5月、アメリカ国防総省の近くで爆発が起きたとする偽画像がSNSを中心にネット上で拡散され、この影響でニューヨーク株式市場のダウ平均株価が一時、100ドル以上下落する事態となった。


 画像はAIで生成されたものとみられ、Twitter上で、アメリカのメディア「ブルームバーグ」を装った「ブルームバーグ・フィード」と名乗るアカウントを含むTwiterの認証バッジが付された複数のアカウントがツイートした。


 実際に海外の一部メディアでも真実として報道してしまい、インドのニュース局「リパブリックTV」では、ロシアの国営テレビ局「RT」の報道を引用する形で放送され、両局ともその後、投稿を削除した。


 この件によって、偽情報=ディスインフォメーションによる社会に大きな影響を与えることが可能であると改めてその危険性が浮き彫りとなった。


 ディスインフォメーションとは、笹川平和財団の長迫智子氏によれば、「害意を以て故意に広められた、誤った文脈や詐欺的な内容、でっち上げや操作された内容の情報」であり、今回ではその株価の動きにより利益を得ようとした人物・集団によるものではないかとの論調もある。


 ディスインフォメーションは過去にも社会に大きな影響を与えている。


 例えば、ロシアによるディスインフォメーションを使った情報戦は常とう手段である。


東西冷戦期には「エイズは米国防総省の生物兵器研究の結果生まれた」との偽情報を流布したほか、2014年クリミア併合においては、ロシア系市民がクリミア半島で弾圧されているとの偽情報を拡散した。


 更に、2020年の米国大統領選では、“QAnon”を利用して、ロシアを中心とした国々が米国の選挙に影響を与えたのではないかとみられている。


その他、フランスでは2017年の大統領選挙期間中マクロン氏が租税回避のためにペーパーカンパニーを設立したとの情報が拡散されるなど、世界中で観測されている。



ディスインフォメーションビジネスの実態


 ディスインフォメーションはビジネスにもなっている。

 国際的な調査報道メディアのコンソーシアムが、イスラエルの世論工作グループ「チーム・ホルヘ」の実態を明かしている。


 「チーム・ホルへ」は偽情報をビジネスとして世界中で発信しているとみられ、彼らは、顧客の依頼を受け、その国のSNSやメディアを通じた偽情報の発信で世論を誘導、世界33カ国の大統領選挙に関わり、そのうち27カ所で世論誘導に成功したという。


 彼らは、様々なSNSのアカウントを持つ架空の人物を創り上げ、そのアカウント数は、2022年12月時点で約4万件にのぼったという。そして、ボットを駆使し、AIでツイートを自動生成し、意のままに大量に情報を発信するのだ。その活動の中には、若い女性の画像を生成し、SNS上でハニートラップを仕掛ける活動もあるという。



ディスインフォメーションに惑わされないために


 ディスインフォメーションへの対応策として、各国がハイレベルでの対応策を提言等行っているが、日常生活でできる対応策はないだろうか。


 まずは、引用元の情報を辿ることだ。インテリジェンス(諜報)の世界でも一次情報(情報源)が最も信頼される。今起きている情報なのに辿ってみると、その情報が現在ではない過去のものであった場合、その情報はフェイクだ。(ウクライナ侵攻におけるロシアによる情報戦でも多く見られている)


 そして、情報を多角的に確認することだ。要は、他のメディアが報じているか否かだ。


 また、画像について、画像検索を行うことが有効である。実際に投稿された画像について、画像検索を行うと過去のブログの写真を無断で引用しているかもしれない。ただし、AI生成の画像は新規に生成された画像であるため、画像検索では見極めは難しいが、一方でウクライナ侵攻におけるロシアのディスインフォメーションキャンペーンでも過去の画像を引用しているケースは多々見られている。

 実は、私のもとにある美しい女性からSNSで接触があったことがある。

 彼女の投稿した内容を見ると、晴天の中でA動物園に行ったと写真つきの投稿があった。しかし、その日、A動物園周辺は大雨であった。更に、当該写真を画像検索すると、過去の個人ブログから勝手に引用されたものであったと容易に見抜くことができた。


 最後に、感情を揺さぶるようなセンセーショナルな情報は、飛びついても良いが、アクションは起こさずに一呼吸置くことだ。


 スパイ活動においても、センセーショナルな情報には“思惑(=裏)”が含まれる可能性があると読む節がある。情報に接した場合はまず落ち着き、そのセンセーショナルな情報の背景と関与する国家・組織・人物の思惑を探り、他の情報源を当たり、複合的に判断することが重要だ。


 SNSは便利でリアルタイムに情報が得られる一方で、その瞬発力が仇となり、ディスインフォメーションか判断されずに瞬く間に多くの人に拡散されていく。


 今後もディスインフォメーションの脅威は現在社会において必ず付きまとうだろう。


 一人一人が、情報リテラシーとインテリジェンスを高めることが必須である。



Comments


Commenting has been turned off.
bottom of page