コラム

一田和樹 デジタル権威主義とネット世論操作

「これはフェイク？」親中派が月額30ドルのAI動画生成サービスでデジタル影響工作していた

2023年02月10日（金）17時45分

親中派のデジタル影響工作グループが、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組を配信していた...... YouTube-Synthesia

＜2022年の年末に親中派のデジタル影響工作グループが、AI動画生成サービスを使って作成したディープフェイクのニュース番組をSNSに投稿していた......＞

前回の記事で2023年はAI支援デジタル影響工作ツールが広く使われるようになると書いたが、さっそくそれを裏付けるような事実が暴露された。

2022年の年末に親中派のデジタル影響工作グループSpamouflage（Dragonbridgeと呼ばれることもある）が、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組「Wolf News」をフェイスブック、ツイッター、YouTubeに投稿していたのだ。

幸い、再生数はわずかだったが、ブルキナファソでも同じツールを利用したデジタル影響工作と思われる動画が発見されており、利便性の高いAI支援デジタル影響工作ツールの利用が広まっていることを示した。

中国共産党を支持する情報、アメリカを貶める情報を発信

今回、ディープフェイクを拡散しようとしていたSpamouflageは数年前から活動しているグループで、中国共産党を支持する情報やアメリカを貶める情報などを発信するデジタル影響工作を行っている。先月もグーグルが関連するアカウント5万件以上を削除している。

昨年のアメリカ中間選挙では積極的に活動していたことがサイバーセキュリティ企業マンディアント社によって、既存のニュース記事や調査レポートを改竄して、中国に都合のよい内容にして拡散していたことなどが暴かれている。たとえば中国由来のサイバー攻撃APT41をアメリカ由来に置き換えて拡散していた。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

当初、専門家も俳優と間違え、日本語にも対応

ディープフェイク作成に使用されたサービスは、イギリスのSynthesia社のもので、個人使用なら月額30ドルで利用できる。メールを作成するくらいの手軽さで動画を作成できることができ、一般企業の人材育成や研修用の動画作成に利用されることが多いという。

このサービスは120カ国語（もちろん日本語にも対応）に対応し、性別、年齢、民族、声のトーン、ファッションなどが異なる85以上のアバターが用意されている。テンプレートは55以上もあり、パワーポイントからのインポートもできる。ありものでよければ使用するテキストを用意するだけで動画ができてしまう。スタジオで動かずにニュースを読み上げるだけなら数分でできる。動かないといっても自動的に口は動くし、まばたきもする。

安価で簡単にできる分、画像が粗かったり、口と音声がずれたりなど、不自然なところはあるが、ネットの動画ではありがちなことと気に留めない人も多いだろう。実際、調査に当たったグラフィカ社のチームは当初、人間の俳優を使用した動画と考えていたほどだ。

どのような動画が作れるかは実際に現物を見ていただくのが早いと思う。下記はSynthesia社自身のウェブにある紹介動画だ。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

次のページ日本語のデモンストレーション動画もあった
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ウクライナ侵攻と情報戦』（扶桑社新書）など著作多数。X（旧ツイッター）。

今、あなたにオススメ
ニュース速報

ビジネス

米ＥＶ税控除、一部重要鉱物要件の導入2年延期
2024.05.04

ワールド

Ｓ＆Ｐ、トルコの格付け「Ｂ＋」に引き上げ　政策の連
2024.05.04

ビジネス

ドットチャート改善必要、市場との対話に不十分＝シカ
2024.05.04

ビジネス

ＮＹ連銀総裁、2％物価目標「極めて重要」　サマーズ
2024.05.04
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：世界が愛した日本アニメ30
特集：世界が愛した日本アニメ30
2024年4月30日/2024年5月 7日号（4/23発売）

『AKIRA』からジブリ、『鬼滅の刃』まで、日本アニメは今や世界でより消費されている

メールマガジンのご登録はこちらから。
人気ランキング
  • 1

    ロシア兵がウクライナ「ATACMS」ミサイルの直撃を受ける瞬間の映像...クラスター弾炸裂で「逃げ場なし」の恐怖

  • 2

    屋外に集合したロシア兵たちを「狙い撃ち」...HIMARS攻撃「直撃の瞬間」映像をウクライナ側が公開

  • 3

    ウクライナ軍ブラッドレー歩兵戦闘車の強力な射撃を受け、炎上・爆発するロシア軍T-90M戦車...映像を公開

  • 4

    テイラー・スウィフトの大胆「肌見せ」ドレス写真...…

  • 5

    サプリ常用は要注意、健康的な睡眠を助ける「就寝前…

  • 6

    こ、この顔は...コートニー・カーダシアンの息子、元…

  • 7

    ロシア軍「Mi8ヘリコプター」にウクライナ軍HIMARSが…

  • 8

    ロシア軍の拠点に、ウクライナ軍FPVドローンが突入..…

  • 9

    常圧で、種結晶を使わず、短時間で作りだせる...韓国…

  • 10

    ロシア「BUK-M1」が1発も撃てずに吹き飛ぶ瞬間...ミ…

  • 1

    ロシア「BUK-M1」が1発も撃てずに吹き飛ぶ瞬間...ミサイル発射寸前の「砲撃成功」動画をウクライナが公開

  • 2

    一瞬の閃光と爆音...ウクライナ戦闘機、ロシア軍ドローンを「空対空ミサイルで撃墜」の瞬間映像が拡散

  • 3

    どの顔が好き？ 「パートナーに求める性格」が分かる4択クイズ

  • 4

    AIパイロットvs人間パイロット...F-16戦闘機で行われ…

  • 5

    ロシア兵がウクライナ「ATACMS」ミサイルの直撃を受…

  • 6

    「2枚の衛星画像」が伝える、ドローン攻撃を受けたロ…

  • 7

    屋外に集合したロシア兵たちを「狙い撃ち」...HIMARS…

  • 8

    常圧で、種結晶を使わず、短時間で作りだせる...韓国…

  • 9

    ロシアの大規模ウクライナ空爆にNATO軍戦闘機が一斉…

  • 10

    メーガン妃の「限定いちごジャム」を贈られた「問題…

  • 1

    ロシア「BUK-M1」が1発も撃てずに吹き飛ぶ瞬間...ミサイル発射寸前の「砲撃成功」動画をウクライナが公開

  • 2

    韓国で「イエス・ジャパン」ブームが起きている

  • 3

    ｢おやつの代わりにナッツ」でむしろ太る...医学博士が教えるスナック菓子を控えるよりも美容と健康に大事なこと

  • 4

    最強生物クマムシが、大量の放射線を浴びても死なな…

  • 5

    「燃料気化爆弾」搭載ドローンがロシア軍拠点に突入…

  • 6

    ロシアが前線に投入した地上戦闘ロボットをウクライ…

  • 7

    世界3位の経済大国にはなれない？インドが「過大評価…

  • 8

    一瞬の閃光と爆音...ウクライナ戦闘機、ロシア軍ドロ…

  • 9

    タトゥーだけではなかった...バイキングが行っていた…

  • 10

    NASAが月面を横切るUFOのような写真を公開、その正体…

日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story