はじめに
出社前のカフェで朝のブラックコーヒーを飲みながらニュースを眺めていたんです。
それで、ちょっと気になった話がありました。
ある企業で、財務責任者からのビデオ会議の指示を受けた社員が、指示通りに資金を送金した。ところが、会議にいた上司も同僚もすべてAIで作られた偽物だったというんですね。結果として約40億円が送金されたらしいです。
いま企業の世界では、「AIフェイク」という新しいリスクが静かに広がっているようです。
背景
生成AIの進化で、動画・音声・画像・文章の「本物そっくりの偽物」が作れるようになりました。
以前なら違和感のある偽画像も多かった。でもいまは、人の目では区別が難しいレベルまで来ています。
その結果、企業が直面する問題は思った以上に広い。
なりすまし詐欺、フェイクニュース、内部不正、そして機密情報の流出。
たとえばセキュリティ企業の アメリカ パロアルトネットワークスは、ディープフェイクを使って身分を偽り、オンライン面接を通過して企業に入り込むケースが増えていると指摘しています。
リモートワークの広がりも、こうした問題を見えにくくしているのかもしれません。
メインテーマ
面白いのは、企業の対応が「偽物を見抜く」だけではなくなってきたことです。
いま広がり始めているのは
「本物であることを証明する技術」です。
つまり、疑う社会ではなく
証明する社会に変わりつつある。
たとえば Adobeや Microsoftなどが参加する国際規格団体 「C2PA」 は、画像や動画の「出どころ」や「編集履歴」を記録する仕組みを作っています。
写真がいつ、どこで撮られたか。
どこを加工したのか。
そうした履歴をデータとして残しておく。
情報の信頼を、技術で担保しようという発想です。
具体的な事実
企業側も対策を急いでいます。
たとえば
日本の富士通は偽情報対策の国際コンソーシアム「Frontria」を立ち上げ、国内外の企業や研究機関と共同で対策技術を研究しています。
ディープフェイク検知
テキストの真偽判定
画像への透かし情報
こうした技術を組み合わせて守ろうという考え方ですね。
一方で、現場ではもっと身近な問題も起きています。
経費精算サービスの アメリカ App Zen（アップゼン）によると、不正な領収書の中にAI生成のものが増えている。
つまりAIフェイクは
国家レベルのサイバー問題でもあり、
日常の業務問題でもある。
少し不思議ですが、AIは「仕事を効率化する道具」であると同時に、
「信頼を確認する仕事」を増やしているのかもしれません。
まとめ
AIの時代は、便利さと同時に「本物とは何か」を考える時代でもあるようです。
データを疑うより、データの出どころを確かめる。
そんな仕事の感覚が、これから少しずつ増えていくのかもしれません。
そんなことを考えていたら、缶コーヒーがもう少しで空になりそうです。
さて、そろそろ仕事の時間ですね。
