溶けない層

2026年のある時期、写真の世界で静かな騒ぎがありました。

ことの発端は、一枚の画像です。一匹のパグが、旅客機を操縦している——もちろん、現実にはありえない、AIが生成した合成画像です。

ところがこの画像には、あるカメラメーカーの「真正性証明」が付いていました。撮影した瞬間に、カメラ自身が「これは確かに私が撮った、改竄のない本物です」と暗号で署名する——そういう仕組みです。報道写真の信頼性を守るために、各社が競って実装を進めている、最先端の技術でした。

検証サイトは、このパグの画像を「本物のカメラで撮影された、真正な写真」として認証しました。ありえない合成画像が、「本物である」というお墨付きを得てしまったのです。事態を重く見たメーカーは、その機能を一時停止し、それまでに発行した証明書をすべて無効にしました。

真正性を証明するはずの技術が、偽物に真正性を与えてしまった。皮肉な話です。けれど私は、この一件を単なる技術の不具合として片づけたくないのです。ここには、AIの時代に私たちが向き合うことになる、もっと根の深い問いが隠れている——そう思えてならないのです。

今日は、その問いを考えてみたいと思います。「本物だと証明すること」と、「それを信じること」は、はたして同じことなのか、という問いを。

「本物」を証明する技術は、ここまで来た

まず、公平を期すために言っておきたいことがあります。先ほどの一件は、技術が未熟だという話ではありません。むしろ逆です。「本物であること」を証明する技術は、ここ数年で驚くほど進歩しました。

その中心にあるのが、C2PAと呼ばれる国際的な規格です。2021年、アドビ、アーム、BBC、インテル、マイクロソフトといった、分野を異にする名だたる組織が手を結んで立ち上げました。目的は、デジタルコンテンツに「来歴」を刻むこと。この画像は、いつ、どの機器で撮影され、その後どう編集されたのか——その履歴を、改竄できない形で記録し、署名する。写真や動画が本物かどうかを、見た目の印象ではなく、暗号技術によって裏づけようという試みです。

この規格は、いまや実験室の構想ではありません。主要なカメラメーカーやスマートフォン、画像編集ソフト、そして生成AIのサービス自身が、続々と対応を進めています。2025年初頭には、米国のサイバーセキュリティ・社会基盤安全保障庁——重要インフラを守る政府機関が、行政機関や社会基盤の事業者に向けて、この規格の採用を推奨する文書を公式に発行しました。偽情報の脅威に、国家の安全保障の観点から備えようというわけです。

つまり、「改竄を見抜き、本物を証明する」技術は、民間の自主努力の段階を越えて、社会の制度に組み込まれ始めている。これは紛れもない前進です。私たちは、デジタルの真贋を見分ける、強力な道具を手にしつつあります。

——にもかかわらず、冒頭のパグは、その網をすり抜けました。なぜでしょうか。

それでも、追いかけっこは終わらない

答えを先に言えば、こういうことです。「本物を見抜く技術」は、どれほど進歩しても、「本物に見せかける技術」を完全に出し抜くことはできない。この二つは、原理的に終わらない追いかけっこの中にいるからです。

まず、現実の数字から見てみます。AIが生成した偽の画像や映像を見破る検出器は、研究用に整えられたデータで試すと、九割五分から九割九分という、ほぼ完璧に近い精度を出します。ところが、同じ検出器を現実の雑多なデータ——圧縮され、加工され、転載を繰り返された画像——に向けると、精度は五割台から七割台へと、がくりと落ち込みます。実験室では優等生だった見張り番が、現場に出た途端に半分近くを見逃す。心もとない話です。

けれど、本当の問題はその先にあります。「もっと賢い検出器を作れば勝てる」とは、必ずしも言えないのです。

少し専門的な話に踏み込みます。いま画像生成の主役のひとつとなっているGAN（敵対的生成ネットワーク）という仕組みは、その名のとおり、二つのAIを敵対させて成り立っています。一方は、本物そっくりの偽物を作り出す「生成器」。もう一方は、それが本物か偽物かを見破ろうとする「識別器」。生成器は識別器を欺けるように、識別器は生成器を捕まえられるように——互いを仮想敵として、延々と鍛え合います。偽物作りと偽物見破りは、もともと同じ機械の中で背中合わせになった、一対の存在なのです。

ここで問題になるのが、この鍛え合いが行き着く先です。ゲーム理論には、ナッシュ均衡という概念があります。互いに相手の手を読み尽くし、もうこれ以上どちらも自分の戦略を変える動機を持たなくなった、釣り合いの点のことです。生成器と識別器の終わりなき訓練は、理論上、この均衡点へと向かっていきます。そして、その均衡点に達したとき、識別器の判定はどうなるか。ある研究チームが数理的に示したところによれば、識別器が「これは本物だ」と答える確率は、五割——コインを投げて表裏を当てるのと、寸分変わらない値に収束します。

これは、検出器の性能がたまたま悪い、という話ではありません。情報理論の言葉で言えば、偽物が一定の完成度に達した瞬間、本物と偽物を隔てる手がかりそのものが消失し、いかなる検出器をもってしても「判別不能」になる。それが、数学の導く宿命なのです。完璧な偽物の前では、見張り番はコイントスをしているのと同じになる。どれほど検出器を賢くしても、この壁は越えられません。

だからこそ、これは一部の悲観的な研究者の見立てではないのです。現場でこの問題に向き合う技術者のあいだでは、「いたちごっこ」「軍拡競争」という言葉が、もはや日常語として交わされています。新しい検出器が現れれば、それを破る生成手法がすぐに続く。検出器の有効期間は短く、単独の技術で勝負を決めることはできない——その冷静な見立ては、すでに共通認識になりつつあります。

軍拡競争は、計算の内側で完結している

ここで、少し視点を引いて、この追いかけっこ全体を眺めてみたいと思います。

偽物を作るAI。それを見破る検出器。改竄を防ぐ来歴の署名。その署名の隙を突く攻撃。さらにそれを塞ぐ対策——。攻める側と守る側は、めまぐるしく手を替え品を替え、互いを追い越そうとし続けています。けれど、よく見ると、この攻防に参加しているプレイヤーには、ある共通点があります。

全員が、計算の上で戦っているのです。

偽物も、検出も、署名も、その検証も、突き詰めればすべて演算です。膨大なデータと計算資源を投じて、相手より一手先を読もうとする。つまりこの軍拡競争は、まるごと**「計算の世界」の内側で起きている出来事**なのです。どちらが勝っても、舞台は計算の上から一歩も外に出ません。計算で作られたものを、計算で見破り、また計算で欺く——その円環が、ぐるぐると回り続けているだけなのです。

以前、この場所で、AIをめぐる巨大な資本が、計算資源という一つの層へと吸い寄せられ、境界を溶かしながら集まっていく様子をお話ししました。モデルを作る会社も、半導体を作る会社も、電力やデータセンターを抱える会社も、気がつけば「計算を制する者が制する」という一つの戦場に流れ込んでいく。その光景の話です。

真贋をめぐるこの追いかけっこも、実は同じ層の中の出来事でした。誰が本物を見破れるか、誰が本物に見せかけられるか——その競争は、計算資源という巨大な戦場の、内側で完結している。だとすれば、私たちはここで、一つの問いを立てざるをえません。この円環の、外側には、何があるのか。計算では決して埋められないものが、もし残っているとすれば、それは何なのか、と。

「本物だ」と「信じる」は、違う

円環の外側にあるもの。それを言い当てるために、一枚の契約書を例にあげます。

あなたの手元に、取引先から送られてきた契約書があります。最新の技術によって、この文書が改竄されていないこと、確かにその取引先が作成したものであることは、完璧に証明されています。一文字も書き換えられていない。差出人も本物。技術は、そこまでを保証してくれます。

では聞きます。あなたは、この契約を結びますか。

改竄されていないことと、その契約を結んでよいかどうかは、まったく別の問いです。文書が本物だと証明されても、「この相手と手を組んで大丈夫か」「この条件を呑んで後悔しないか」という判断は、一ミリも軽くなりません。署名が本物かどうかは技術が答えてくれる。けれど、署名を信じて自分の名を並べるかどうかは、最後はあなたが引き受けるしかない。誰も、何も、代わってはくれないのです。

ここに、二つのまったく異なる言葉があります。一つは「真正性」。これは本物か、改竄されていないか、という問いへの答えです。もう一つは「信頼」。これを信じて、自分はこの先に進んでよいか、という問いへの答えです。技術が驚異的に進歩して埋めてくれるのは、前者——真正性のほうです。けれど後者——信頼は、どれだけ技術が進んでも、誰かの肩に残り続けます。

社会学者のニクラス・ルーマンは、信頼をこう捉えました。信頼とは、手元の情報だけでは結論を出しきれない状況で、その不足をあえて飛び越えて、相手を信じる側に賭ける行為である、と。言い換えれば、信頼とは**「確かめきれなさ」を引き受けること**なのです。すべてが確かめられるなら、そこに信頼はいりません。確かめようのない部分が必ず残るからこそ、人は信頼という橋を架けて、その先へ進む。

だとすれば、皮肉なことに気づきます。技術が真正性をどれだけ高めても、「確かめきれない部分」がゼロになることはない。むしろ、先ほど見たとおり、真贋の追いかけっこに終わりがない以上、確かめきれなさは決して消えません。そして、その消えない隙間を最後に引き受けるのは、いつだって生身の人間なのです。来歴は証明できる。けれど、真実を引き受けることは、証明ではなく、人の営みにしかできないのです。

最後に、腹をくくるのは誰か

この「引き受け」という営みは、ただの心構えの話ではありません。すでに、社会の制度がそれを要求し始めています。

二〇二四年に成立した欧州のAI規制——世界で初めて、AIを包括的に規律しようとした法律は、人々の生活に重大な影響を及ぼすAIに対して、ある一点を強く求めました。それは、「人間による監督」です。AIがどれほど高度な判断を下そうと、その出力を人間が覆し、拒み、必要とあれば止められるようにしておかなければならない。最終的な決定権を、機械に明け渡してはならない——法は、そう定めたのです。

注目すべきは、この規定が技術の精度を問うていないことです。AIの判断が正確かどうか、改竄されていないかどうかは、ここでの主題ではありません。問われているのは、「最後に誰が責任を引き受けるのか」という、ただ一点。そしてその答えを、法は明確に人間の側に置きました。どれほど真正性が保証された出力であっても、それを採用し、その結果を引き受けるのは人間でなければならない、と。

国際的なAIの原則でも、よく似た考え方が共有されています。そこでは、「説明責任」という言葉が、損害を賠償する法的責任とは区別して使われます。自分がそのAIをどう使い、なぜその判断を採ったのかを、筋道立てて引き受け、語れること。それが、AIを扱う者に求められる責任のかたちだとされているのです。

ここで、二つのものの扱いが、くっきりと分かれます。真正性は、技術へと譲り渡せます。「これは本物だ」という証明は、機械に任せられる。けれど、信頼は——「これを信じて、自分が責任を負う」という引き受けは、誰にも譲り渡せません。それは、肩代わりのできない、人間だけに残された仕事なのです。技術が前へ進めば進むほど、譲り渡せるものと、譲り渡せないものの境界は、かえってくっきりと浮かび上がってきます。

溶けない層

最初の問いに戻りましょう。「本物だと証明すること」と、「それを信じること」は、同じではありませんでした。前者は計算が引き受けてくれる。けれど後者は、確かめきれなさを抱えたまま前へ進む、人間の営みとして残り続けます。

以前この場所で、AIをめぐるあらゆる層が——モデルも、半導体も、資本も——計算という一つの戦場へ溶け込んでいく光景をお話ししました。その流れは、おそらく止まりません。多くのものが、これからも計算の層へと吸い込まれていくでしょう。

けれど、その大きな溶解のただ中で、どうしても溶けきらない層が、一つだけ残ります。確かめきれなさを引き受け、それでもなお腹をくくって決断する——その、人間にしか担えない層です。技術が真贋の追いかけっこを繰り広げるほど、確かめきれない隙間は消えず、それを引き受ける誰かが、いよいよ必要になる。皮肉なことに、計算が進歩すればするほど、この溶けない層の価値は、静かに、しかし確かに高まっていくのです。

私たちは、これを「現場力」と呼んできたのかもしれません。その場の空気を読み、相手の顔を見て、確かめようのない部分を引き受けて、それでも「やりましょう」と一歩を踏み出す。長らく、属人的で、非効率で、いずれ仕組みに置き換えられるものと見なされてきた、あの泥臭い力。けれどそれは、煎じ詰めれば、信頼を生み出す身体的な営みでした。計算では決して肩代わりできない、人間の固有の仕事だったのです。

AIが賢くなるほど、人間はいらなくなる——その不安が、いまあちこちで語られています。けれど私は、むしろ逆ではないかと思うのです。計算が世界を覆い尽くそうとするからこそ、その円環の外側で、確かめきれなさを引き受ける人間の重みが、これまでになく増していく。溶けゆく時代に、溶けないものを持っていること。それが、これからの組織にとって、静かで確かな強さになるはずです。

では、その「溶けない強さ」を、組織はどうやって育てていけるのでしょうか。技術に置き換えられない人の力を、どう見出し、どう伸ばしていくのか——次回は、その問いを考えてみたいと思います。