察してくれない相手を、なぜ責めるのか

先日、社内のある一人が、ぽつりと、こんなことを漏らしました。

「人間の嘘は許せるのに、AIの嘘は、どうして許せないんでしょうね」

クレーム対応に追われる日々のなかで、生成AIを使いはじめた人です。もう一年も前のことになりますが、AIへの語りかけを「呪文を唱えるみたいなもの」と怖がっていた彼女が、いまではすっかり使いこなしている。その彼女が、ふと立ち止まるように、そう言ったのです。

言われてみれば、確かに不思議な話です。

私たちは、同僚が数字を一つ間違えても、「まあ、誰にでもあることだ」と受け流します。ところが、AIが同じ間違いをすると、「これだからAIは信用ならない」と、途端に突き放してしまう。同じ間違いのはずなのに、一方は許され、もう一方は許されない。この落差は、いったいどこから来るのでしょうか。

ちょうどその頃、象徴的な出来事が、海の向こうで起きていました。

生成AIが「真実」をどう変えていくかを論じた、一冊の話題の本があります。ところが刊行後まもなく、その本のなかに、AIが作り出した誤った引用——実在の人物が言ってもいないことを、さも語ったかのように書いた箇所——が、いくつも紛れ込んでいたことが発覚しました。AIの危うさを説くための本が、まさにそのAIの嘘によって汚されていた。皮肉な話です。

私が心を引かれたのは、その皮肉そのものよりも、著者の言葉の変化のほうでした。

問題が明るみに出た当初、著者は「責任はすべて自分にある」と述べました。ところがしばらくすると、その口ぶりは少しずつ変わっていきます。やがて彼は、別の場所で、こう言うようになりました。あのAIが、本を台無しにしたのだ、と。

私は、この人を笑う気にはなれません。むしろ、他人事とは思えないのです。「自分の責任だ」と一度は引き受けたはずの手が、気づけば、するりとAIのほうへ——。この揺れは、程度の差こそあれ、AIと向き合う誰の心にも、きっと兆しているものだからです。私自身の心にも、まったく無いとは、言い切れません。

そこで、今回は、この問いを一緒に考えてみたいと思います。私たちは、なぜ、察してくれない相手を、責めてしまうのか。そして、その「責めたくなる心」は、いったい何を映しているのか。

その厳しさは、どこから来るのか

相手に求める正確性。その厳しさが、どれほどのものなのかを、はっきりと数字で示した調査があります。

デンマークのある大学病院で、こんな問いかけが行われました。医療画像の診断を、人間の医師が担う場合と、AIが担う場合。それぞれについて、「どこまでの間違いなら許容できるか」を、現場の専門スタッフに尋ねたのです。

返ってきた答えは、くっきりと分かれていました。

人間の医師に対しては、11.3%までの間違いは許せる。ところが、AIに対しては、その半分ほど——6.8%まで、という厳しさでした。同じ診断の間違いなのに、AIには、人間のおよそ倍の正確さが求められたのです。

私が驚いたのは、答えた人たちが、AIに詳しくない人々ではなかった、という点です。むしろ逆で、日頃からAIの教育を受け、その仕組みをよく知る専門職の人たちでした。AIを知らないから、AIを過信したり、逆に無闇に怖がって厳しくなったのではない。よく知る人たちが、それでもなお、AIには厳しかったのです。

では、この厳しさは、いったいどこから来るのでしょうか。

調査を行った人たちは、ひとつの見立てを示しています。人間の同僚がミスをしたとき、私たちの心には、自然と、ある声が働く。「いつも頑張っている人だ。たまたま、疲れていたのだろう」「あの人にも、調子の悪い日はある」。長く一緒に働くなかで積み重ねてきた、信頼の蓄えのようなものが、その一度の失敗を、そっと包んでくれる。

けれど、AIには、その蓄えがありません。

一緒に汗をかいた時間もなければ、これまでの働きぶりへの好意もない。失敗を弁護してくれる、心の貸し借りが、何もないのです。だから、たった一度のつまずきが、何の緩衝もないまま、まっすぐ「使えない」という断罪に直結してしまう。

以前、私は、組織のなかの「あの人に聞けばわかる」という存在について書きました。長年の働きで信頼を積み上げた、頼れる人のことです。あのとき語った、その人への厚い信頼——それは、裏を返せば、いま話しているAIへの厳しさと、ちょうど表と裏の関係にあります。私たちは、時間をかけて信頼を蓄えた相手には限りなく寛容で、蓄えのない相手には、驚くほど手厳しい。

AIは、いつも、その「蓄えのない側」に立たされています。どれだけ正確に働いても、好感という貯金がゼロのまま、たった一度の失敗で、すべてを帳消しにされてしまう。——察してくれない相手を責めてしまう、その心の入口には、まず、この「蓄えのなさ」への無自覚な厳しさがあるように、私には思えるのです。

AIの嘘は、多くが「託し方」から生まれる

ここで、少し角度を変えて、AIの「嘘」そのものの正体を見てみたいと思います。

私たちは、AIが事実と違うことを、さも本当のように答える現象を、しばしば「嘘」と呼びます。専門的には、幻を見るという言葉になぞらえて「ハルシネーション」と呼ばれることもありますが、この稿では「嘘」で通します。問題は、この嘘が、いったいなぜ生まれるのか、です。

ひとつ、身近な例で考えてみます。

「うちで一番売れている商品は何か、教えてほしい」。AIに、そうたずねたとします。一見、はっきりした問いに見えます。ところが、AIの側からすると、この問いは、霧のなかにあります。「一番売れている」とは、売上金額のことでしょうか。それとも、売れた個数でしょうか。返品されたぶんは、含めるのでしょうか。いつからいつまでの話でしょうか。——何ひとつ、決まっていないのです。

それでもAIは、健気に答えようとします。決まっていない部分を、自分で勝手に補って。売上金額のことだろう、期間はこの一年だろう、と当たりをつけて、もっともらしい答えを返してくる。その「勝手な補い」が、こちらの意図とずれていれば、それはもう「間違った答え」です。私たちは、それを見て「AIが嘘をついた」と感じる。

けれど、よく考えてみてください。その嘘は、どこから生まれたのでしょうか。

もとをたどれば、こちらが「一番売れている、とはどういう意味か」を、伝えていなかったところから始まっています。前提を渡さず、条件を告げず、「これくらい察してくれるだろう」と省いた。その省略の隙間を、AIが埋めようとして、つまずいた。つまり、多くの場合、AIの嘘は、AIが勝手に作り出したものというより、こちらの「託し方」の不足が呼び込んだものなのです。

これは、前回まで話してきたことと、地続きです。AIは、前提や背景や条件を、丁寧に渡されるほど、正確に応えてくれる。逆に、こちらが多くを語らなければ、当たり障りのない一般論か、あるいは的外れな補完しか返せない。察してもらうことを期待して言葉を惜しめば、その惜しんだぶんだけ、答えは精度を失っていく。AIの嘘の多くは、実は、この一点から生まれています。

——と、ここまで言い切ってしまうと、少し、行き過ぎになります。

正直に申し上げておかなければなりません。AIの嘘が、すべて「託し方」の問題かというと、そうではないのです。こちらがどれだけ前提を尽くし、条件を細かく伝えても、なお消えない種類の誤りがある。たとえば、AIがそもそも知らない最新の出来事について問えば、いくら丁寧にたずねても、正しい答えは返ってきません。あるいは、世に出回る情報そのものに偏りがあれば、その偏りごと、答えに滲んでしまうこともあります。これらは、こちらの託し方とは、また別の話です。

ですから、話を単純にしすぎないように、こう言い直しておきます。AIの嘘の多くは、こちらの託し方を尽くすことで、確かに減らせる。けれど、尽くしてもなお残る誤りもある。その二つは、分けて考えなければなりません。託せば減るものを、AIのせいにしていないか。託しても消えないものを、AIだけの罪にしていないか。——問われているのは、いつも、その切り分けなのです。

責める前に、鏡が映していたもの

さて、ここまで来ると、最初の問いが、少し違った顔を見せはじめます。

私たちは、察してくれない相手を責めてしまう。けれど、その「察してくれなさ」の多くが、実はこちらの託し方の不足から来ているのだとしたら——AIを責めていたその指は、本当は、どこを指すべきだったのでしょうか。

ここで、前々回まで、私が繰り返し書いてきたことを、思い出していただきたいのです。AIは、こちらの問いに答えてくれる道具であると同時に、こちらに問いを言葉にさせてくれる鏡でもある、と。自分の判断基準を語ろうとして、初めて、自分が何を考えていたかに気づく。AIに向かって語ることは、自分のなかをのぞき込む作業なのだ、と。

あのときの「鏡」は、自分の知恵を映す鏡でした。けれど、鏡は、都合のいいものだけを映してはくれません。

AIが間違った答えを返し、こちらの胸に「使えないな」といらだちが走る。その瞬間、鏡が映しているのは、AIの無能さではありません。こちらが何を伝えそこねたのか、です。何を省いたのか。どの前提を、「言わなくてもわかるだろう」と胸のうちにしまい込んだのか。AIのイマイチな答えは、こちらの説明のイマイチさを、そっくりそのまま映し返している。いらだちの正体は、多くの場合、鏡に映った自分の姿だったのです。

これは、なかなか、認めがたいことです。

人間の心には、うまくいかないことの原因を、自分の外に置きたがる、根深い癖があります。答えがずれていれば、AIの性能を疑う。的外れなら、道具の限界を嘆く。そのほうが、ずっと楽だからです。「自分の託し方が足りなかった」と認めるより、「この道具は使えない」と切り捨てるほうが、心は傷つかずに済む。責めるという行為は、いつも、自分を守る行為と、背中合わせになっています。

けれど、その「責める」を一度手放して、鏡をまっすぐ見てみると、景色が変わります。

AIが察してくれなかったのは、こちらが察してもらおうとしていたからだ。答えが浅かったのは、渡した前提が浅かったからだ。——そう捉え直した瞬間、いらだちの矛先は、外から内へと、静かに向きを変えます。そしてこの向きの変化こそが、AIを使いこなせる人と、そうでない人とを、分ける分かれ道なのだと、私は思っています。

前々回、私はこう書きました。「察してもらう時代は終わった。これからは語る番だ」と。いま、それに、もうひとつ付け加えたいことがあります。語れなかったとき、それをAIのせいにするのをやめること。察してくれない相手を責める代わりに、自分は何を語りそこねたのかを、鏡に問うこと。そこからしか、本当の対話は始まらないのです。

不信と過信は、同じ根から

この「AIを責めてしまう心」について調べていくうちに、私は、心理学の世界に、それを言い当てた言葉があることを知りました。

ひとつは、「アルゴリズム嫌悪（algorithm aversion）」と呼ばれるものです。人は、AIが自分より高い精度で正しく答えられると分かっていても、そのAIが一度でも間違えるところを目にすると、とたんに信用しなくなり、より不正確な人間の判断のほうを選んでしまう。そういう傾向が、実験で繰り返し確かめられています。一度のつまずきで、すべてを見限る。まさに、これまで話してきた「たった一度の失敗で帳消しにする」心の、正体のひとつです。

そしてもうひとつ、これと正反対に見える言葉があります。「自動化バイアス（automation bias）」です。AIが示した答えを、ろくに確かめもせず、正しいものとして鵜呑みにしてしまう。自分で考える手間を、AIにそっくり明け渡してしまう傾向のことです。

一見、この二つは、真逆です。かたや、AIをまるで信じない。かたや、AIを信じすぎる。ところが——調べていくと、この二つは、どうやら別々の心ではないらしいのです。

ある研究が、興味深いことを明らかにしています。人は、AIを使いはじめたばかりの頃、「AIは機械なのだから、完璧で、客観的で、間違えるはずがない」という、過剰な期待を抱きやすい。これが、「頼りきる心」です。ところが、その完璧なはずのAIが、あるとき、ぽろりと間違える。すると、高すぎた期待が一気に裏切られ、その反動で、信頼が音を立てて崩れ落ちる。「なんだ、使えないじゃないか」と。——こうして人は、「頼りきる心」から「嫌う心」へと、まるでシーソーのように、勢いよく振れてしまうのです。

つまり、過信と不信は、正反対のようでいて、根は同じでした。どちらも、「AIは完璧なはずだ」という思い込みから生まれている。完璧を期待するから、鵜呑みにする。完璧を期待するから、一度の綻びで幻滅する。信じすぎることと、責めすぎることは、同じ一本の木から伸びた、二つの枝だったのです。

さらに、同じ研究には、こんな続きもありました。AIについての理解が深まっていくと、この激しい振れは、少しずつ収まっていく。AIがなぜ間違えるのか、その仕組みを知るほどに、盲目的に信じることも、頭ごなしに拒むこともなくなり、ちょうどよい距離で付き合えるようになっていく——。これを、研究者たちは「調整された信頼（calibrated trust）」と呼んでいます。

私は、この言葉に、深くうなずきました。

過信でも、不信でもない。AIを神様のように崇めるのでも、無能とあざけるのでもない。間違えることもある道具として、その限界を承知のうえで、それでも共に考える相棒として、隣に置く。——目指すべきは、この「ちょうどよい距離」なのだと思います。そして、そこへ至る道は、AIを責めるのをやめ、その仕組みと限界を、こちらから知りにいくこと。つまり、相手を責める前に、相手を——そして自分の託し方を——知ろうとすることから、始まるのです。

責める前に、語ろう

はじめに、社内の一人が漏らした言葉から、この稿を始めました。人間の嘘は許せるのに、AIの嘘は許せない。なぜだろう、と。

ここまでたどってきて、その答えは、少しずつ形を結んできたように思います。

私たちがAIに厳しいのは、AIに、失敗を包んでくれる信頼の蓄えがないからでした。そして、その厳しさの奥には、「AIは完璧なはずだ」という思い込みがあり、その思い込みが、責めすぎる心と、頼りすぎる心の、両方を生んでいました。

けれど、いちばんの答えは、もっと手前にありました。

私たちが「察してくれない」と責めていたその相手は、多くの場合、こちらが察してもらおうとしていたから、応えられなかっただけなのです。渡すべき前提を渡さず、告げるべき条件を告げず、「これくらいわかるだろう」と省いた。その省略が、答えのつまずきを呼んでいた。AIの嘘を責める指は、鏡に向けてみれば、しばしば、語りそこねた自分自身を指していたのです。

冒頭で触れた、あの本の著者が「AIが本を台無しにした」と漏らしたときにも、きっと、同じことが起きていたのだと思います。誰かのせいにするのは、たやすい。けれど、その指を下ろして、自分は何を託しそこねたのかと問うことは、たやすくない。——私たちが本当に試されるのは、いつも、その一歩のところなのでしょう。

もちろん、AIには、こちらがどれだけ言葉を尽くしても消えない誤りも、確かにあります。その限界は、冷静に見据えなければなりません。責めるのをやめることは、なんでも許すこととは違います。ただ、「託せば減らせたはずのものを、AIのせいにしていないか」。まず、そこを問う。その一点が、AIとの付き合いの、分かれ道になるのだと思います。

この「暗黙知×生成AI」というテーマで、私は、ひとつのことを繰り返し書いてきました。察してもらう時代は終わった。これからは、語る番だ、と。自分の知恵を語り、それを人へ手渡し、組織のなかでめぐらせていく——そういう、前を向いた話でした。

今回は、その裏側の話だったように思います。語れなかったとき、託しそこねたとき、人は、つい相手を責めてしまう。察してくれない、と。けれど、その責める心をそっと脇に置いて、もう一度、鏡を見る。自分は、何を語りそこねたのか、と。——語ることと、責めないこと。この二つは、きっと、同じひとつの構えの、表と裏なのです。

察してくれない相手を、なぜ責めるのか。

その問いへの、いまの私の答えは、こうです。責めているあいだは、まだ、語り尽くしていないのだ、と。責めたくなったときこそ、それは、もう一度言葉を尽くす番が来た合図なのだ、と。

察してくれない相手は、私たちを、語る側へと押し出してくれます。その意味では、AIの「察してくれなさ」は、欠点であると同時に、私たちを一段成長させてくれる、静かな贈り物なのかもしれません。責める前に、もう一度、語ってみる。——その先にこそ、あの「調整された信頼」の、ちょうどよい距離が待っているのだと、私は思っています。