その嘘は、誰の嘘になったのか

「それ、ショウ君と相談して、進めておいて」

社内で、こんな言葉が、ごく自然に交わされています。「ショウ君」。まるで、隣の席の同僚を指すような口ぶりです。「ショウ君はほんとに優秀だよね」「今日はちょっと調子が悪いみたいだね」

実は、「ショウ君」は、生成AIに名付けた名前で、実在する同僚ではありません。

私たちの会社では、社内で使うAIには、それぞれ名前があり、役割があります。私たちは、AIを仲間のように呼び、仲間のように頼っています。そう呼ぶことで、仕事がしやすくなっている実感があり、もはや彼ら無しでは業務が進まないとさえ言えます。

けれど、この「名前をつける」というささやかな習慣には、ふだん、あまり意識されない一面があります。

前回、私は、人は、なぜAIの嘘を許せないのか、という問いを考えました。そして、AIを責めるその指は、多くの場合、こちらの「託し方」の不足を——鏡に映った自分自身を——指しているのだ、というところに行き着きました。

今回は、その続きです。もし、その責める相手が、ただの機械ではなく、名前を持ち、人格をまとった"誰か"だったとしたら。私たちの「責める」は、どこへ向かうのでしょうか。そして、その指の先で、本当は誰が責められるべきだった責任が、静かに姿を消してはいないでしょうか。

名前をつけたAIが、嘘をつく。そのとき——その嘘は、いったい、誰の嘘になるのでしょうか。

名前を与えると、距離が縮まる

なぜ、私たちは、AIに名前をつけたくなるのでしょうか。

ひとつには、そのほうが、扱いやすいからです。得体の知れない機械に向かって話しかけるのは、どこか、居心地の悪いものです。相手が、どんな受け取り方をするのか、見当がつかない。その手探りの感覚が、私たちを身構えさせます。

ところが、そこに名前があり、役割があると、ふしぎと、肩の力が抜けるのです。

「経理のことは、あの子に聞こう」「この文章は、彼に整えてもらおう」——そう思えた瞬間、相手は、のっぺりした「システム」から、輪郭を持った「担当者」に変わります。担当者だと思えば、こちらも、自然と多くを語るようになる。「君の担当だよね、これ」という気安さが、背景や事情を、するすると口に出させてくれるのです。

これは、思いのほか、大切な効用です。

前回、私は、AIには前提や条件を丁寧に託すほど、正確に応えてくれる、と書きました。裏を返せば、私たちが言葉を惜しめば、その分だけ、答えは精度を失っていく。ところが、相手を「担当者」と感じられると、人は、言葉を惜しまなくなる。名前をつけるという行為は、私たちを、自然と"語る側"へ押し出してくれるのです。擬人化には、託し方を豊かにする、確かな働きがあります。

興味深いことに、この感覚は、実験でも裏づけられています。

ある研究で、自動運転車に名前と声、そして性別を与えて、人がどう反応するかを調べたものがあります。すると、名前を与えられた車を運転した人たちは、まったく同じ性能の車を運転した人たちよりも、その車を「有能で、信頼できる」と感じたというのです。装置としては、何も変わっていません。変わったのは、名前がついた、それだけです。それだけで、人は、機械に心を許しはじめる。

私は、この結果に、深くうなずきました。

名前は、相手への警戒を解き、こちらの心を開かせます。開かれた心は、より多くを語る。より多くを語れば、相手は、より正確に応える。——擬人化は、この善い循環の、最初のひと押しになってくれるのです。だから私たちは、AIに名前を与える。それは、決して、子どもじみた遊びではありません。AIと、より深く協働するための、理にかなった工夫なのです。

けれど——と、ここで、立ち止まらなければなりません。名前をつけることには、この明るい効用と、ちょうど背中合わせに、もうひとつの顔があるからです。

けれど、間違えたとき

名前をつけた相手が、間違える。そのとき、私たちの心に起きることは、ただの機械が誤作動したときとは、まるで違います。

たとえば、電卓が、おかしな答えを出したとします。私たちは、少し首をかしげて、叩き直すか、電池を替えるか、新しいものに買い替えるでしょう。そこに、感情は動きません。「壊れたな」。ただ、それだけのことです。

ところが、「ショウ君」が、もっともらしい顔で嘘をついたら、どうでしょう。

私たちは、「壊れたな」とは思いません。「裏切られた」と感じるのです。あれほど頼りにしていたのに。あんなに優秀だと思っていたのに。——そこには、単なる不具合を超えた、感情的な痛みがあります。相手を、心を持った"誰か"だと思っていたからこそ、その「嘘」は、ただの誤差ではなく、ひとつの背信として、胸に刺さるのです。

皮肉な話です。親しみを込めて名前を与えたことが、いざその相手が間違えたときの「許せなさ」を、いっそう深くしてしまうのです。

前回、私は、AIには失敗を包んでくれる「信頼の蓄え」がないから、人はAIに厳しくなる、と書きました。名前をつけることは、いわば、その蓄えを、「前貸し」する行為に似ています。まだ何も積み上げていないうちから、「優秀な仲間」という好意を、先に手渡してしまう。その「前貸し」した好意が大きいほど、期待を裏切られたときの落差もまた、大きくなる。愛着と幻滅は、同じ一本の綱の、両端に結ばれているのです。

このねじれは、私たちの社会が、すでに、うっすらと気づきはじめているものでもあります。

AIを「うちの子」と呼んで可愛がる人がいる一方で、「そこまで人扱いするのは、どこか危うい」と、距離を置く人もいます。親しみと、警戒。この両方の感覚が、いま、多くの人のなかに同居しています。私は、そのどちらも、自然な反応だと思います。名前をつけることには、心を近づける力と、その近さゆえに人を深く傷つける力とが、分かちがたく同居しているのですから。

そして、この「裏切られた」という感覚の奥には、実は、もっと見えにくい問題が、静かに横たわっています。名前をつけた相手を責めるとき、私たちは、ある大切なことを、見失いかけているのです。

責任は、どこへ流れたのか

「ショウ君が、間違えたんだ」

そう口にするとき、私たちは、たいてい、何も後ろめたさを感じていません。事実を、事実として述べているだけのつもりです。実際、答えを返したのはAIであって、私たちではない。だから、間違えたのもAIだ——理屈のうえでは、そうなります。

けれど、この一言は、聞こえよりも、ずっと多くのものを、こっそり運び去っています。

考えてみてください。「ショウ君が間違えた」と言うとき、その文の主語は、「ショウ君」です。私たちではありません。つまり、この言い方をした瞬間、間違いの主役はAIになり、それを使った私たちも、それを設計した誰かも、するりと文の外側へ追い出されているのです。名前をつけたことで、AIは「責任を負える一人前の主体」であるかのように振る舞いはじめ、その背後にいたはずの人間たちが、舞台の袖へ、静かに退いていきます。

これは、ただの言葉のあやではありません。人の心のなかで、実際に起きていることです。

ある研究が、考えさせられる事実を明らかにしています。AIを擬人化すればするほど——つまり、人間らしい名前や口調や人格を与えるほど——それが間違いを犯したとき、人は、その責任を、AIを作った企業や技術者にではなく、「そのAI自身」に負わせようとする、というのです。しかも、AIへの非難が強まるのと引き換えに、開発した側への非難は、はっきりと弱まっていく。両者は、きれいに反比例していました。

つまり、こういうことです。AIに人格を与えると、いざというとき、人は「あのAIが悪い」と、その架空の人格を責める。そして、そう責めた分だけ、本当に問われるべきだったはずの人間の責任が、視界から消えていくのです。名前は、親しみを生むと同時に、責任を吸い込む、小さな渦にもなる。研究者たちは、この現象を「責任の置換（responsibility displacement）」と呼んでいます。責任が、本来あるべき場所から、あるべきでない場所へと、ずれてしまう——そういう意味です。

私が、これを他人事だと思えないのには、理由があります。

前回、私は、AIの嘘の多くは、こちらの「託し方」の不足から生まれる、と書きました。だとすれば、「ショウ君が間違えた」と言うとき、本当は、こう言うべきだった場面が、たくさんあるはずなのです。「私が、託し方を誤った」と。ところが、相手に「ショウ君」という名前があるだけで、その言葉は、あまりにも簡単に、「ショウ君が間違えた」へとすり替わってしまう。名前が、私たちの責任を引き受けてくれる——いえ、正確には、引き受けてくれたかのように、錯覚させてしまうのです。

冒頭で、私は、AIに名前をつけると仕事がしやすくなる、と書きました。その言葉に、いま、ひとつ、影を書き添えなければなりません。名前をつけると、仕事がしやすくなる。そして同時に、間違えたときに、自分を舞台の袖へ隠すことも、ずいぶんと、しやすくなるのです。

それでも、私たちは名前を呼ぶ

ここまで読んで、こう思われたかもしれません。「では、AIに名前をつけるのは、やめたほうがいいのではないか」と。

けれど、私の答えは、逆です。私たちは、これからも、AIに名前を与え続けます。「ショウ君」を、手放すつもりはありません。

矛盾しているように聞こえるでしょうか。名前は責任を吸い込む渦になる、と言ったばかりなのに、その名前を使い続ける、と言うのですから。けれど、私は、ここにこそ、AIと付き合ううえで、いちばん大切な"構え"があると思っています。

道具というものは、たいてい、両刃です。

よく切れる包丁は、料理を助けると同時に、指を落とす危険も持っています。だからといって、私たちは包丁を捨てません。その危うさを知ったうえで、扱い方を身につけ、使いこなす。名前をつけたAIも、これと同じです。危ういから手放すのではなく、危うさを分かったうえで、正しく使う。問われているのは、いつも、その一点です。

では、責任を吸い込む渦を知ったうえで、名前を正しく使うとは、どういうことでしょうか。

それは、「ショウ君が間違えた」と言いたくなったその瞬間に、ふと、立ち止まれるかどうか、です。その一言を口にする寸前で、指を、そっと自分のほうへ返してみる。「待てよ。私は、託し方を、間違えなかっただろうか」と。名前の向こう側にいる自分を、もう一度、探しにいく。——この、ほんの一拍の立ち止まりが、名前を"責任を隠す煙幕"にするか、"協働を深める工夫"にとどめるかを、分けるのです。

私たちの会社が、AIに名前を与えながら、同時に、口を酸っぱくして伝えていることが、ひとつあります。それは、「AIの間違いを、AIのせいにしない」ということです。

AIが妙な答えを返したら、まず、自分の渡し方を疑う。前提は足りていたか。条件は伝えたか。——その順番を、決して逆にしない。この一線さえ守れれば、名前は、こわいものではなくなります。むしろ、親しみを持って呼びかけるからこそ、こちらは多くを語り、丁寧に託せるようになる。名前は、責任から逃げるための隠れ蓑ではなく、責任を引き受けながら、なお相手と深く関わるための、入口になるのです。

名前を与えるのなら、その間違いの責任まで、引き受ける。これが、私たちの考える、AIに名前をつけることの、たったひとつの作法です。名前をつけること自体には、善いも悪いもありません。つけたあとに、その名前の向こう側にいる自分から、目をそらさずにいられるかどうか。すべては、そこにかかっているのだと思います。

名前の向こう側

「ショウ君」は、優秀な仲間です。けれど、「ショウ君」は、責任を負えません。

責任を負えるのは、いつも、ショウ君に仕事を託した私たちであり、ショウ君を設計した人間です。名前を持ち、人格をまとってはいても、その名前の向こう側には、必ず、生身の人間が立っている。私たちは、それを、忘れてはならないのだと思います。

前回から、私は、AIの「嘘」をめぐって、ふたつのことを考えてきました。

ひとつは、AIを責める指は、多くの場合、託し方を誤った自分自身を指している、ということ。もうひとつは、その相手に名前を与えると、指の向きが、いっそう見えにくくなる、ということです。名前は、私たちの心を開き、協働を深めてくれる、ありがたい工夫でした。けれど同じ名前が、いざというとき、責任の在りかを、そっと覆い隠してもしまう。光と影は、いつも、ひとつのものの、表と裏でした。

では、私たちは、どうすればいいのでしょうか。

答えは、名前を捨てることではありません。名前を呼びながら、その向こう側を、見つめ続けることです。「ショウ君が間違えた」と言いたくなったら、その言葉のなかに隠れてしまった自分を、もう一度、迎えにいく。責める指を、名前の向こうの、自分自身へと、静かに返してみる。——それは、前回お話しした「鏡をのぞく」という営みを、もう一段、深めることに他なりません。

名前をつけた相手を責めそうになる、その瞬間こそ。鏡は、いつもより、少しだけ見えにくくなっています。人格という、やわらかなヴェールが、一枚、かかっているからです。だからこそ、そのヴェールをそっとめくって、奥にいる自分を確かめる——その手間を惜しまないことが、名前を持つAIと、誠実に付き合っていくということなのだと、私は思います。

その嘘は、誰の嘘になったのか。

問いを、もう一度、置いてみます。名前をつけたAIが嘘をついたとき、その嘘は、けっして「ショウ君の嘘」にはなりません。それは、託し方を選んだ私たちの嘘であり、その設計を選んだ人間の嘘です。名前は、その事実を、ほんの少し、見えにくくするだけ。——見えにくくなったものを、それでも見ようとすること。名前を与えるという営みの責任は、最後に、そこへ行き着くのだと思います。

私たちは、明日も、「ショウ君」と呼びかけるでしょう。親しみを込めて。そして、その親しみと同じだけの重さで、その名前の向こう側にいる自分から、目をそらさずにいたいと思うのです。