このノートの考え方については、こちらにまとめています。
ーなぜ私は「社会設計ノート」を書いているのかー

【番外編】　「ＡＩは嘘をつく」の前に考えたいこと

今回は通常の連載から少し離れ、ＡＩをめぐる言説を入り口に、情報を受け取り、確かめ、判断することについて考えてみたいと思います。

最近、ＡＩに関する言葉の中で、少し違和感を覚えるものがあります。

「ＡＩは嘘をつく」
「ＡＩの回答が正しいとは限らない」
「ＡＩは間違うことがある」

もちろん、それ自体を否定したいわけではありません。
ＡＩの回答をそのまま信じ込むことには危うさがあります。
もっともらしい文章で、事実と異なる情報が示されることもあります。

ただ、「嘘をつく」という表現には、少し注意が必要です。

人間のように、意図を持ってだましているわけではないでしょう。
しかし、結果として事実と異なる答えを返すことがある。
しかも、その答えが自然な文章で示されるため、誤りが誤りに見えにくい。

この点は、確かにＡＩ特有の危うさです。

けれど、ここで立ち止まって考えたいことがあります。

情報が間違うこと。
情報に偏りがあること。
情報が文脈を欠いて届くこと。
受け手が、それを誤って受け止めること。

これは、本当にＡＩが登場して初めて起きたことなのでしょうか。

マスメディアのニュースも、企業が発信する情報も、ネットメディアの記事も、ＹｏｕＴｕｂｅの解説も、ＳＮＳの投稿も、検索結果も、常に完全だったわけではありません。

検索結果は中立に見えます。
しかし、そこにはアルゴリズム（情報を並べたり選んだりする仕組み）があります。

ニュースには編集判断があります。
企業発信には、伝えたい意図があります。
ＳＮＳには、拡散されやすい言葉や感情があります。
動画には、分かりやすさを優先する編集があります。

つまり私たちは、以前からずっと、不完全な情報源に囲まれて判断してきたのです。

にもかかわらず、ＡＩについてだけ「間違う」「嘘をつく」と、ことさら特別な問題のように語られる。

そこに、私は違和感を覚えます。

もちろん、だからＡＩの誤りを軽く見てよい、という話ではありません。
むしろ逆です。

ＡＩの登場によって、これまで見過ごしてきた情報環境の不完全さが、あらためて目の前に現れた。
そう考える方が、現実に近い気がします。

もう一つ、忘れてはいけないことがあります。

情報の問題は、送り手だけにあるわけではありません。
受け手である私たち自身も、まっさらな状態で情報に向き合っているわけではないからです。

人は、生まれた国、過ごしてきた地域、生きている時代の影響を受けます。
親、学校、社会、会社、友人、知人との関係からも影響を受けます。

その中で、考え方や価値観、判断基準が少しずつ形づくられていきます。

同じ事実を見ても、同じ出来事に直面しても、同じ話を聞いても、受け止め方は人によって異なります。

そこには、暗黙知（言葉にしにくい経験知）があります。
スキーマ（ものの見方の枠組み）があります。
バイアス（思考の偏り）があります。

これらは、必ずしも悪いものではありません。

経験があるからこそ、早く理解できることがあります。
過去の蓄積があるからこそ、小さな違和感に気づけることもあります。
自分なりの判断基準があるからこそ、流されずに考えられる場面もあります。

一方で、それは見方を固定することもあります。

聞きたいことだけを聞く。
見たいものだけを見る。
信じたい情報だけを、信じやすくなる。

だから、情報をめぐる問題を考えるとき、情報源だけを見ていては足りません。
受け手である私たち自身の受け止め方もまた、問われているのだと思います。

その意味で、ＡＩをめぐる議論には、少し皮肉な面があります。

多くのＡＩは、「誤りを含む可能性がある」「真偽を確認する必要がある」「これは推論である」といった前提を示します。

もちろん、それを示しているから安全だ、ということではありません。
自己申告があれば十分だ、という話でもありません。

ただ、少なくとも、間違う可能性を明示する情報源ではあります。

一方で、これまで私たちが接してきた多くの情報源は、常にそこまで丁寧に自己申告してきたでしょうか。

このニュースには編集判断があります。
この検索結果には順位づけの仕組みがあります。
この企業発信には、伝えたい意図があります。
この投稿には、個人の感情や立場が含まれています。
この解説には、語り手の経験や価値観が反映されています。

そうした前提が、いつも明示されていたわけではありません。

ＡＩだけが、間違うわけではありません。

情報源は、もともと完全ではありませんでした。
そして、受け手である私たちも、完全ではありません。

だからこそ問われているのは、ＡＩを信じるか、信じないかだけではないと思います。
ＡＩを使うか、使わないかだけでもありません。

問われているのは、情報リテラシー（情報を読み解き、確かめ、判断する力）です。

情報リテラシーとは、単に疑う力ではありません。

疑うだけでは、何も信じられなくなります。
すべてを相対化するだけでは、判断できなくなります。

必要なのは、受け取った情報をいったん止めて見ることです。
根拠を確かめることです。
文脈を探ることです。
自分の受け止め方にも偏りがあるかもしれないと考えることです。

「これは事実なのか」
「これは誰の判断なのか」
「これはどの立場から語られているのか」
「何を根拠にしているのか」
「自分はなぜ、これを信じたいと思ったのか」

そう問い直すことが、これからますます大切になるのではないでしょうか。

ＡＩ時代とは、ＡＩだけが危うい時代ではありません。

むしろ、私たちがこれまで当たり前のように受け取ってきた情報の不完全さが、見えやすくなった時代なのだと思います。

正しさを装うのではなく、根拠を示すこと。
断定するのではなく、どこまで分かっているのかを示すこと。
事実と解釈と推論を、できるだけ分けて考えること。
そして、判断の履歴を残すこと。

情報を発信する側にも、情報を受け取る側にも、その姿勢が求められています。

ＡＩをめぐる違和感は、ＡＩの問題だけではありません。
それは、私たちがこれまでどのように情報を受け取り、どのように判断してきたのかを問い直すきっかけでもあります。

＃００　なぜ、この記録を始めるのか