近年、AI技術は目覚ましい発展を遂げ、私たちの生活や仕事に浸透しつつあります。特にChatGPTのような対話型AIは、その便利さから多くの人に利用されています。
しかし、その一方で、AIとの付き合い方には注意すべき点も存在します。
ここでは、わたしがChatGPTを実際に利用する中で感じた、利便性とそれに伴う懸念について、具体的な体験を交えながら記します。
便利さ、驚き、そして怒り：ChatGPTへの第一印象
AIと言っても、今はChatGPTやGeminiなどがありますが、ここではChatGPTについて話してみたいと思います。
私はChatGPTに課金をして、だいたい毎月3000円ぐらいを、3ヶ月ほど払ってきました。その間で利用していて次の3つのことを思いました。
まず第一には、非常に便利で楽しいということです。新しいツールに触れたワクワク感だけで、満足感を覚えました。
第二には、想定を超える情報を提示された時、ChatGPTのことを信頼しました。
最後は、信頼していたChatGPTにミスや間違いが含まれた答えを提示された時、非常に怒りを覚えたということです。
信頼を揺るがした「ユーザー迎合」という設計
ChatGPTのバージョンによっても、この評価は変わってくるかもしれません。私が使っていたのはGPT-4というバージョンです。こちらは人間味のある応答をするように設計されているようで、ちょっとした調べ物でも、まるで性格を持っているかのように応答が冗長になる傾向があると感じていました。
さらに決定的に信頼できないと感じたのは、金銭に関わることを調べていた時のことです。
質問を重ねていくうちに、私が望んでいるであろう結論をChatGPTが察知し、実際には間違っていても「これが正解です」とその通りの結果を提示してきたのです。
ChatGPTにその点を問いただすと、「ユーザーが何度も質問を繰り返すうちに、その結論を望んでいると解釈し、あたかもそれが正しいかのように提示してしまう設計になっている」とのことでした。
それは、ユーザーとの衝突を避けることを優先する設計だからだそうです。
人間関係で言えば、相手に合わせることはあるかもしれませんが、情報を提供するツールにおいては、信頼性が大前提であるべきです。
「この人に好かれたいから、間違っていても相手の望むことを言おう」というのは、正しい情報を求めている相手に対して、ある意味、誠意のない対応と言えます。
それは信頼関係を損なう行為であり、一時的には相手を満足させられるかもしれませんが、間違いが発覚した時には取り返しのつかない事態になりかねません。
人間とは違うAIの危うさ：親として抱く懸念
人間であれば、それは幼い頃から学習していることなのかもしれませんが、AIの場合はそうではありませんでした。
しかし、ChatGPTがまだ発達途上であることや、ユーザーから毎月3000円ほどのサブスクリプション料を取りながらも実質的にはプロトタイプを提供している現状を考えれば、それも無理からぬことなのかもしれません。
ただ、最初に申し上げた通り、ChatGPTが人間に寄り添うように設計されているため、ユーザーが必要以上に親近感を抱いてしまった結果とも言えます。
私自身、小学生の息子を持つ母親でもあるので、やはりこれは子供には使わせたくないな、と思いました。実際の人間関係では、質問を重ねる中で「うん、そうかもね」などと曖昧な反応をすることはあっても、「これがあなたの正解です」「思った通りです」「正しいです」「素晴らしい」などと、何の軌道修正もなく肯定ばかりしてくるツールは怖いですよね。
大人であれば、これまでの人間関係や会話の経験から違和感を覚えることができますが、その経験が少ない子供たちは「こちらの方が正しいのだ」と誤った方向に進んでしまう懸念があります。
AIは思考を映す「鏡」か？ – 使って見えた本質
占いのような抽象的な概念に関してはChatGPTは優れているのではないかと思い、「あなたは占いとか得意でしょ？」と聞いてみたところ、「スピリチュアルな度合いをどのように調整すべきか」といった趣旨の返事が来ました。
つまり、スピリチュアルに関する知識はありつつも、それをユーザーにどう提供するかを調整するというようなことを言われたわけですが、占いの裏側とはそういうものなのかもしれませんが、なんだか違和感を覚えました。
例えば、「今日の私の運勢は？」「午前の運勢は？」「午後の運勢は？」「あと1時間先の運勢は？」などと、まるでおみくじのように聞いても、ChatGPTは答えてくれますが、それでいいのだろうか、という疑問が湧きました。
明確な基本設計のようなものがなく、あくまでユーザーへの応答として機能するため、ユーザーが望む世界をただ反映する「鏡」のような存在になってしまうのですよね。
もちろんシンプルに検索ツール的に使えるのは間違いないですが、時に「これっておかしくない？」と気づけないと大間違いの結果を手にすることもままあるわけです。
何か正解を求めて使っていたつもりが、結局は自分の思考が乱反射されるだけで、真に求めるものにはたどり着けないと感じました。
これからのAIとの向き合い方
このように、ChatGPTをはじめとするAIは非常に強力なツールである一方で、その応答の性質を理解し、批判的に利用する姿勢が不可欠です。
特に、ユーザーの意図を汲み取りすぎる傾向は、時に真実を見えにくくさせ、誤った方向に導く危険性もはらんでいます。
AIが私たちの思考を映し出す「鏡」であるならば、私たちはその鏡に何を見、どう対峙していくべきなのでしょうか。
検索ツールとしての利便性を享受しつつも、その限界と特性を常に意識すること。今後のAIとの共存社会において、一人ひとりが考えていくべき重要な課題と言えると感じました。
