ChatGPTはもっともらしく嘘をつく

前回はChatGPTの強みと、効果的に活用する方法について解説しました。ChatGPTの強みは、ざっくり言うと次の2つです。

• 究極にパーソナライズされた応答を得られる
• 対話によって少しずつ欲しい応答に近づけていける

ChatGPTは、これらの強みをうまく活用することで非常に大きな効果を得られるツールです。

一方で、ChatGPTを活用する際には知っておいたほうが良い弱点も存在します。今回はそんなChatGPTの注意点について解説します。

本連載を1冊にまとめました!
【限定eBook】AI研究家がやさしく解説! ChatGPT活用“はじめの一歩”
＞＞ ダウンロードはこちら

ChatGPTはもっともらしく嘘をつく

ChatGPTを使う上で最も注意しなければならない点であり、現在では広く知られた課題にもなっているのが「嘘をつく」問題です。「幻覚（ハルシネーション）」と呼ぶこともあります。

具体例を紹介しましょう。

ChatGPTに次のようなプロンプトを入力します。

「大西可奈子について教えて」

このプロンプトにChatGPTはどのように応答するでしょうか。次に示すのは、誤字を含め、ChatGPTが出力したままの文章です。

ChatGPTの知識が2021年までだという前置きはあるものの、大西可奈子は声優だという文章を生成してきました。もちろん私は声優ではないですし、また大西可奈子という声優は存在していません。私がWebで検索した結果なので100%存在しないのかというとわからないのですが、少なくともWeb上には情報として存在しないと思います。また、いずれにしても「『ラブライブ!』シリーズ - 東條希役」の声優は大西可奈子ではなく楠田亜衣奈さんです。

つまり、ChatGPTが生成したこの文章は真っ赤な「嘘」なのです。では、なぜChatGPTは存在しない人物について、まるで知っているかのような嘘をついたのでしょうか。

この「嘘つき」問題には、第2回で解説したChatGPTの仕組みが大きく関係しています。