ChatGPTはなぜ嘘つくの？誤った使い方を避けるためのガイド

こんにちは！しょうこです。

本記事ではChatGPTがしれっと嘘をつく件について解説します。

これからChatGPTを本格的に運用していきたい方や触ってみたい方の疑問にお答えします。

本記事では次について解説します。

本記事を読むと、なぜChatGPTが平気で嘘をつくのを知り、より適切に使いこなしていくことができるようになります。

嘘をつくのはなぜ？

せっかくなのでChatGPTに聞いてみました。

次の章で詳しく解説します。

ChatGPTの仕組み

ChatGPTとはLLM(Lange language Models)と呼ばれる大規模言語モデルの一つ。

テキストを生成する際に次の言葉を予測するものです。

例えば

おはようございます！の返し方一つでも私たちは、相手との人柄や関係性の中で適切なものを無意識で選んでいます。

対してChatGPTは、高い確率で続く言葉を選択し続けています。

ChatGPTに役割や状況など情報を多く与えるとより適切な答えが返ってくる理由です。

また、毎回同じ回答ではなく、ある程度のバラツキが生じることもあります。

学んだことが古いことがある

どこまでの期間を学習しているのかChatGPTに聞いてみます（2023年1月9日時点）。

ChatGPTのGPT-3.5は、何年何月までの情報を学習してますか？

ChatGPTのGPT-4は、何年何月までの情報を学習してますか？

有料のGPT-4でも2023年4月までの情報しか学習していません。

学習している期間の先のことを尋ねると「わからない」もしくは誤った回答をしますので注意が必要です。

最新情報をベースにしたいときは、ChatGPTにWeb検索用のプラグインを導入するか、Bing AIやPerplexityなどの別のツールを使用してください。

ChatGPTにプラグインを導入する場合は、有料のGPT-4である必要があります。

また、プラグインはWebブラウジング機能「Browse with Bing」や、リアルタイム検索ができる「VoxScript」プラグインや「KeyMate.AI Search」プラグインなどがおすすめです。

質問を間違えて理解することがある

ChatGPTは与えられた文脈から推測するのであって、文章の背景にある間柄や役割、雰囲気などは理解していません。

理解しているように振る舞っているだけです。

仕事なのか友人なのかなど指定してあげないと思った通りの回答を返してはくれません。

とっても難しい質問には答えられないことがある

そもそもChatGPTの情報源となるデータベースはどこを参照しているのか聞いてみました。

ChatGPTの元となる情報はどこから学習していますか？

ありとあらゆるデータや資料を元に学習しているようです。

言葉がいろいろな意味を持っていることがある

言葉がいろいろな意味を持つ、つまり多義性と呼ばれる特性に関連しています。

多義性とは、同じ言葉が複数の意味を持つことを指します。

例えばバットについて教えてだけだと

ChatGPTは判断がつかず、聞き返すか、思っていたのと違う回答を返してきます。

初心者はやりがち！ChatGPTの誤った使い方　

1章と2章でChatGPTがなぜ嘘をつくのか、仕組みについて解説しました。

注意が必要なのは自分が知らないこと、つまり真偽がすぐに判断できないことを聞いてはいけません。

初めて使用する方はついつい自分の知らないことをChatGPTに尋ねるのですが、誤った使い方です。

ChatGPTが間違った回答を返してきても間違いに気づかないからです。

メール文章や通知文などお決まりの定型分があるものやアイデア出し、要約といった答えを求めるものではないものが正しい使い方です。

ChatGPTに限らず、どの生成AIツールにも言えるのですが、最終的な判断は自分が行います。

著作権に違反していないか、データに誤りはないか、わかりやすいかなど自分が最終決定権を持つ上司のつもりで精査しましょう。

まとめ

本記事ではChatGPTがしれっと嘘をつく件について解説しました。

ChatGPTが嘘をつく理由は下記の通りです。

なぜChatGPTが嘘をつくのかはChatGPTの仕組みについて知ることが大切です。

仕組みを知ることでより適切にChatGPTを使いこなしていくのがおすすめです。

最後までご覧いただきありがとうございました！