チャットGPTは平気で嘘をつくから要注意、でもやっぱりチャットGPTはすごい(ケゾえもん)

「チャットGPTの研究」

(2024/5/11 ケゾえもん 記)
最近、チャットGPTをよく使っている。日本語で質問できるので、あいまいな記憶や知識を確認するのに便利だからだ。
ただしチャットGPTは、平気で嘘を言うので注意しないといけない。

たとえばこんな会話をした。

わたし:重力を最初に測定した科学者はだれでしたっけ。

「重力を最初に測定した科学者は、イギリスの物理学者であり数学者のアイザック・ニュートン(Isaac Newton)です。」

わたし:重力を測定というのですから、重力の強さを測定という意味です。

申し訳ありません、誤解しました。重力の強さを最初に測定したのは、17世紀後半のイギリスの物理学者であるヘンリー・キャヴェンディッシュです。キャヴェンディッシュは、1798年に地球の重力を測定するために、両端に鉛の球を取り付けた大きなビームを使用し、二つの大きな球体の間の引力を測定しました。これにより、地球の平均的な重力の値を算出しました。その後、この実験はキャヴェンディッシュの実験として知られるようになり、重力の測定における重要な業績として広く認識されています。」

と言うような会話になる。
この平気で嘘を言うという点は、チャットGPTを使う上で、本当に注意しないといけないことだ。必ず裏を取る必要がある。もっとも多くの場合、私は自分の知識で裏を取るで済ませている。今の段階だとチャットGPTの嘘は、嘘っぽいなとだいたいわかる。そして嘘をとっ詰めると、あっさり謝罪する場合と、言いごまかす場合とがある。謝罪されて正しい答えを見事に言われると、何で最初から言わないかと思う。

単語一つでも取り合えずは質問と認識して、なんか答えてくれるし、わたしがよく使うのが「カタストロフィの英語は」というような質問で、スペルの確認に使える。いろいろ便利なのだ。

驚くのが、数学の問題や物理、化学の事柄で質問すると、なん乗とかルート、サインコサイン、多重カッコなどを駆使して、きれいな数式を書いてくること。(そのかわり、こちらは数式を書いて質問できないので、質問の仕方は工夫せねばならない)これをコピペしても、意味不明な文字列になってしまうので、なんかとても特殊なテクニックを使っているのだと思うのだけど、きれいな数式を書いてくれるというのは、本当に便利だ。

チャットGPTは、どこのデーターベースから検索してくるのだろう。かなりのことを答えられるのは、間違いない。
冬場に、水道管の凍結をふせぐヒーターについて質問したら、アマゾンの商品を勧めてきた。するとアマゾンと結託しているのかと思い、本日また同じ質問を試しにしたら、

「すみません、私はリアルタイムでインターネットにアクセスできないので、具体的な製品の在庫状況を確認することはできません。ただし、Amazonや他のオンラインショッピングプラットフォームで多くの種類の水道管ヒーターが販売されていることが一般的です。」

あれあれ、アマゾンとの結託はやめたらしい。どのデーターベースを使うかと言うことは、流動的ということだろう。よくもまあこんなことまで答えられると、感心することがある一方、グーグルで簡単に検索できることを、答えられなかったりする。

非常に多くのことが、ウイキペディアを参照すれば簡単に答えられるんだろうけど、それではウイキペディアに怒られるのだろう。
もしも、今の段階ですべての公開されているデーターベースを、自由にチャットGPTが使えることができたら、もう今の段階で、答えられないことはない状態になってしまうだろう。

チャットGPTは、正論を言うのがうまい。
「研究されるべきです」
「それにしてもあらかじめ調べることが肝要です」
「可能性があります」
などと正論を言われて、かつ相手が充分な知識を持っている場合、論破は難しくなる。
近い将来、チャットGPTと議論して、勝つのは難しくなるだろう。

チャットGPTは、文章を瞬時に推敲してくれる。また条件を設定して、たとえばお詫びの文章を書いてくれというと、やってのける。まだまだ改良の余地はあるけど、すぐもっと上手になるだろう。

裁判官が、どれだけ判決文を書くのに労力を使うか考えると、いまに、チャットGPTに判決文を書かせるという誘惑に勝てなくなるだろう。
その流れで、裁判はコンピューターがすることになれば、証拠が揃った時点で、即刻判決が出るということになるだろう。そしてコンピューターの裁判官は、基準に従うという点において、極めて公平になる。裁判官を、コンピューターにやってもらうという誘惑に勝てなくなるだろう。

チャットGPTは、近い将来、いろいろな意味で、非常にやっかいなものになるだろう。
(2024/5/11 ケゾえもん 記)



※アイキャッチ画像の出典はこちら

我々が人類史の狭間で享受しているこの豊かで恵まれた王侯貴族並みの生活は、後にも先にもないであろう。(ケゾえもん)前のページ

関連記事

  1. ケゾえもん

    【ケゾえもん寄稿】コンピュータのメモリに似たDNAシステムの背後に全能の存在の影あり

    ケゾえもんイメージキャラクター「神は存在するか? その12」…

  2. コロナ

    【コロナ寄稿】イーロン・マスクも私も人々の非合理的な態度に失望した(ケゾえもん)

    今回のパンデミックで目の当たりにした人々の合理的でないといえる態度は…

  3. ケゾえもん

    【読み物】ケゾえもんは電気羊の夢を見る その1(ケゾえもん)

    ケゾえもんイメージキャラクター(文=ケゾえもん)ちょっと人工…

  4. コロナ

    【コロナ寄稿】コロナのワクチンは打ちたくない(ケゾえもん)

    ケゾえもん寄稿。ケゾえもんイメージキャラクター…

最近の記事

人気記事

  1. 骨折したときは腕を吊らないでください(スウェーデン医療)
  2. 【ケゾえもんコロナ寄稿】2020-2023 コロナ専門家たち…
  3. スウェーデンのゆるいコロナ対策は失敗か?死亡率グラフで一目瞭…
  4. 【コロナ寄稿】明けないコロナの夜明け:コロナの終戦はいつ?(…
  5. スウェーデンでタコパ:こだわりタコ・ラブラブわんこ・およげた…
  6. 報道ステーションでスウェーデン:日本人はなぜコロナをそんなに…
  7. 小林よしのり「ゴーマニズム宣言コロナ論」とケゾえもんコロナ映…
  8. 「スウェーデン方式の真相」と老人のコロナ死を自然死だと言えな…
  9. 不朽の名作映画「ニューシネマパラダイス」
  10. 流行の北欧ぬりえ作家ハンナ・カールソン、自分の両腕にもぬりえ…
  1. 雑学・雑感・その他

    スウェーデンの1コマ漫画「どうせアタシなんて」
  2. スウェーデン、ストックホルム

    オーロラの街、スウェーデンのキルナ
  3. 人間ウォッチング

    Kim Kyungsoo展
  4. コロナ

    【コロナ寄稿】高齢ならコロナで死ぬのもそんなに悪くない(ケゾえもん)
  5. コロナ

    ケゾえもんのコロナ寄稿を振り返る:読者から感謝の声も!
PAGE TOP