ある日メールボックスにこんなメールが。
ChatGPTで「自分の練習問題を作ろう」とかなんとかのお誘いに「また何だ？」と「作って見る」をクリックすると、こんな注意が出てきました。
最近、ChatGPTが文章などを生成する際の「嘘）（もちろんAIが故意に嘘をつけるわけはないですが、適当ないい加減さが最近の話題になっていることからの言い訳に出たようです。）
＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿
ChatGPTの「嘘」を見つけるには、AIの特性を理解することが大切です。ChatGPTは意図的に嘘をついているわけではなく、もっともらしい文章を生成した結果として、間違った情報（いわゆる「ハルシネーション」）を出すことがあります。
＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿
そうか！
ChatGPTはschizophrenia （統合失調症）だったのか！
Schizophreniaの症状はHallucinationsに代表されます。（下記オレンジハイライト）
＊妄想、ハルシネーション（存在しないものが見えたり聞こえたりする）、言っていることに統合性がない、などなど。
アメリカ心理学アソシエーションの定義を読むと、ChatGPTは明らかに普通ではないと思えます。
Schizophrenia:A psychotic disorder characterized by disturbances in thinking (cognition), emotional responsiveness, and behavior, with an age of onset typically between the late teens and mid-30s.
The characteristic disturbances must last for at least 6 months and include at least 1 month of active-phase symptoms comprising two or more of the following: delusions, hallucinations, disorganized speech, grossly disorganized or catatonic behavior, or negative symptoms (e.g., lack of emotional responsiveness, extreme apathy).
（これはAmerican Pshycology Associationの定義です。）
＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿
ChatGPT自身、こんな警告を発しています。
ChatGPTのハルシネーションを見分ける方法としては、次のようなものがあります、と。
１．重要な情報は必ず別の情報源で確認する
ニュース、法律、医療、投資などは、公式サイトや信頼できる情報源で確認しましょう。
２．具体的な出典を聞く
「その情報の出典は何ですか？」と尋ねると、出典を示せる場合があります。ただし、存在しない出典を誤って挙げることもあるので、実際に確認することが重要です。
３．数字や固有名詞を疑う
統計データ、日付、人名、書籍名などは、特に間違いが入りやすい部分です。
４．複数回質問してみる
同じ質問を少し違う言い方で何度か聞くと、回答が大きく変わる場合があります。その場合は、情報の信頼性に注意が必要です。
５．「わからない」と答えているかを見る
信頼できるAIは、不確かな情報について「わかりません」「確認が必要です」と答えることがあります。断定的な口調だからといって、正しいとは限りません。
６．常識から外れていないか考える
驚くような主張や極端な内容は、特に慎重に検証しましょう。
＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿
特にこの最後の一言は、ChatGPTを使わないことを勧めているようにも読めてしまいますね。
ChatGPTは文章作成やアイデア出しには非常に便利ですが、「最終的な事実確認を行うのは人間」という前提で使うのが最も安全な使い方です。
更に興味深いことには、上の１〜６はクリティカルシンキング思考法の基本的考えと合致します。
AI自身が使用する人間に「あのね、クリティカルシンキング使わずに私を使ったらダメですよ。」と警告しているわけです。
面白いですね。
AIは故意に「嘘」をついて人間を騙そうとしているわけではないけど、結果的に相当いい加減なことを書いてしまいます。もともと人間が開発したChatGPTなどが単にProbability（確率）をもとにした数学的理論でAIを作ったからです。
そのAIが警告を始めました。「私は嘘つきですから気をつけて下さい。」
人間にも「嘘つき」がいます。
全く罪悪感も何もない「嘘つき」が。
そんな人間よりも思わずかわいく感じてしまいました、AIを。
Schizophrenic AI
クリティカルシンキングがこの上なく大切な時代となりました。
「中学生、高校生のみなさん、学びたいですか、クリティカルシンキング？」
カナダクラブにいらっしゃい！