留学中のみなさん、今学年も終わり。
ほっと一息ついて日本への帰国を心待ちにしているでしょうね。
お疲れ様でした。
次々に出される宿題に追われて、ついChatGPTなどにエッセイを手伝ってもらった留学生はかなり多いのではと思います。
昨年から急激に増えたAI使用は、留学生に留まらず、社会全体に大きな不安を煽るようになりました。この不安が芽生えたのも急激。
いかに科学の進歩速度が凄まじいかがわかります。
そして、AIの言うことは正しいと盲信していると、とんでもない深い穴に落ちてしまうことも知っておいて下さい
留学中のみなさん（もちろん日本の生徒のみなさんへも）へのAI使用への大切な忠告です。
まず、Apple Newsからの抜粋です：
【AIを我も我もと使い始めた企業が、腐敗し朽ち果て始めた。】
この間まで「AIを使え〜〜〜」と掛け声も勇ましく、社員にAI使用を促していた企業がでっかい穴に入り込んでズルズルと落ちていっているようです。
その理由は、AIの仕事の質”slopification”（ずさんでいい加減なこと）にあります。
そう、AIの生成するものは仕事の出来ない社員（勉強の出来ない留学生も）と同じように、やることがいい加減で杜撰ということが急激に注目され始めました。企業がAIを採用始めた理由は、もちろん、生産性です。人間のやる仕事より速いし頼りになると信じ込み、自分たちの企業は最先端を行っていると、投資家に見せびらかそうというものでした。
(留学生がAIでエッセイを書くのは、先生たち「この生徒は英語が出来るじゃないか」と認めてもらいよい成績が欲しいというのが理由ですね。似たようなものです。）
ところが、ところが、大きな問題が急にひょっこり首をもたげました。その問題たるや、非常にやっかいなのです。ビジネスにとり非常に重要な洞察力があっという間に消えてしまったのです。
これを”knowledge decay”（知識の腐食）と呼びます。AIに頼りすぎて本来持っていたスキルを忘れ、AIに頼り進化したどころか、時代から遅れた旧式のやり方に戻っていく企業のことです。一旦、AIを使い始めると、危険な負のスパイラルにはまり込み、AIの繰り出す質の低い仕事により、外部への信頼を失うことになります。やがて、企業全体の知識も杜撰でいい加減なものとなり、まるで食べる価値のないスープのようになってしまいました。
これは未来の話ではありません。もうすでに起こってしまっていることです。AIブームの初期でさえ（つい最近ですよね、これも。あ〜〜。）専門家は警告を発していました。
AIを使い始めたが最後、貴重な仕事の時間に最新のテクノロジーを使うのではなく、妄想壁があり信頼できないAIツールが作るたくさんのエラーを探し出すことにもっともっとたくさんの時間を費やすようになりました。企業の中には、「これはたまらん！」とAIのエラーを訂正するためだけの社員を雇い始めたところもあります。そして困ったことに、AIのエラーは非常に危険で、企業全体の信頼を脅かすような内容のものなのです。
このAIの「杜撰でいい加減さ」を止めるために、そして企業全体の知識腐食を止めるために、ビジネスリーダーたちはAIの出す情報を最新の注意を払い確かめ、AIの妄想とエラーを消し去る作業に追われています。これには有能な人手が必要、しかも多数の。AIを掛け声も勇ましく使い始めた企業の社員はほとんどこんな作業に時間を取られているそうです。
留学生のみなさん、よく理解出来ましたか？AIの言うことを信じたらえらいことになることを。AIの書くエッセイを提出したら、今度の新学年からはかなり問題になりそうですよ。
その留学生が頼るLLM（Large langugae model）：高校や大学の宿題の大きな味方と勘違いしていませんでしたか？
そこからChatGPTなどが「〜ついてのエッセイ云々」Promptに答えて、あなたの代わりに宿題をやってくれるbaseであるのがLLMです。膨大な量の言語の中から「これかな？」とAIが適当にProbabilityだけを頼りに（この単語の次にはこれが来るのが確率が高いとか。。｝並べているだけのものです。そして、AIが作る文の中に含まれている内容には嘘が非常に多いです。．
この企業の大失敗の著者たち(the Harvard Business Review)はこう述べています。
LLMを使うAIの仕事は、ほとんど価値がない、いや全く価値がない、と。「LLMからAIは一般的でありきたりの文章を作り、ミスはしょっちゅう。」
今やAIの率いる生産性革命に踊らされ人間の労働などは過去のもの！と、時代の先端を行こうと思った企業は、本来の目的から遠く離れた後始末に追い込まれています。企業が劣化するのを必死で止めるために、AIがばらまいた危険なかけらを拾い集めています。このAI二日酔い（面白い表現ですね）はこの先何年もに渡り企業に付きまとい、悩ますでしょう。
最後に、LLMからのエッセイがとても気になる留学生のみなさん。
Generative AIというコースの中でInstructorがこんな実験をしていました。
AIがどのくらい杜撰なのかを、私自身を使って実験してみますと、ChatGptの画面を出して、自分についての紹介文を書かせました。AI分野ではかなり知名度のあるRecturerです。
AIが打ち出したものを見て、クスリと笑いながら「ここはOK。あれ？こんなことはしたこともない。これは嘘。これは何となく合っているけど詳細が違う。これも違う。。。。」と徹底的に検証しました。
結果、こんな紹介は使えないということで、「この部分だけは何となく合っているので、そこにフォーカスしてもう一度ChatGPTに書かせてみよう。」と。
Promptがかなり具体的になったということです。そこで出てきたものに、「嘘は少なくなった。でもいらないことを書きすぎている。」と20行ほどの段落のほとんどを斜線で消して、結局2文にしてしまいました。
プロセスが面白すぎました。
これですよ、留学生のみなさん。
AIを使いこなすコツは。
この先生が使ったのは、完全にクリティカルシンキングそのものです。
クリティカルシンキングとAIとは切り離すことが出来ないことを知っておいて下さい。
クリティカルシンキング思考法でAIを検証する、これが9月からの新学年への鍵です。
カナダからオンラインで留学生や日本の中・高校生を指導するカナダクラブでは、生徒たちが実際に書いたエッセイを使い、AIのいい加減さを実感してもらったり、上で述べたような実験を色々試してもらう授業が始まります。
もちろん、ひとつひとつのプロセスでクリティカルシンキングも徹底的に訓練しますから。
AIを信じて負のスパイラルに入った企業みたいになりたくないですよね。
じゃ、クリティカルシンキング特訓は必須です。
特に、これからの留学には。
大澤眞知子
Robert McMillan
カナダクラブ