生成AIの回答はエビデンスにならない

あくまでブレスト相手
探究アドバイザーに求められる態度
ChatGPTはヒントをくれる
ボタンについて
信用できないのは
ChatGPTとともに成長する
10歳からわかる「まとめ」
ドキドキを楽しむ

あくまでブレスト相手

前回、「ChatGPTと安全・有意義に壁打ちをする」ということで書きました。

ブレーンストーミングをイメージして「壁打ち」と書いたのですが、そのブレスト相手としてChatGPTは有能だと私は感じています。

ブレーンストーミングという会議手法はアレックス F オズボーンによって1950年代に開発されたと言われています。オズボーンは「オズボーンのチェックリスト」でも有名で、アイデアを生み出す様々な手法を開発した人です。共同創業者の名前の頭文字から名付けた広告代理店BDO(後のBBDO)のOに当たる人で、彼の開発した手法は広告業界をはじめとした様々な企業でよく使われてきました。

【参照】　FUJIFILM Future CLIP

ブレストのルールとしてよく知られたものには、1. 他人のアイデアに対して批判・否定をしない、2. (非現実的とも思える)突飛な・変わったアイデアを歓迎する、3. 質より量を重視する、4. 出てきたアイデアに乗っかって発展させる、等があります。実現性は横に置いて、また正否の詳しい判定なども後にして、まずはどんどん意見を出そうという姿勢がブレストでは大切にされます。これらの求められる要件と、ChatGPTの特性がとてもよくマッチするのではないかというのが、私の抱いている感触です。

探究アドバイザーに求められる態度

探究のそれぞれのプロセスにおいて生徒から相談を受ける際も、受け手となる大人が持つべき態度は、先のブレストのルールに準じたものであるべきでしょう。まず、「生徒のアイデアに対して、頭から批判・否定をしない」ことです。加えて、ChatGPTと人間のアドバイザーの違いは、人間は「なるほど。それで？」と、生徒から続きの言葉を引き出すことができます。生徒には、「自分の話に乗っかって、それを発展させる」ように続きを述べてもらう中で「このままではおかしなことになる」「これはうまく続けられない」などのことに自分で気付いてもらえばよいのです。

実は、ChatGPTも、プロンプトで指示をすれば、問い掛け型の回答をするようになります。人間は、気付きを補助する力を更に磨かなくてはなりません。

ChatGPTはヒントをくれる

壁打ちの途中で「他にどんなことに注意すべきかなぁ？」などと問いかけるとChatGPTはそれに答えをくれます。大切なポイントをリマインドされ、それがヒントになることもあります。回答に満足できない時は、「Refresh = 再生成」ボタンを押すと別の回答を用意してくれます。そのリフレッシュボタンの利用もよいのですが、何人かでブレストする際には、似たような質問を複数人がそれぞれのパソコンやスマホから同時にChatGPTにしてみるのも面白そうです。おそらく返答が異なるので、それを見ながら「私にはこう答えてきたよ」「こっちにはこんな反応が来た」などと読み上げつつ進めるのも楽しそうです。

検索の場合、多少異なる言葉の組み合わせで検索をかけても、結果には同じものが表示されることがあります。それを特段、不思議に感じることもありません。しかし、生成AIはその逆で、全く同じ指示文で書いても応えが変わってきます。前回も書いたように、回答文は、次にどんな言葉が続く場合が多いかの「統計と確率に依存」しているからです。

ボタンについて

先ほどRefreshについて触れましたので、ChatGPT4で使える他のボタンについても補足します。回答に対して、Upvote、Downvoteの評価をつけることができます。アップボートは、いわゆる「いいね」で、ダウンボートがその反対です。これらの評価はChatGPTのサービス向上につながるよう利用されるそうです。また、もう一つ、Clipボタンもあります。このボタンの機能はブックマークです。特に役立つ情報や気に入った回答があった場合、その内容をブックマークしておくと、後で簡単にその部分に戻って見ることができる機能です。

信用できないのは

応えが毎回多少違ってくるのは「個性」の範囲に思えて楽しいこともあります。しかし、今回のタイトルにある「エビデンス探しを手伝ってもらおう」というような場合は、信じ切ってはいけないことを思い出させてくれます。

例えば、「こんなことについて書いてあるような論文を探して欲しい」とお願いしてみると、論文のタイトルを流れるように打ち出して示してきます。さも実在するようなタイトルです。しかし、最後に「ただし、これらの論文の具体的な詳細やアクセス方法については、学術データベースや図書館のリソースを活用する必要があります」と伝えてきます。

そこで、調べやすいように、「書かれた年や著者名を教えて」というと「先ほど挙げた論文タイトルは、研究の一般的なトピックやテーマの例示でした」と「言い訳」をしてくるのです。もちろん、実際に論文検索でそれらの論文は見つかりません。少なくとも私は、これまで経験していません。

ChatGPTのアドバイスの通り、改めて別の専用ソースを活用してキーワード検索から探すのが良さそうです。この点では、Google Scholarを有する「Google先生」の方が勝っています。言い換えれば、TeachingのGoogleに対する、CoachingのChatGPTのような感じでしょうか。

ChatGPTとともに成長する

「ChatGPTを使うのは自分に専門知識がある分野に限る。そうでないと騙されてしまう」との言葉をよく耳にします。おっしゃる趣旨はよくわかります。その分野の初心者は、それを前提として、自分がCritical Thinkerになるための訓練の相手だと捉えて、ChatGPTを活用していきましょう。

また、ChatGPTとのやりとりを繰り返す中では、どのような問いかけをすれば、こちらが意図した文脈の回答を返してくれるかということがわかってきます。下手な聞き方をするとトンチンカンな答えが返ってくることを反対にうまく活用すれば、まず、誤解を与えない言葉の使い方や指示の仕方がわかってきます。それを発展させれば「問いを立てる力」を鍛えることにもつながりそうです。

利用の際は気を抜かず、訓練の相手として、ChatGPTと付き合っていきましょう。

10歳からわかる「まとめ」

・ChatGPTはブレスト相手になる

・ChatGPTにエビデンスを探させてはいけない。探させるとそれを示してはくるが、大抵は「作り話」

・ChatGPTとは、思考や文章作成の訓練の相手だと捉えて付き合おう

以下、余談です。

ドキドキを楽しむ

期待で心がわくわくするのは、起こるのが何か良いこととわかっている場合です。一方、ドキドキは、良いことも悪いこともどちらも起こり得る場合に、どちらかがまだはっきりしない段階で抱く感情です。ChatGPTとのやりとりにおいては、このドキドキやスリルを楽しみ、応えが正しいのか正しくないのかを自分で見つけようとする気持ちを持って付き合うことが求められていそうです。

第38回「脳内検索®︎の補助資料作り」を読む