AIの文章は洗練されているが魂を感じさせない

AIの得意分野は、たとえば、閲覧スピード
ロボットによる手術
AIは言葉の意味を理解していない
検索の結果、立てた予想は
AIと「記号接地問題」
探究も「接地」が大切
10歳からわかる「まとめ」

AIの得意分野は、たとえば、閲覧スピード

ChatGPT(Generative Pre-trained Transformer)をはじめとする生成AIの登場インパクトは強烈でした。しかも、名称が、創生ではないものの生成ですから、あたかも「創造主」でも舞い降りたかのような錯覚を抱いてしまいそうです。AIは従来、Artificial Intelligence(人工知能)のことですが、IBMはAugmented Intelligence(拡張知能)として研究開発を進めてきました。人間の能力を補強する役割として見ていた訳です。開発チームのメンバーが珍しい病気にかかってしまった際に、その補強・補完の能力を遺憾無く発揮したという逸話を講演で直接聞いたことがあります。どこかの論文にその珍しい病気のことが書かれていないかを彼らのAIに探させました。論文の言語をAIは気にしません。該当する論文を探すため、世界中のあらゆる医学論文を片っ端から読み込ませ、見事にそれを見つけることができたそうです。人間がその目で読むとなると膨大な時間が必要です。病気の進行速度に先を越されてしまったかもしれないところを、ページ単位で一瞬にしてスキャンできるAIのスピードのおかげで治療を間に合わせることができたそうです。人間の能力を拡張する例としてわかりやすくイメージでき、こういう形であれば人間とAIの共存の未来は明るいと感じました。探し方の詳細は聞いていませんが、おそらく該当する症状の一つひとつを漏れなく発症させる病気についての論文を探させたのでしょう。同じ症状を起こす病気について書かれた論文をAIに全てリストアップさせることは難しくありません。その絞り込まれた論文を専門の医師が精査し最終的に確認したのであれば、間違いもなさそうです。

ロボットによる手術

話が逸れてしまいますが、治療法や手術対象部位が見つかった後、プログラムされた機械の手を借りて繊細な手術を行えるなら、まだ経験が足りない医師も自信を持って手術に挑めるでしょう。これも一つの「拡張」の姿と言えます。

AIは言葉の意味を理解していない

ChatGPTに問いかけて、得られた答えがトンチンカンという経験をしたことがある人は多いはずです。私も、自分について教えてもらおうと「光成章さん、ってどんな人？」と聞いてみたところ、「光成章(みつなりあきら)さんは日本の経済学者であり、一橋大学名誉教授です」云々という答えが返ってきました。一瞬そのような方が実際にいらっしゃるのかと思いましたが、検索してみても見つけることができません。1942年生まれとも書かれており、まだ存命であったとしても何ら不思議はありません。検索で見つからないのは架空の人物だからでしょう。では、何故このような架空の話を生成してしまうのでしょうか。それは、意味を理解せずに言葉や文章を抽出し、それを繋げて回答を作成しているからでしょう。記号を記号のままテキトーに結合していそうです。インターネット上に、ゼロではないもののほとんど情報が載っていないレベルの私のような対象の場合、ChatGPTが説明に使う「知識」の蓄えが少な過ぎるため、このようなことが起こると思われます。

それにしても気になったので、検索でわかる範囲でAIが元にした「エビデンス」が何であったのかを解明してみようと思い立ちました。

検索の結果、立てた予想は

一橋大学と「光成」の関係は、ある博士課程論文に見つかりました。一橋大学大学院社会学研究科・社会学部のサイトの、研究・教育・社会活動、その「博士論文一覧」に「中国東北部における朝鮮人教育の研究 1906〜1920 − 間島における朝鮮人中等教育と日中の政策を中心に −」の論文審査要旨が掲載されています。光成は、1910年代に存在した朝鮮人私立中学校の一つでした。日本の朝鮮支配下において展開された、朝鮮の人々による学校です。光復節(クァンボッチョル)と金日成(キムイルソン)から連想すると、読みはおそらくクァンソンだと思われます。

これだけが根拠なのかどうかは断定できませんが、もしそうだとすると、AIは、光成が人の名前なのかモノ(学校)の名前なのかの区別がついていなかったことになります。

ついでに、学校名ということでは北海道函館市にも光成中学校が、戦後からつい最近まで存在したことがわかりました。こちらは「こうせい」と読むようです。2018年3月末をもって他校との統廃合で閉校となり、統合された新しい学校が函館市立五稜郭中学校です。

漢字には読み方が複数あるという意味では、ChatGPTが私の名前を姓と名で正しく区切り、読み仮名を正しくつけたところには感心しました。Google検索で試すと、後半には、甲子園出場でも有名な「京都成章高等学校」関連の記事が必ず並びますから、それに比べるとかなりの上出来です。

AIと「記号接地問題」

認知科学者のスティーブンハルナッドは、記号(symbol)体系である言語が意味を保つためには、基本的な一群の言葉の意味はどこかで感覚と接地(grounding)していなければならないとし、機械が辞書の定義だけで言葉の意味を「理解」しようとするのは、一度も地面に接地することなく記号から記号への漂流を続けるメリーゴーランドに乗っているようなものだと述べています。言語が意味を保つには「身体性」、すなわち身体感覚として言葉の意味を理解する「体験」を伴うことが必要というわけです。

ChatGPTのようなニューラル型AIは、深層学習(Deep Learning)のアルゴリズムを活用しています。そこに大量の知識が組み合わさると、記号接地をせずに学習することができるそうです。もちろん、その知識が誤りのない良質なものでなければ、正しい学習は期待できません。漂流を続けながら驚異的なスピードで知識を拡大し続けるのがAIですが、そのAIに、無意識のうちにも知識・データを提供しているのは人間です。フェイクニュースを意識して流しているようだと、また、それを許してしまっているようだと、AIを活用しようとする人類が、いつかとんでもないしっぺ返しを受けることになるかもしれません。

探究も「接地」が大切

「意味をしっかりと理解して言葉を使用しているか」は、何もAIにだけ投げかけられる疑問ではありません。私たち人間にもそのまま当てはまります。最適な単語や言い回しをその都度選んでいるかを常に自問しつつ精進し、いつか言葉を自由に操れるようになりたいものです。

探究においては、「自己探究」との関連の意味でも、身体感覚で理解できていない言葉を紡いだところで有意義な学習・活動とは呼べません。まずは、体感・体験を大切にしたいところです。加えて、社会課題に対して自身が考える解決案については、それが確固たるエビデンスに「立脚」したものであるかということにも留意が必要です。