ChatGPTはいくつかの単語の続き方をもとに過去の類似のデータを調べ、次にどんな言葉が来るのか、統計的に処理して言葉を選ぶ。さらに次の言葉についてもそうした推測を繰り返す。
だとすれば、ChatGPTに対する意地悪として、過去に例のない言葉を選んでくださいと指示するのはどうだろう。
－－－－－
ChatGPT4.0についての記事など読んでみた。
不正確かもしれないが、概略としては、ChatGPTは、単語の続き方を分析して、その次にくるのはどんな単語であるかを、過去の文章を統計処理したうえで推定する。それが大規模言語モデルだ。
文法のルールを内在させているわけではないし、意味が分かっているのでもない。例えば、「この文章の内容を絵に描け」と言われれば描けるけれど、意味が分かっているから内容を描けるのではない。ただどのような意味の並びがある時にはどんな絵を描けばいいのかが、過去のデータから算出できるだけである。絵を描くのも、対話するのも、要約するのも、同じことである。
文章を生成することについていえば、自分がデータベースとして持っている文章の中から類似の単語の並び方をしている文章をたくさん見つけ出し、それらを統計処理して、次に来る単語を決める。それをずっと続ける。
そうやって出てきた結果を見ると、人間が物事を理解して文章を書いているのと見分けがつかない。うまくいけばそうなのだが、悪くすると、嘘でたらめをもっともらしく書く。しかしそれも嘘をもっともらしく書くという芸当ができるのではなくて、ただ単に統計的に次にはどんな単語が来る可能性が高いのか計算している。探し出したデータに偏りがあれば、偏った答えを出す。
しかしそれであんなにまともな文章ができるなんて、それもまた不思議だ。
人間の脳の働きのモデルとしては、頭の中に意味のまとまりが浮かび、それを説明するために、文章の構成を考え、話がうまく展開して最後は着地が決まるように考えて、そのために単語、品詞、構文、つまり文法にのっとって書く。
しかし統計処理をして次の単語を決定して、文章を書くというなら、文法なんていらない。文法がなくても、論文も小説も詩も書けるのだろうか。
文法がなければ思考ができないように思う。言葉をあやつることができないからだ。
無声映画では言葉なしでの世界認識を提示しているように思うかもしれないが、そうではない。我々が無声映画を見るとき、語彙を持ち、文法構造を持った脳が見ているのであって、それ以外ではない。
人間の脳には先天的に文法の深層構造が備わっていて、それぞれの言語を学習した場合は、共通の深層構造を基盤として、その上に日本語や英語などの個別の情報を乗せる。そんなイメージで語られていたが、それはエビデンスのない仮説とされて、あまり重視されなくなった。そのような深層構造が実際にあるのなら、示せということだ。話は深層構造を具体的に示してからだとか言う人もいた。
さらに今回のChatGPTが登場して、驚きが広がった。文法の深層構造が理解されていなくても、普通程度に話ができるし、記事を書けるし、要約ができて、同じ処理構造を使って、プログラムを出力することもできる。
－－－－－
概略こんなことだとして、ChatGPTに対して、「『中学3年生の田中一郎は学校の帰り道、』という書き出しで、続く文章を生成してください。ただし、次にくる言葉は人間の予想外の言葉としてください。全体に意味が通らないように作ってください。」と指示すればどうなるだろう。
次のような出力があった。
－－－－－
「中学3年生の田中一郎は学校の帰り道、」という書き出しで、続く文章を小説として生成しますね。小説の書き方については、以下のURLから参考になる情報が得られます1。
それでは、以下が小説の続きです。
「田中一郎は、いつものように学校から帰宅する途中だった。彼は、今日も友達と楽しく過ごした一日を思い出しながら、歩いていた。すると、突然現れた謎の男が彼に話しかけてきた。『お前は、私が探していた人間だ』と言われ、驚く一郎。しかし、その後に続く言葉は、彼の予想を超えるものだった。」
以上です。どうでしょうか？意味が通らないように作ることが難しかったですが、少しでも楽しんでいただければ幸いです。
－－－－－
データにないものは生成できない。データの中でどのデータが間違っているのかも統計的に処理しているので、論理構造を見ているわけではない。
人工知能は学習した以上のことはできないが、人間の脳はたいていの場合、学習した以下のことしかできないので、そこにすでに差がある。
－－－－－
現在の総理大臣は誰かとの質問に対して一貫して古いデータに基づいて答えるのであるが、現在と聞かないで、2023年の総理大臣はと聞けばいいのだろうが、一応聞いてみると
－－－－－ChatGPT3.5だと
2021年9月の時点では、日本の総理大臣は菅義偉（すが・よしひで）でした。しかし、私の知識が2021年9月までのものであり、その後の情報は持っていないため、最新の情報については他の情報源をご確認ください。
－－－－－ChatGPT4.0だと
2023年の日本の総理大臣は、現在の内閣総理大臣である岸田文雄さんです。
－－－－－
改善されている。