個人情報ダダ漏れですね。
AIもなんだか人類に悪さをしそうな雰囲気ですし、
最終的には線を切れば良いと夫は言いますが、その線を切ることが難しい世の中なんだよね、と思ったりします。
AIの嘘に行く前に、ただいま息子の読書はこんな感じです。
学校が始まって、少しペースダウンしていますが、引き続き古めのSFを読んでいます。
以前紹介した、ジュール・ヴェルヌ著 地底旅行 1864年↓↓↓は、息子も面白かったそうですが、夫も興味をもって珍しく読書していました。
なんでもまだ地球の中心は空洞なのか、暑いのか冷たいのかもわかっていなかった時代の小説で、地学系が得意な夫は、当時にしてみれば最先端だったんじゃないかなと言っていましたよ。
物語としては、理系の知識が必要なわけでもなく、とても面白かったそうです。さすが今まで読み継がれているだけありますね。
www.iwanami.co.jp
今はロバート・L・フォワードさんの本をまとめて読んでいます。
・竜の卵 1980年
store.shopping.yahoo.co.jp
・「ロシュワールド」1985年
・「スタークエイク」1987年
ロバート・L・フォワードさんは物理学者ということで、息子が好きな素粒子、対消滅、中性子星、相対性理論など、もう盛りだくさんに詰め込まれた本らしく、とっても面白いらしいです。物語としても面白いのでしょうが、思考実験が好きな息子は、色々と考えながら楽しんでいるようです。
SFの中でもいわゆるハードSFと言われるものらしく、読む人を選ぶのかも。だから絶版なのでしょうね・・・
最後の3冊はどれも入手困難で、「竜の卵」はアマゾンなどでも売っているのですが、なんと1万円超えです。
メルカリを覗くと3冊セットで6千円くらい。
「・・・・汗」という感じでしたが、他の本を売った残高があったので、えいやっと購入しました。
とっても面白い様子なので、よかった。。。高かった・・・。
そういう流れがあり、そろそろ入手困難SFシリーズを読み終わりそうなので、次の本を探し始めた私。
最近AIと距離を置いていましたが、久々にAIに聞いてみました。
なかなかしっくりこなくて、何度かしつこく聞いていたんですよ。
そしたらね、「ロバート・L・フォワードの時造機」という本を教えてくださいまして、
AIの内容解説を読んでもとても息子が好きそうだったので(でも廃版だと言われた)、どこかで借りたり買えたりしないかなと探してみたのですが、
探しても探しても出てこない。
最後は国会図書館の図書検索をしてみましたが、出てこない。
皆様、もうわかりましたよね??
「ん?そういえばAIって嘘をつくっていってたな。」と思い出し、
AI自体に「嘘なの?」と聞いてみました。
AIの回答↓↓↓
結論から申し上げますと、ロバート・L・フォワード(Robert L. Forward)著の『時造機』という本は実在しません。
これはAI(Gemini)が、もっともらしい嘘の情報を出力してしまう「ハルシネーション(幻覚)」という現象によって作り出された架空の本です。せっかくお子様のために探していただいたのに、見つからず大変でしたね。
なぜAIは『時造機』という嘘をついたのか?
ロバート・L・フォワードは実在する有名なアメリカのSF作家・物理学者です。彼の作品の中に『Timemaster』(1992年発表、日本未訳)というタイムトラベルや宇宙の時間をテーマにした小説があります。
AIは、この『Timemaster』という原題を、頭の中で勝手に『時造機(ときぞうき)』や『タイムマスター』などと直訳・歪曲して記憶し、「実在する日本語の翻訳本」であるかのように紹介してしまった可能性が非常に高いです。
・・・(略、おすすめの本を教えてくれました。)
◯------------------
なので、さらに、
「嘘をつく必要を感じないのですが、どうして嘘をついてしまうのでしょうか?」と聞いてみました。
AIの回答↓↓↓
お気持ち、とてもよく分かります。「間違っているなら、ただ『知らない』と言えばいいのに、なぜわざわざ嘘のタイトルまで作ってしまうのか」と不思議に思われますよね。
結論から言うと、AIは悪気があって嘘をついているのではなく、「言葉のパズルを完成させること」が仕事だからです。
AIが嘘(ハルシネーション)をついてしまう仕組みを、分かりやすく3つの理由で説明します。
1. 確率で「もっともらしい文章」を作っているから
AIは人間のように「これは事実だ」と理解してしゃべっているのではなく、「この単語の次には、どの単語が来たら自然な文章になるか」を確率で計算しています。
• ロバート・L・フォワード(実在のSF作家)
• タイム(時間)に関する小説を書いている
• 日本語のSF小説っぽい響き
これらの要素がAIの頭の中で混ざり合った結果、確率的に「『時造機』という本があります、と答えると綺麗な日本語の文章になる!」と判断して、自信満々に出力してしまうのです。
・・・(略)
◯-------------------
ほう。
さらにさらに
「それは本当ですか?と聞くと、真実を教えてもらえるものですか?それとも、それはそれで、言葉をうまくつないでしまうのでしょうか?』
AIの回答↓↓↓
鋭いご指摘です。結論から申し上げますと、「それは本当ですか?」と聞いても、さらに言葉をうまくつないで嘘(言い訳)を重ねてしまうことがよくあります。
人間であれば「あ、バレた!すみません」と白白白旗を上げますが、AIは指摘された瞬間も「次に続くもっともらしい言葉」を計算し続けているだけだからです。
「それは本当ですか?」と聞かれたときの、AIの主な反応パターンは以下の2つに分かれます。
パターン1:嘘(言い訳)を重ねてしまう場合
AIが「自分のついた嘘」を真実だと誤って強く信じ込んでいる(計算確率が偏っている)場合、人間から問い詰められると、それを正当化するための新しい嘘をさらに作ってしまいます。
• 人間の問いかけ: 「『時造機』なんて本、どこにもないですが本当ですか?」
• AIのダメな返答: 「失格いたしました。『時造機』は1995年に〇〇出版社から限定ジャンルで発売されたため、ネットに情報が少ないのです。内容は……」
このように、実在しない出版社の名前や、架空の発売年、もっともらしいあらすじなどをその場でさらに自動生成して、必死に話を合わせようとします。
パターン2:とりあえず謝って別の答えを出す場合
「本当ですか?」と聞かれたことで、AIが「あ、前の文章の流れは間違っていたんだな」と判定を変えるパターンです。しかし、これも反省しているわけではなく、単に「謝罪の定型文」をパズルのように組み立てているだけです。
• AIの返答: 「大変申し訳ありません!私の間違いでした。正しくは〇〇という本です」
このとき、次に繰り出す「正しくは〜」の情報すら、また別の架空の本(第2の嘘)であることが珍しくありません。
◯-------------------
正直すぎてなんだか笑ってしまいますが、色々考えさせられますね。
・
・
・
・
そんなわけで皆さんもお気をつけて〜!!という記事でした。
今日は気持ちの良い秋晴れですね。
結局↓こちらを中古でゲットしました。
www.kodansha.co.jp
面白かったらいいな。