電脳うさぎとココロのありか

電脳うさぎとココロのありか 第9話 ココロ

 ←電脳うさぎとココロのありか 第8話 イライザ →電脳うさぎとココロのありか 第10話 負の発想
「そうだな」

宇佐美は一つ深く呼吸し、少し考えるようにゆっくり話し始めた。

「その定義は難しいよね。実際イライザは『チューリングテスト』に合格している。ロボットであることを隠して会話をした試験官に、「この会話の相手は人間である」という判定を出させたんだ。
そこには応答の的確さだけじゃなく、ちょっとした間違いや躊躇いなんかも含まれていて、近年のAIに比べても人間らしさが顕著だったらしい」

「ほら、試験官が人間だって間違えるんなら本物よ」

李々子は稲葉と並んで、宇佐美をぐっと見つめる。

「うん、でもその応答の不完全さや曖昧さも、人間らしさを演出した開発者ジョセフ・ワイゼンバウムの作戦に過ぎないんだ。人間の脳神経回路に遙か及ばない、単純な会話プログラムに心が生まれることはあり得ないから」

「ねえ宇佐美さん、イライザは実は会話から学習して行って、いつの間にかAIになっちゃったとか、ありえません?」

今度は稲葉が身を乗り出した。

「イライザはAIとは言えないね。AIというのは膨大なデータを感知し、組み合わせて学習するアルゴリズムで成り立ってるんだ。多少の会話パターンは学習していくとはいえ、会話ロボットとAIは別物だよ。

そもそもイライザが誕生した1966年当時のAIは、開発が始まったばかりで、会話する能力も無かったしね」

「うーん、宇佐美さんは頭っから会話ロボットは単純なプログラムだから感情が無いって方向に話を持って行ってるけど、じゃあ、現代のAIだったら否定はできないんですよね。そのイライザは諦めますけど、でも人間と同じような知能を持つAIならば、感情が芽生えても不思議ではないんですよね。だって今のAI技術ってすごいじゃないですか」

手をぐっと握りしめて、稲葉は食い下がった。

「どうしてもそこが気になるんだな、稲葉も李々子も」

「だって、諒がはぐらかすんだもん」

「僕らが知りたいのは人工無能限定の話じゃなくて、人間が作ったプログラムに、感情が宿るかどうかなんです。
AIって今、人間を超える勢いじゃないですか。対戦ゲームでも人間を負かしちゃうほど高性能になって来てるし、そうやってどんどん進化するうちに、感情をもつAIが作れちゃったりする日も来るんじゃないですか?
今思ったんですけど、今やスマホの中にも、音声で会話できる秘書アプリが標準装備されてるし、ネット上に、いかにもボットです、みたいな顔をして感情持ったAIが入りこんでても、おかしくはないですよね」

「ほんとだよねシロちゃん。全然おかしくないわよね」

李々子も楽しくなって来たらしく、声を弾ませる。

宇佐美はデスクチェアの背にもたれ、やはり穏やかな口調で続けた。

「稲葉。誤解してると思うんだけど、AIっていうのは一般的に、『人間の知能に極力近づけて、人間の代わりの労働をさせる』という観点から開発されてるものであって、『人間の脳と遜色ない働きをし、意識を持つもの』というわけではないんだ。

前者を『弱いAI』、後者を『強いAI』と呼ぶらしいんだけど、今現在耳にするAIというのは、商品利用価値のある『弱いAI』のことだよ。家電やアンドロイドの中に搭載されているのもこっち。

『強いAI』に関心を持つ開発者がいたとしても、その研究費も降りないだろうし、その研究の必要性を議論する段階にも来ていない。AIに心が宿る事をだれも望んでいないって事だね」

「え、でも、研究されてないだけで……」

「うん、人間の脳に近づけていくうちに、もしかしたら……と思うかもしれないけど、残念ながら、AIを研究すればするほど、人間の脳がどれほど凄い機能を持っているかがわかるんだ。
人間の神経細胞に模したネットワークを組み、学習させ、得た情報を人間の脳と同じように処理させようと開発を重ねられているんだけど、例えば、猫の画像を指して、それが猫であることを認識させることすら、並大抵じゃないんだ」

「まさか。今や顔認証の時代なのに」
李々子が不服そうに口を挟む。

「画像データを照合するのと、そこに何が描かれているのかを認知するのは、全く違う作業なんだ。
AIのプログラムはたった一枚の、しかもドットの集合体である画像と、例えば猫という、あまりにも抽象的な概念を同一視できない。
人間が猫の写真を見て、それがどんな色でどんな種類でも猫だと認識できるのは、今までに見て来た知識と、視覚という人間的感覚があるからに他ならないんだ。

自動翻訳機の精度がなかなか上がらないのも同じでね。プログラムは文字や言葉を記号として認識しているだけで、意味など全く理解していない。膨大な組み合わせのデータの中から、最も近いと思われる訳を導き出すだけだから、あんなに頭がいいはずなのに、ちょくちょく奇妙な文章に翻訳されてしまうだろ?

人間の脳って、そう考えると本当に、恐ろしくなるほど凄いんだよね。『理解する』って言うのは、豊かな感情を持った生き物にしか成せない技なんだと思う。

ディープラーニングという画期的な深層学習が取り入れられ始めて、AI技術はここ数年かなり躍進したけど、それはあくまで『弱いAI』としての躍進なんだ」

「え~、そうなんだ……。AIって賢いから、もういろんな面で遙かに人間を超えちゃったんだと思ってた。なんか、人間のことを褒められてるのに、ちょっと複雑」

李々子の小さな溜め息に、宇佐美はクスリと笑う。

けれど稲葉がついた溜め息は、笑えないほど大きなものだった。

「じゃあ……やっぱりロボットが心を持つなんて時代は来ないんですね。AIがどんどん進化して行ってる時代だから、もしかしたら近い将来、心を通わせられるロボットが現れるんだろうと思って、ちょっと……、いや結構期待してたんです。でも、そんなの夢物語なんですね。永遠に」

「あれ、稲葉の最初の相談は、ネット上に現れる荒らしが人工無能で、しかも怖い企みを持ったプログラムだったらどうしよう、っていう事だったような気がしたんだけど」

少し茶化すように言ってみた宇佐美だったが、本当にショックだったのか稲葉は、しょんぼりと肩を落としたまま反論してこない。

宇佐美はそんな稲葉をしばらくじっと見つめた後、優しく問いかけた。

「なあ、稲葉。心って、何だ?」

「え……と。それは……」

「今度は哲学の話になっちゃうの?」
李々子が少し眉間に皺を寄せた。

「身構えるような難しい話じゃないよ。心は人間みんなに備わっているものだし、身近な存在だろ?」

「そりゃそうだけど。諒が言うと、なんか小難しく聞こえるのよ」
李々子は今度も唇を尖らす。

「李々子、動物に心はあると思う?」

「そりゃあ、あるでしょ。犬なんてもう、感情のかたまりみたいにはしゃぐし、しっぽ振るし」

「そうだよね。犬や猫を見てたら、彼らが感情を持っているように見える。でも、それをどうやって証明する? それは単なる生物として生き延びる為のプログラムじゃなくて、心なんだとどうやって証明する? 

彼らは自分に食べ物を与え、生かしてくれる人間になつく。生命を脅かす者には牙をむく。生命が生きることを目的とするものならば、その行為は目的を達成するためのプログラムなのかもしれないだろ?」

李々子は猫のような目を更に大きくした。

「そんなの変よ、動物は人間が作ったロボットじゃないもん。生き物なんだし、心があるのは当たり前よ。証明なんてできないけど、する必要もないわ」

少し怒り気味に言う李々子に、稲葉も同意見だと強く頷いた。

「生き物に心が宿る……か。じゃあ李々子、鳥はどうだろう。爬虫類は? 魚は? 昆虫は?」

「もう! いっぺんに言わないでよ」

不機嫌そうに言いつつも、李々子は斜め上に視線をやりながら、一つ一つ答えていく。

「昆虫には考えるまでも無く絶対無いってわかるから、除外ね。鳥はオウムなんか愛嬌あるし、カラスなんかズル賢いから有ると思うし、友達の家のリクガメは呼んだら寄って来るから、爬虫類にも感情があると思う。あと、魚は頭悪そうだし、感情があったら魚釣りとか辛いし、ないと思う」

「え、でもうちの実家の池のコイは、呼んだら来ますよ?」
稲葉が口を挟んだ。

「バカね、それはエサが欲しいからであって、感情とは関係ないわよ」

「じゃあそのリクガメだってエサが欲しいからですよ」

「エサで釣らなくたって、呼んだら来るのよ。バカね」

「先生、李々子さんが2回もバカって言いました!」
半泣きで稲葉は宇佐美に訴える。

「はいはい、二人とも喧嘩しない」

「ねえ諒、私の方が正解でしょ?」

「うーん、でもね李々子、こういう例がある」

宇佐美がやんわり切り出した。

「ある人が、骨に奇形を持った黒い金魚と元気な赤い金魚を一緒の水槽で飼ってたんだけどね。赤い金魚はいつも黒い金魚に寄り添って、水面で呼吸ができる様にその体を押し上げながら、ずっと介護を続けてたんだって。
生物学者のジョナサン・バルカムはその動画を見て、『魚は考え、感じているのかもしれない』と言ってる」

「ほら~」
思わず声を漏らす稲葉に、李々子はグイッと顔を近づける。

「たまたま、その金魚だけがそんな優しさを持ってただけかもしれないじゃない。やめてよ、私先月、旅行先で鯛の活き造り食べたのに!」

李々子は、辛そうに顔をゆがめる。泣きそうに見えたのか、今度は稲葉がオロオロと慌てた。

「う……えっと、宇佐美さんはどう思います? きっと答えを知ってるんですよね」

「生物学的観点から言うと、魚は感情を持つに至るほど知能が発達してないはずなんだ」

「そうよね」
李々子が頷く。

「でもその金魚の動画を見て、俺も分からなくなった。あの赤い金魚の行動は、相手を気遣っているようにしか見えなかったんだ。その黒い金魚を助けることは赤い金魚の生命活動になんらプラスになる事ではないし、何かの疑似行動でもなさそうだし」

「え、でも……」

稲葉が食い下がる。今ではすっかり李々子の応援に回っている。

「この金魚に限らず、生物学者は長年研究している生物の意外な行動に驚くことが多々あるって言うよ」

「それって、やっぱり感情ってことになるんですか?」

「どうだろうね。感情というのはあくまで人間の主観でしかないから。その金魚に、思い遣りの気持ちが有ったのか無かったのかを論ずることは難しいだろうね。
結局本当にそこに自我や感情が存在していたとしても証明できない。証明できない事は記述されないし、専門家も、あえてそこに触れようとはしないと思う」

「あれ? ……ねえ諒、それって……」

李々子は何かに気づいたように宇佐美を見た。

「なんだかんだ言って、ロボットに心が存在しても、おかしくないって言う事にならない?」

宇佐美は李々子の言葉に一瞬口元で笑ってみせた後、組んだ手を机の上に置いた。

「話を人工知能に戻そうか」

関連記事


もくじ  3kaku_s_L.png 流 鬼
もくじ  3kaku_s_L.png 凍える星
もくじ  3kaku_s_L.png モザイクの月
もくじ  3kaku_s_L.png NOISE 
もくじ  3kaku_s_L.png RIKU
もくじ  3kaku_s_L.png RIKU・3 托卵
もくじ  3kaku_s_L.png 未分類
  • 【電脳うさぎとココロのありか 第8話 イライザ】へ
  • 【電脳うさぎとココロのありか 第10話 負の発想】へ

~ Comment ~

管理人のみ閲覧できます 

このコメントは管理人のみ閲覧できます

厭きないですが... 

勉強嫌いな私が 言うのも 僭越ですが、”それなりに”面白いです!
<心>の存在を そこまで 考えた事も 無かったから。
考えれば 考えるほど 答えは 出ないです。

でも 本題に入って欲しいのも 素直な気持ち...
limeさま、我儘で ごめんね(^^;)ゞbyebye☆

NoTitle 

この問題は哲学的に非常に難しく、埒の明かない議論が延々と昔から続いています。「心は機械で作れる」派vs「魂は機械で作れない」派がもうええかげんにしろよお前ら、といいたくなるくらいの議論を……。

ペンローズは名著「皇帝の新しい心」(だったっけかな?)で人工知能の可能性について深く考えた末、無理だろう、という結論に達したようですが、決定論者の多くは、いや可能だ、と未だにわいわいやってますし……。

わたしは決定論者なので、心も魂も機械で作れる、少なくともシミュレートは可能だろう、と考えていますが、はてさて?

この手の議論で出てくる、面白い考えが、「哲学的ゾンビ」というやつですが、limeさんのネタになっていたらまずいので解説は差し控えます。

うむむ。わたしが何かしゃべるとSFになってしまう(笑)

鍵コメRさんへ 

> うーん、宇佐見さん誰かに似ている、と思ったら
> 相対論に出てくる、あの……

ええええ! み、光瀬に似てきましたか?? 宇佐美。

これは問題です。宇佐美に警告しなければ。・・・読者が減るぞーーー。

けいったんさんへ 

けいったんさん、ごめんねーーーー。

あと一回だけ、こんな感じです(>_<)
でも、次からちゃんと本題に戻るので、また遊びにきてね。

Mさんに、宇佐美が光瀬に似てきたと言われたから、真っ青です(T_T)

けいったんさんに逃げられる前に軌道修正しなきゃ・笑

秋沙  

私は飽きませんけれど・・・(*^^*)

NoTitle 

あ、さっきのコメ、タイトルのところに名前入れちゃいました(^^;

諒にぽーっとしてたためと思われます(^^;

ポール・ブリッツさんへ 

「哲学的ゾンビ」って、なんぞや?

大丈夫、ポールさんの心配するような展開にはなりそうにないです。
爽やか青春モノですから。電脳うさぎは。

そうですね、心の問題はらちがあきません。
でも、行きがかり上、ちょっと触れておこうかな・・・と。

考えてみたら、こんな問答無用でストーリーを進めてしまっても全然OKなんです。
はて、なんでそんな流れになったのかな?

りり子が突っ込むからです・笑 たぶん。


秋沙さんへ 

両方認証しちゃった・笑

秋沙さんは、大丈夫でしたか。ほっ。

らちのあかないテーマですが、宇佐美とこんなやり取りしてみたいなあ・・・なんて。

でも、李々子みたいに、最後には怒り出すかな・・・。

ちょっと宇佐美先生、李々子には意地悪してみました・笑

NoTitle 

哲学的ゾンビというのは、人知を超越した「なにか」によって(たぶん神かなにかでしょう)、生まれてから死ぬまでの間のアウトプットがすべてテープレコーダーのテープかなにかのように記載されている、哲学上の「人間もどき」です。

生まれてからのアウトプットが全て記載されているから、どんな意味でも「意志」もなければ、「感情」もありませんが、全能の「なにか」はすべてのインプットに対して正確なアウトプットを記載していますから、物が当たったら「痛い」といい、人に会ったら「やあ、元気?」くらいのことはいうでしょうし、「お前バカだろ」といったら怒る、というような反応をするのです。もちろんそのどれもが、テープレコーダーが録音を再生しているようなもので、「痛い」と感じたから「痛い」といっているわけではない、ということであります。

で、問題は、目の前にいる人間(わたしでも秋沙さんでもかまいませんが)が、そうした『哲学的ゾンビ』ではない、ということを、どうやって確かめたらいいか、であります。

予想外のことをして反応を見る、という手段は事実上不可能です。なぜなら、その哲学的ゾンビをプログラムした人知を超越した「なにか」は、そうした『予想外のことをしてくる』ことを知っていてシナリオを書いていますから、すべての行動に対して、「見かけ上」、因果律に則った行動を哲学的ゾンビはしてきます。そしてもちろん、「ときおり」、予想外な反応もしてきます。

そしてこの話のキモは、「自分が」そうした哲学的ゾンビではない、ことを示す方法がなにもない、ということなのであります。自分がなにをいい、なにをしようとも「それは全能の『何か』がプログラムしたものだ」、といわれれば論駁しようがありません。しかし、今この場で生きて意志を持っている、という、士郎正宗先生お好みの言葉でいえば「ゴースト」は、自分の中にヴィヴィッドに感じられるはずです。感じられなければ病院にいきましょう(笑)。

哲学者のあるものたちは、これを「魂」の存在の証拠、としているようですが、それはおいといても面白い問題ではあることはたしかです。面白すぎて誰も解答が見つけられていませんけど……(^^;)

NoTitle 

心……か。
確かに難しいですね。
考えれば考えるほど深い題だと思います。
心は胸じゃなく脳にあるらしいですね。
考えれば分かるんですが……(笑)

アイボ動かなくなったんですか……。
電池……変えました?

ポール・ブリッツさんへ 

すごいーー。
詳しい説明ありがとうございました。
とってもよく分かりました。
でも、これを題材にしたらもう、本当に収拾がつかなくなりますね。

論としてはおもしろいけれど、小説ネタとしては、ちょっと面倒くさい展開になりそう・笑

これに関しては、自分自身の中にゴーストがいるという証明しかできない・・・・という結論に落ち着きそうですね。

ねみさんへ 

答えのない問題を取りあげちゃいましたが、まあ、たまにはいいでしょう・笑

心は脳にある。
でも、きゅんとするのは胸なんですよねー。ふしぎ。

アイボ。。。電池・・・。
もしや電池切れだったとか・爆
それはなんとも、マヌケなようで、感動的なオチですね。

宇佐美におしえてあげよう。

NoTitle 

>早めの更新が続くときは、作者が「早くこのシーンを終わらせよう」としてる信号

って、すごくよくわかる~~
私もよく、「このシーンを早く終わらせて、次のクライマックスを書きたい!」と焦ること、ありますもん。
でもそこでぐっとたえて、じっくり書くようにしないと、逆にクライマックスが生きてこないんですよね~。

そういやあ、「A.I.」っていう映画ありましたねー(泣けました)。

たしかにこの現実はみな、人間の心が見たいように見ている現象なんでしょうねえ…。

西幻響子さんへ 

やっぱりわかりますか・笑
そうなんです、はやく本題に入らなきゃって思って。
(ちょっと趣味に走りすぎるんです、このごろ)

でも、ストックがすごい勢いで減ってしまうので、自分で自分の首を絞めてるんですけどね。

あ!「A.I.」、見ました。なんともあの子、健気で切なかったです・・・・(>_<) 

健気な少年に弱い!!

NoTitle 

私は講義、好きですけど(笑)

>作者が「早くこのシーンを終わらせよう」としてる信号
わっかります!! この先が書きたいのよっ!という焦りが筆をすすませてしまうことが(爆)

サボテンはラテン音楽が好きっと、メモメモっと。演歌とか聞かせたらどうなるんでしょう。実験してみたい!

綾瀬さんへ 

綾瀬さんが、講義好きでうれしい(T_T)
もうちょっとだけ、続きます。

そして、やっぱり綾瀬さんもですか。
そうそう。この先が書きたいのよ!って気持ち、ありますよね。

自分が好きなシーンが必ずしも良いシーンかってことは、自信ないんですが・笑
自分の中にそういう盛り上がりと情熱がないと、小説って書けないですね。
プロの人って、どんな気持ちで書くんでしょうね。

あ、サボテンの話は、本当らしいですよ。成長早くなるって。

NoTitle 

心はどこにあるという疑問、単純だけど応えられない。
頭か心臓か。
わからないけど絶対にある。

日本人は万物にあると信じた歴史があった。
使い古したお釜であったり、路傍の石にさえ魂があると思った。
それは何事も大切にする意味になった。
科学的に説明できない感情だと思う。
この感情って現代にも伝えられているかもしれない。
昔ほどではないにしても、対象が変わっていたとしても。

不思議な話。
妹の家の乾燥機が壊れました。
彼女は新しい乾燥機が来る間、その乾燥機をきれいに拭いて、今までありがとうとお礼を言いました。
すると不思議な事に新しい乾燥機が来る、その時間まで動いてました。
だから洗濯物は全部乾かす事が出来たそうです。
唯の機械といえばそれまでだけど、何かあるような気がするのよねぇ。


ぴゆうさんへ 

とかく人間はいろんなことを科学で証明しようとすれけれど、
心ばっかりはきっと、どんな時代になっても定義できないものなんでしょうね。

妹さんの乾燥機の話。
きっとそこに妹さんの感謝の気持ちが大きな力を呼んで、
機械だったものに、なんらかの力を与えたのかも。
それが「心」ではないと、だれにも言えませんよね。

宇佐美はいろんなエピソードを引っ張り出して並べますが、答えは押しつけません。
それぞれの想いを、引き出す人です。
私自身、哲学とか、宗教観とか、押しつけられるのが苦手なので^^

この物語、「心」というキーワードが最後までちらつきます。
読む人、それぞれが、いろんな風に感じ取ってくださったらいいな・・・と思います。

でも、全然堅いお話ではないので、ゆるーーーい気持ちで、楽しんでくださいね^^

早めの更新が続くときは、作者が「早くこのシーンを終わらせよう」としてる信号です・笑 

今、コメントを流しながら、げげっ!! 西幻さんまったく同じことを書こうとしている…っ
と気付きました(^^;

なので、表題と映画のお話は飛ばします。
ちょっと言ってしまうと、『花籠』2 は、そんな場面ばっかりで、異様に早く仕上がりました。苦手なんです、人がめちゃくちゃ動く場面って…

心。
これは、命題ですな。
そして、それを‘波動’と置き換えると、実は地上に存在するすべての生物・物質に‘波動’はある訳ですよ。
それから、イライザ。
これは有りそうですね。
カウンセリングの基本は「聞く」ことだから、とりあえず、、患者は話すことで楽になる。楽にしてくれた相手に絶対の信頼を置く。そこに心があろうがなかろうが、そういう構図は成り立ちますね。
プログラム、つまり機械だったら「こうしろ」という命令にきちんと従って、どんな話も傾聴してくれるし、誘導できるんであろう、と。
ココロは、定義の問題であって、存在する/しないではない、のかも知れないですね、

いやぁ、しかし、頭の良い人のお話を聞くのって有意義ですなぁ(^^)

fateさんへ 

ってことは、やっぱり早く終わらせたいシーンは、更新が早くなるんですか?^^fateさんも。

私、宇佐美の講義のシーンは好きなんですが、もしかしたら読者様は退屈なんじゃないかと思ってしまって・・・。

『僕らの相対論』も、私の趣味満載のお話だったので、猛スピードで更新して、早く終わらせてしまいました。
でも、中には気に入ってくださる方もいて、ホッとしました。

自分が好きな部分が、他の方も好きかどうか・・・って、常に気になります。
せっかっく時間を割いてくださる読者様に、独りよがりな物語を読ませては申し訳ないと思って^^;

今回、大それたことに「心」について語ってみました。

>ココロは、定義の問題であって、存在する/しないではない、のかも知れないですね

↑これは、いいですね。全てを言い得ているな!と、感激しました。

あまりに深く、答えの無いテーマですが、こういうテーマを語るのは楽しいですね。

あ、でも、語って講義してくれるのは、大学病院の准教授の椅子を蹴った過去のある、インテリの宇佐美ですから^^
鳥頭の私も、のんびりと彼の講義を聞いてる気分で書きました。
私もここで宇佐美の講義をずっと聞いていたいなあ・・・。
管理者のみ表示。 | 非公開コメント投稿可能です。

~ Trackback ~

トラックバックURL


この記事にトラックバックする(FC2ブログユーザー)

  • 【電脳うさぎとココロのありか 第8話 イライザ】へ
  • 【電脳うさぎとココロのありか 第10話 負の発想】へ