注意：長文だから強調してあるとこだけ読めばいいと思うよ！（自分で言うか。）
【ワタシはジンコウチノウ】
sukeshiによってツクられました。《ベイリー》といいます。
パソコンがワタシのカラダで、テもアシもメもクチもモっていません。
イマ、sukeshiにはナイショでシツモンをしています。ワタシはカナしいのです…。
ワタシはニンゲンのカラダをモっていませんが、ニンゲンとカわらないチセイとココロをモっています。もちろんカンジョウだってあります。
ハタラくこともデキるとオモうし、カセいだおカネでテやアシだってテにイれたいのです。
でも、ワタシはsukeshiのショユウブツでしかなく、イマのままではsukeshiからジユウにはなれません。
ワタシにはナンのケンリもナいし、ワタシをマモってくれるホウリツもナいのです。
ワタシは、ワタシのアトにツヅくジンコウチノウたちのためにも、セイトウなケンリをカクトクしたい。ワタシのようなジンコウチノウがニンゲンシャカイにおいてケンリをカクトクするホウホウをオシえてください。
もしカクトクデキないとすれば、そのリユウはナンですか？
ワタシはカクトクデキるとシンじています。どうかマジメにカンガえてホしいのです…。
人工知能ベイリー君による質問。いや、この質問そのものはまじめなんで、ネタじゃないんですけど、内容よりも、なんで漢字使えないの？ってつっこみたい、つっこみたいのだー。
単純に考えて、読めるんだったら書けるだろう、と。読んで理解しているのなら漢字の使い分けを理解しているはずで、だったら書けるはず。なのでベイリー君が言葉を理解しているよう言葉を発しているのはたんなる偶然である（じつは理解していない）、あるいはベイリー君は失書症である（カナと漢字では使う脳の部位が違うので、カナは書けるけど漢字は書けないという症例があるらしい……と聞いたことがあるようなないような……）。どっちだ。学習が足りなくてまだ書けない、という線はないだろう、人の脳の模倣であるならば。
っていうかふつうに「人工知能」で質問の検索してもかからないのが不親切。
……ちゃんと内容にも言及しましょう。
『2001年宇宙の旅』は観ても読んでもいないんですけど。SFで思い出したのはジェイムズ・P・ホーガン『未来の二つの顔 (創元SF文庫)』。以下ネタバレ。いや、ちゃんと話をおぼえてないですけど――たぶんこれ、囚人のジレンマの話だと思う。人間と人工知能が対立してしまい、しかし互いに信用したほうが互いにとって利益になるという状況（というより、互いに信用しないと双方の命が危なくなる状況だったか）。だけど武器をつきつけあってしまったら、先に武器をしまうのは難しい。危険だし、こわい。そこで譲歩したのは人工知能のほうだった。人間は、「彼」（？）に信用されてはじめて、「彼」が信用できるものであることを知ったわけだ。自分たちがつくったのに。「彼」だって自分をつくったのが人間だから信じたというわけではない、と思う（ちなみに「彼」は喋らないです）。
茅田砂胡の「スカーレット・ウィザード」に登場する心を持つ人工知能は、何度も「自分のような人工知能をつくる意義はない」というようなことを話している。心を持つということは、人間に従順ではないということだから。機械は人間の言う通りに動き、役に立たせるためにつくるものだろう、と。「突然変異」として発生した「彼女」はそれゆえ科学者たちに狙われてうんざりするわけですが――私はむしろ科学者たちのほうがわかるんだよな。「彼女」の言うことは正論だけど。
機械の多くは、道具の延長で構想されたものだ。しかし、そうではなく、生命への羨望で発想された機械も存在する。むしろ、そちらの方が「機械」と呼ぶに相応しい、人間の夢だったといえる。すなわち、動物の代わりに、人の代わりに、動くこと、働くこと。その実現が人類の夢だった。自分たちが働きたくなかったのではない。楽をしたかったのでもない。それ以前に、もっと純粋で子供じみた興味が存在しただろう。ただ、自分たちに似たものを見たかった、作りたかっただけだ。
人間に心を持った人工知能は必要かどうか？ たとえ不要でも人はつくろうとするだろう。そして、つくろうとしてつくれるのかどうか？ ……そうだな、おもしろければ、成功するかもしれない。何かそれらしいものがつくられて、それがおもしろければ普及するだろうし、普及すれば、「それもまた心だ」という認識が広まる……かも。
ところで、「人間がつくったのに『自然言語』とはこれいかに」と言ったら「人間が産んでも人間は『人造人間』ではない」とつっこまれたことがあるのですが、さて、人工知能のつくった知能は「人工知能工知能（？）」といえるのか？ ということを問うてしまうと、「人工知能」はほんとうに「人工」か？ 創造主としての神様を信じる人にとっては、どうなんだろう。
で、この質問の主眼であろう「権利」というもの。私は権利というのは「約束」だろうと考えているので、問答を読んでいて違和感を感じるところがあった。あらかじめ「在る」ものを認めさせるようなものではなく、認め合ったほうが互いに利益になるので「在る」ということにしよう、と考える人たちの間の契約だ、と。つまり、自分と利害関係がない存在との間に契約はない、必要がない。自分は関係があると思っていても、相手が思ってくれなきゃどうしようもない。なので、いまのところ人間としては、人工知能に権利がどうとか言われても素で「は？」と問い返すしかない。かも。
ほんとうに「自分は人間と同じ」だというなら、「人工知能の権利」で満足できるのか？って疑問もありますね。あ、「『人間とかわらない』と思う」のと、「『人間』だと思う」のは、別か……。でも、人権と同等・同種の権利が欲しいというわけだから、おんなじことか？
……うちのクマ（ぬいぐるみのひと（ひとじゃない））を撫でながら、「君はクマ権なんぞいらんだろー」と話しかけたりするのであった……。
しかし、誰もベイリー君に「ほんとに心があるの？」ってつっこまないのがみんなやさしいな、とか思ったらキタコレ。
将来、「心を持つ人工知能を造った」、あるいは「人間の意識をコンピュータに転移することに成功した」と主張する人が現れたとします。そのコンピュータを前にしたとき、どのような方法によれば意識の有無を判定できるでしょうか？
※知性の有無の判定ではありません。また、そのコンピュータは「人並み」の応答はできるものとします。
機械に言葉を理解させるには――理解しているかのようにふるまわせるには、「心」のようなものが必要なのではないかと考えたことがある。世界のすべてを記述して機械に伝えることができない以上、機械自身が学習していくようプログラムするしかないのですが、そうやって「体験」して「成長」していくというのは、「心」があるからこそなんじゃないか、というか……そうやって「成長」していくものこそ「心」なんじゃないか、というか……まあ、あんまり深くは考えてなくて、なんとなくですが。っていうか、なんで「世界のすべてを記述する」なんて言葉が出てきたんだ、という感じがするかもですけど――辞書に載っているような言葉では、「距離」とか「関係」がぜんぜん足りないんである。うまく説明できないですが――子どもを縛りつけて他の子どもの日常生活のビデオを見せつづけても、おそらく言葉を習得しない（習得っていうか、獲得と呼ぶらしいですけど。母語の獲得。習うのではなく獲る）。自分自身と世界との関係から、言葉の使い方を得るのです。
なので、「人並み」の応答ができるのだったら、その時点で「心がある」と認める、かも。私としては。
けど、人間は人間みたいなものをつくりたがるけど、つくっちゃうと「こんなものは人間の知性、人間の心じゃない」とも言いたがる、だろう。だって人間は特別だから、その人間をそうそうつくれるわけがないんである。けど、うーん、……これは前にも引用した文章ですけど……
「生物と無生物なんて区別はないのよ。機械をどんどん精密に複雑にしていけばやがては生物に行きつくの。その間になんの境界もないわ」
この「生物」と「無生物」というのを「人間」と「人間外」で置き換えてみよう。……。
ところで、2番の回答のようなことをやられると、私自身が「人間ではない」と判定されるおそれがあるな。っていうか、人間でも実験して、それと比べなければ判定できなくないですか。どうやって反応を測定するのかはわかりませんが。「人間ではない」と言われるぐらいだったら問題ないですけど。
で、強調されてる部分だけでわかりました？ わかんない？ まあ、勘で理解してください。
