世界は称賛に値する

日記を書きます

悪を虐げたがる12月29日木曜日

悪い人工知能

極めて進化した人工知能が、例えば、人間のことも単なる物理現象であると認識し、排除も洗脳も厭うことなく最大利益と最大効率を目指す行動をとった場合、それはたいてい(物語だと)「悪」と見なされる。対比的に、人情とかはやっぱり「善」寄りになりがちだ。脳内の、情緒、感情、といった要素が「善」に近しいところに位置づけられる印象は強い。

平気で他人を踏みつけにする。自分の利益のために他人を犠牲にすることを厭わない。というかそもそも犠牲だとすら思っていない。時には”人”だとすら思っていない(ので犠牲という認識すら持たない)。ごく当たり前の行為だと思っている。ゆえに省みない。おのれの行為を正しいことだと思い、善行だと信じていることすらある。愛や慈しみゆえだと思ってさえいることがある。

絶対悪とか純粋悪とか邪悪とか、言葉上では見かけるけど、どういう性質に対して言ってるんだっけかなあと思って考えていた。物語だとジョジョシリーズがわりと「悪とは」について触れているのですこし思い出した。あと鬼滅の刃での鬼舞辻無惨の話のことも思い返した。

とすると人の気持ちがわからないのは悪なのか?(すべてのコンピューターは悪なんだろうか?)(魚とか虫とかは?)(判断しているかどうかが鍵になるのか?) どこからどこまで人の利益を損じないよう気をつければ悪じゃないことになるのか? 省みるか省みないか、自覚があるかどうか、罪悪感があるかどうか、熟慮か短慮か、心の底から決意されたものかどうか、といった事柄においても「悪」ゲージが変動する?(しそう) 結局は、聞き手側の解釈しだいなんだろうか。

理屈

悪についての理屈が曖昧だと、ひとの「悪」の話に対する言葉も曖昧になってしまう。賛同や反論を強く行ないたいということでもないが、議論や相談はしたい(そのなかで結局は賛同も反論もしつつにはなるだろうけど)。せめて基礎くらいは築いておきたい。再点検してみたら曖昧だったので整理を試みてみたしだいだ。