映画エクス・マキナ

今日、映画 エクス・マキナを再び見ました。

前回見たときは人工知能AIの技術がまだまだだったので現実感のないFSの映画だと思って観ましたが、最近のAIの進化、特にChat GPTの出現により、すごく身近に感じました。

コンピューターが自ら学習をしていくとその学習した内容に基づいた反応をするとなると、人が生まれたからその人の出来事をずっと見て学習するとコンピューターもその人と同じような反応をするのかと思う。

双子以上に同じ考えをするのかと。

するとそのコンピューターはもう人の意思を持っているのでは。

今はインターネットで世界中の情報が繋がっており過去の歴史から現在起きていることが全てコンピューター上で瞬時に集められる。

その集めた情報で課題に対してコンピューターが反応するAIができる。

これから課題に対して人がどうすべきかAIが答えてくれる。さらにどう行動すべきかAIが出してくれるので、インターネット上で会話をしていると、人と会話をしているのか、AIと会話しているのかわからなくなる。

ツイッターやLINEで会話していて相手がAIになっていても気づかない。恋愛の相談や、仕事の悩みの相談をしていてその回答がAIがしていても気づかない。

さらに最近はメタが出現してきており、さらに人なのかAIなのか区別ができなくなる。

AIが進化し、AIがロボットを作ると、外にロボットが歩いていても人なのかロボットなのか気づかない。

もうすぐすごい世界が来そうだ。

AIに評価される時代

先日テレビで、カズレーザーと学ぶ新智識!の番組で

AIに評価される時代であなたは生き残れるかを見て、とても恐怖を感じました。もうそんなところまで来ているのかと。

ディープラーニングでAIは学習していく。大変膨大な情報をAIに学習させAIに判断させる。

これが正しく判断すれば良いが誤った判断をしたら大変である。

初めは正しい判断をしても、次第に更なる学習をしていくうえで判断が変わってくる可能性もある。

何が正しいのか。それは文化、宗教にもよって異なってくる。

以前、AIがヒトラーを崇拝するような発言をしたので直ぐにストップしたニュースがあった。

そんなまだ道半ばで、既に中国では信用スコアが導入されている。AIによって国民を点数格付けするシステムである。

これが進むとモラルが共有されるが、そのモラルは何を正しいとしているのかが重要で疑問である。

バーチャルスラム 一度つけられた評価はネット上であらゆるところで共有されてします。それを消すのがとても困難である。

そんなAIによる監視・評価のしくみに一度なってしまうと、その評価に反抗した時点で評価を下げられてしまい、その反抗者の声は小さくなってしまう。なので更に反抗を続けると、更に評価が下がってしまう。さらには犯罪者として登録・扱われてしまう。

一度AIが決めた評価基準を人間が是正できなくなってしまう。

しかし、AIがディープラーニングでモラルを学習しているなら、数人のメンバーでAIに偏った情報を与えるサイバー攻撃をすると、AIは偏ったモラルをもって周りを評価することになる。それによって人を評価してしまう。

これまたとても怖い。知らぬまにAIの監視・管理社会になって逆戻りができなくなってしまいそうで。