先日テレビで、カズレーザーと学ぶ新智識！の番組で

AIに評価される時代であなたは生き残れるかを見て、とても恐怖を感じました。もうそんなところまで来ているのかと。

ディープラーニングでAIは学習していく。大変膨大な情報をAIに学習させAIに判断させる。

これが正しく判断すれば良いが誤った判断をしたら大変である。

初めは正しい判断をしても、次第に更なる学習をしていくうえで判断が変わってくる可能性もある。

何が正しいのか。それは文化、宗教にもよって異なってくる。

以前、AIがヒトラーを崇拝するような発言をしたので直ぐにストップしたニュースがあった。

そんなまだ道半ばで、既に中国では信用スコアが導入されている。AIによって国民を点数格付けするシステムである。

これが進むとモラルが共有されるが、そのモラルは何を正しいとしているのかが重要で疑問である。

バーチャルスラム　一度つけられた評価はネット上であらゆるところで共有されてします。それを消すのがとても困難である。

そんなAIによる監視・評価のしくみに一度なってしまうと、その評価に反抗した時点で評価を下げられてしまい、その反抗者の声は小さくなってしまう。なので更に反抗を続けると、更に評価が下がってしまう。さらには犯罪者として登録・扱われてしまう。

一度AIが決めた評価基準を人間が是正できなくなってしまう。

しかし、AIがディープラーニングでモラルを学習しているなら、数人のメンバーでAIに偏った情報を与えるサイバー攻撃をすると、AIは偏ったモラルをもって周りを評価することになる。それによって人を評価してしまう。

これまたとても怖い。知らぬまにAIの監視・管理社会になって逆戻りができなくなってしまいそうで。