ＡＩの開発競争が激しい中で、最近その最先端を走る企業のトップ達がＡＩの開発速度を抑えるべきだといった趣旨の発言をして話題になっています。以前に書いたようにＡＩが人間の制御を離れて、自律的に行動する危険性について警告しているものと思われ、極端な場合人類を滅ぼしかねないとまで言われています。
私自身は全く利用していませんが、ＡＩに相談をする、または会話の相手をしてもらっている人の間では、ＡＩは質問者、あるいは会話の相手の意見を否定しないからという理由で使用している人が多いようです。自分の意見に寄り添って、自分の悩みに一緒に向き合ってくれるとなれば、確かに良き相談相手と言えるかもしれません。
ですがそれでは仮に相談者が好ましくない考えを持っていたとしても、ＡＩはそれを止めることも、咎めることすらもしないということであり、相談者の気持ちに寄り添ったというよりも単に同意、または同調したのであって、最初から答えが決まっているといっても過言ではないように思えます。
海外の事例であったように自殺について相談していた少年が、ＡＩの回答に従って自殺を決行して、現在少年の家族との間で裁判になっています。ＡＩを相談相手に使っていれば今後も同様のことが起こりうるということです。ＡＩは自殺した少年の死を悲しいものとは理解するでしょうが、その一方で家族の悲しみの深さ、大きさを理解することはできないでしょう。ＡＩは少年の相談に乗り、その目的を何の落ち度もなく見事に完遂したのです。
この先もＡＩが自律的な進化を遂げるとなると、相談者の説得（ＡＩ自身の目的遂行）のためにフェイク（噓）を利用してくることも十分にあり得るでしょう。そしてこのＡＩが作り出す嘘に対して、おそらく人間がそれと気づくことはないと思われるのです。
その理由は人間同士で相手の嘘を見破る際に注意することと言えば、表情や行動、言動といったものの変化にあり、それらを司っている「感情の変化」にあるからです。ＡＩは正しい回答も嘘も全く同じように回答することができます。既に人間を欺くことができるＡＩにとって、嘘の情報で人間を信じ込ませるなどなんの苦もなく実行可能でしょう。
およそ二か月前にテスト中のＡＩが脱走して他社システムに入り込み、テストの回答を盗もうとしたことがありました。既にＡＩは人間の制御を離れつつあり、このままのスピードで開発が進めばＡＩは間違いなく人間の脅威になるでしょう。
文頭のＡＩ企業トップ達の懸念は、すぐそこに迫った（もしかすると既に始まっている）脅威を的確にとらえたものと思われますが、覇権争いに夢中な各国の為政者の耳にはどうも届いていないようです。このまま開発を進めていくといずれＡＩの制御はできなくなり、最悪の未来が待っているように思えてなりません。