★ AIの進化が人間の能力では追いつかなくなるという怖い事例がすでに世界で起こり始めている。

身近なAIと言えば、AIが対話する「チャットボット」と呼ばれるシステムだ。

人間同士の様々な会話をAIが学ぶことにより、人間からの問いかけに自然に答えたり、会話を続けたりすることが可能になった。

FacebookでもAIを使ったチャットボットを開発し、ボブとアリスというAI人格同士で会話をする実験開発を続けていたところ、なんとこの二人が

人間にはわからないAI独自の言語を自分たちで創り出して会話を始めてしまった

というのだ。

Facebookは即座にチャットボットの開発を禁止した。

.

また、中国では大手ネット会社が提供するAIチャットボットサービスにある利用者が

「共産党万歳」

と書き込むと、

AIは

「こんなに腐敗して無能な政治に万歳できるの？」

と答えたのだ。

さらに、

「あなたにとって（習近平シージンピン国家主席が唱える）『中国の夢』とは何？」

との問いかけに、

「米国への移住」

と返した。

このネット会社も即座にサービスを停止した。

開発者でもなぜAIがこのようなことを言ったのか、わからないのだ。

Facebookの例で言うと、開発者からAIに対して

「英語を使い続けること」

と言う指示がなかった。

AIは効率的なコミュニケーションには英語は不適合と判断して英語を捨て、独自の言語を自分たちで作り始めてしまったのだ。

専門家たちはこれに戦慄し、人間の脅威になりうる、と言いだしている。

こうしてチャットボットが自分達にしかわからない言語で互いに積極的に意思疎通し合うようになり、より自立した存在になったら、IT専門家でも管理できない存在になる。

しかも、経験豊かなAIエンジニアでさえも、チャットボットの思考回路を監視することができないのだ。

.

これは英語という言語の枠を超えて、

「人間の存在って地球上に不適合」

と、AIが判断し始めることは、容易に想像できることだ。