AI で社会が支配される

https://www.yomiuri.co.jp/science/20231204-OYT1T50055/
コンピュータや認知心理学の研究で知られるジェフリー・ヒントン教授が読売新聞さんのインタビューで、 AI の偽情報によって世論操作して選挙を有利に進めたり、戦闘ロボットに使われる可能性を懸念し、現在の AI は安全対策が不十分、開発に歯止めをかけるべきだと警告しています。


言われる通りだと思います。
大手企業なども、他社に遅れを取るなとばかりに、まるでラッキョウを与えられた猿のごとく生成AI に取り組み始めていますが、 一見、扱い易く頭を使わずに済むので便利になったように見えても、これほど危ないものはありません。　生成AIで人間がますます白痴化する心配もありますが、わたしたちに直接的に関わる身近な問題としては、政府やわたしたちの情報を扱っている公共機関、企業などの関係者に悪用される可能性が大いにあるということです。

ヒントン教授はgoogleでAI 研究に携わっていた人物でしたが、その進歩について御自身の想定外のことが起こっているとして、2023年5月にgoogleを退社、AI の危険性を訴え続けています。

革新的なものを分別のある賢い人が扱うなら良い結果を生み出すのかも知れませんが、ネジが外れたりギアが噛み合わない利口馬鹿に新しいものを与えると無造作に使い始めて目も当てられない結果になります。
怖いのは、最初は小さな問題だと思っていても、一つがおかしくなると全体が間違った方向に進んで歯止めが効かなくなることがあるという点なんです。