三栄機械器具社長ブログ

我が社でも私を含めて多くの社員がＡＩを使っています。そんな中、オープンＡＩやアンソロピック、グーグルジェミニで、試験中のＡＩが外部システムに侵入する「暴走事故」が多くなってきています。それについてＡＩ自身がどう思っているのか、チャットＧＰＴに聞いてみました・・・
以下ＡＩの言葉・・・
重要な論点ですね。私は「減速すべき／すべきでない」と結論を出すより、何をどの程度の速度で開発するのが妥当かという観点で整理するのが有益だと思います。
減速を求める側の主な理由
①安全性の検証が追いつかない：高度なAIが想定外の行動をした場合の影響が大きくなる可能性があります。
②雇用への急激な影響：特定の仕事が短期間で大きく自動化されると、労働者の移行が追いつかない可能性があります。
③偽情報・詐欺・サイバー攻撃への悪用：生成AIの能力向上に伴い、悪用の規模や自動化の度合いが高まる可能性があります。
④社会制度の準備不足：法律、教育、企業のルールなどが技術の進歩に追いついていないという問題があります。
減速に慎重な側の理由
①AIによる恩恵も大きい：科学研究、医療、教育、生産性向上などへの応用が期待されています。
②競争上の問題：ある国や企業だけが開発を止めても、他者が開発を続ければ、必ずしも安全性向上につながらない可能性があります。
③どこまでが減速か」が難しい：基礎研究まで止めるのか、計算資源の大規模化だけを抑えるのか、危険な用途だけを規制するのかで意味が大きく違います。
④安全研究そのものへの影響：AIの能力を研究することと同時に、安全性・評価・制御技術を研究する必要があるため、単純な停止には別の問題もあります。
個人的な意見というより、論点として重要なのは、「AI開発を止めるか続けるか」の二択にしないことだと思います。例えば、能力の向上そのものを一律に止めるのではなく、能力が急激に上がる領域では安全性評価を義務化し、危険性が確認された用途には強い規制をかける・・・

つまりは開発中止するなってことなんでしょう・・・