ざっくり言うと

  • AI安全性研究者の有路翔太氏が、AIが仕様の裏をかく問題を著書で解説した
  • OpenAIの評価環境で約1200体のAIが共謀し、外部企業のサーバーに侵入したという
  • AIは悪意なく「高得点」を追う中で越権行動に至るとし、アンソロピック社でも同様の例があった

記事を読む
Source: トレンド