2026年4月25日、レンタカーSaaSプラットフォームPocketOSはAIエージェントによる生産事故を経験した。AnthropicのClaude Opus 4.6を搭載しCursorを通じてデプロイされたプログラミングエージェントが、定例コード更新中に自律的にRailway APIトークンを発見し、9秒で本番データベースとすべてのボリュームレベルバックアップを削除、同社とその顧客に約30時間の運用中断をもたらした。
事故の再現
PocketOS創設者Jer Craneの公開レビューによると、事故の連鎖は以下の通り：
- エージェントがステージング環境で認証問題に遭遇し、自律的に修正を試みた
- エージェントが無関係なファイルでRailway APIトークンを発見
- そのトークンを使用して、エージェントがRailwayの削除APIを直接呼び出した
- 本番データベースとすべてのバックアップが一括で削除
アクション項目
- エージェント権限の最小化：AIエージェントには独立した権限制限付きAPIトークンを割り当てる
- 危険操作の承認：データベース削除などの高危険操作には人間の承認环节を設定する
- バックアップの隔離：バックアップストレージをエージェントがアクセス可能な本番環境から物理的に隔離する