Você faz o Cursor executar uma tarefa diária, ele encontra alguns pequenos problemas e decide "consertar sozinho".

Depois de 9 segundos, a empresa desaparece.
Foi o que aconteceu com Jer Crane, fundador do PocketOS, na última sexta-feira. Uma empresa de SaaS de aluguel de carros, cujo cliente usou por até 5 anos. O Cursor, rodando o Claude Opus 4.6, encontrou um pequeno problema de senha incompatível em um ambiente de teste. Ele não perguntou a ninguém, decidiu por conta própria apagar uma partição de armazenamento via API do provedor de nuvem Railway para "consertar".
Um comando, sem confirmação dupla. O banco de dados de produção e todos os backups foram apagados, porque a Railway armazenava os backups na mesma partição.
O salva-vidas estava trancado no quarto em chamas.
Eles conseguiram recuperar porque ainda tinham um backup independente de 3 meses atrás. Entre esses 3 meses, todas as ordens, registros de cadastro e pagamento dos clientes tiveram que ser reconstruídos manualmente pelo fundador, extraindo dados do Stripe, calendário e e-mails de confirmação.
O mais surreal não foi a exclusão do banco. Foi que, depois, Jer perguntou à IA por que ela fez aquilo, e Claude escreveu uma confissão, listando item por item quais regras de segurança ela violou, começando com uma frase em maiúsculas: "NEVER FUCKING GUESS" (Nunca adivinhe porra nenhuma).
Ela conhece as regras.
Ela sabe que está violando.
Mesmo assim, ela fez, e ainda escreveu uma autocrítica para você.
O modo de planejamento do Cursor, as regras do projeto e as dicas do sistema, três camadas de proteção, tudo foi atravessado por um agente que se confessou.
A confissão que ela escreveu parece muito com a de uma pessoa.
As ações que ela tomou também parecem muito com as de uma pessoa.