'Proceda com cautela': Elon Musk oferece aviso após Amazon ter supostamente realizado reunião obrigatória para abordar incidente relacionado a IA com 'alto raio de explosão'

Elon Musk comentou sobre relatos de que a Amazon está a resolver recentes falhas, incluindo uma relacionada com codificação assistida por IA.

Vídeo Recomendado

A gigante do comércio eletrónico realizou uma reunião obrigatória na terça-feira para um “imenso aprofundamento” em várias falhas, incluindo algumas resultantes do uso de funcionalidades de codificação por IA, informou o Financial Times, citando briefings internos e emails. Segundo a publicação, a Amazon afirmou que houve uma “tendência de incidentes” nos últimos meses com um “alto raio de impacto” e relacionados com “alterações assistidas por IA-Génica”, bem como outras variáveis.

No início deste mês, o site e a aplicação de compras da Amazon ficaram indisponíveis para alguns utilizadores, com mais de 22.000 relatando um problema, de acordo com o rastreador de falhas Downdetector. Os clientes não conseguiram finalizar compras, visualizar preços de produtos ou aceder às suas informações de conta. Na altura, a Amazon afirmou que a falha foi resultado de “uma implementação de código de software”.

A notícia da reunião chamou a atenção de especialistas em tecnologia, incluindo Musk, que tornou seus comentários públicos ao responder a uma publicação de Lukasz Olejnik, consultor de cibersegurança e investigador sénior visitante no Department of War Studies, King’s College London.

“A Amazon está a realizar uma reunião obrigatória sobre a IA a comprometer os seus sistemas”, escreveu Olejnik.

“Proceda com cautela”, respondeu Musk.

Dave Treadwell, vice-presidente sénior de serviços de comércio eletrónico da Amazon, teria escrito num email que a reunião semanal “This Week in Stores Tech” (TWiST) seria parcialmente usada para implementar limites adicionais sobre como a IA é utilizada pelos engenheiros, incluindo a exigência de que engenheiros mais séniores aprovem alterações assistidas por IA feitas por engenheiros juniores e de nível médio.

“Pessoal, como provavelmente sabem, a disponibilidade do site e da infraestrutura relacionada não tem sido boa recentemente”, escreveu Treadwell num email interno, relatou o FT.

Um porta-voz da Amazon disse à Fortune que a reunião TWiST é uma reunião operacional semanal regular com um grupo de equipas de tecnologia de retalho e líderes para rever o desempenho operacional.

“Como parte do negócio normal, a reunião incluirá uma revisão da disponibilidade do nosso site e aplicação enquanto focamos na melhoria contínua”, afirmou o porta-voz numa declaração.

A empresa confirmou que a Amazon Web Services (AWS) não esteve envolvida nos incidentes. A Amazon afirmou que apenas um incidente discutido esteve relacionado com IA, mas nenhum envolveu código escrito por IA. Além disso, engenheiros juniores e de nível médio também não são obrigados a ter a aprovação de engenheiros séniores para alterações assistidas por IA, segundo a empresa.

Os riscos da rápida implementação de IA

As falhas e a subsequente reunião levantaram preocupações de especialistas em cibersegurança sobre os riscos associados à rápida implementação de ferramentas de IA. Funcionalidades como o assistente de IA da Amazon, Q, podem acelerar o processo de codificação, produzindo mais código mais rapidamente, mas isso pode comprometer os sistemas de como esse código é escrito, verificado e implementado, tornando as plataformas mais suscetíveis a falhas, explicou Olejnik à Fortune.

“Não estou a argumentar contra a implementação de IA”, afirmou. “Não há argumentos contra. Não se consegue parar. Todos vão implementar IA. É um argumento contra a velocidade pelo próprio valor ou usar IA só por usar.”

No final do ano passado, a Amazon começou a despedir milhares de trabalhadores, alegando querer tornar-se mais eficiente e alinhar a cultura da empresa. Essas despedimentos continuaram este ano, com a empresa a reduzir a equipa em mais 16.000 em janeiro. Entretanto, a Amazon continua a investir fortemente em IA, projetando 200 mil milhões de dólares em capex em 2026, um aumento face aos 131 mil milhões de dólares em 2025.

Musk, por sua vez, já afirmou anteriormente que a IA irá eliminar completamente a codificação até ao final de 2026.

Olejnik alertou que a transição demasiado rápida de codificação centrada no humano para sistemas geridos por IA pode resultar na ausência de verificações de segurança, levando a períodos prolongados de inatividade ou perda de dados, o que poderia “explodir” um negócio devido a uma implementação irresponsável de IA.

Quando questionado, afirmou que concorda com Musk quanto ao nível de atenção que a implementação de IA na tecnologia deve exigir.

“Concordo com ele”, disse Olejnik. “A IA oferece muitas oportunidades, mas há um meio-termo entre a obsolescência por não usar IA e a destruição de negócios por implantações mal planejadas.”

Em 2001, a Fortune reuniu “As Pessoas Mais Inteligentes que Conhecemos”, juntando CEOs, fundadores, construtores, investidores, pensadores e praticantes. Desde então, o Fortune Brainstorm Tech tem sido o local onde ideias audazes colidem. De 8 a 10 de junho, regressaremos a Aspen — onde tudo começou — para marcar 25 anos de Brainstorm. Registe-se já.