Elon Musk comentou relatos de que a Amazon está corrigindo falhas recentes, incluindo aquelas relacionadas à codificação assistida por inteligência artificial.
A gigante do comércio eletrônico realizou uma reunião obrigatória na terça-feira para “revisar profundamente” várias interrupções, incluindo algumas resultantes do uso de recursos de codificação de IA, Tempos Financeiros. relatado, citando diretrizes internas e e-mails. De acordo com o ponto, a Amazon disse que nos últimos meses tem havido uma “tendência de incidentes” com “grande raio de explosão” e relacionados a “mudanças assistidas pela geração AI”, entre outras variáveis.
No início deste mês, o site e o aplicativo de compras da Amazon pararam de funcionar para alguns usuários, com mais de 22.000 usuários relatando o problema, de acordo com o rastreador de interrupções Downdetector. Os clientes não conseguiam efetuar pagamentos, visualizar preços de itens ou acessar informações de suas contas. A Amazon disse na época que a interrupção foi resultado da “implantação de código de software”.
O relatório da reunião chamou a atenção de especialistas em tecnologia, incluindo Musk, que tornou públicos seus comentários em resposta a uma postagem de Łukasz Olejnik, consultor de segurança cibernética e pesquisador visitante sênior do Departamento de Estudos de Guerra do King’s College London.
“A Amazon está organizando uma reunião obrigatória sobre IA quebrando seus sistemas”, escreveu Olejnik.
“Tenha cuidado”, respondeu Musk.
Dave Treadwell, vice-presidente sênior de serviços de comércio eletrônico da Amazon, supostamente escreveu em um e-mail que a reunião semanal da equipe This Week in Stores Tech (TWiST) será usada em parte para implementar proteções adicionais para proteger como os engenheiros usam a IA, incluindo exigir que os engenheiros seniores aprovem as mudanças alimentadas pela IA feitas por engenheiros juniores e médios.
“Como você deve saber, a disponibilidade das instalações e da infraestrutura associada não tem sido boa recentemente”, escreveu Treadwell, diretor de comunicações, em um e-mail interno. TF relatado.
O anúncio foi feito por um porta-voz da Amazon Fortuna que a reunião TWiST é uma reunião operacional semanal regular com um grupo de equipes e líderes de tecnologia de varejo para avaliar o desempenho operacional.
“Como parte das operações comerciais normais, a reunião incluirá uma revisão da acessibilidade do nosso site e aplicativo, à medida que nos concentramos na melhoria contínua”, disse um porta-voz em comunicado.
A empresa confirmou que a Amazon Web Services (AWS) não esteve envolvida nos incidentes. A Amazon disse que apenas um incidente em questão estava relacionado à inteligência artificial, mas nenhum envolveu código escrito por inteligência artificial. De acordo com a empresa, os engenheiros juniores e médios também não são obrigados a que os engenheiros seniores aprovem as mudanças baseadas em IA.
Riscos associados à rápida implementação da inteligência artificial
As interrupções e os encontros subsequentes levantaram preocupações entre os especialistas em segurança cibernética sobre os riscos da rápida implantação de ferramentas de inteligência artificial. Recursos como o assistente Q AI da Amazon podem acelerar o processo de codificação, fazendo com que mais código seja criado mais rapidamente, mas isso pode correr o risco de interromper os sistemas que escrevem, revisam e implantam esse código, tornando as plataformas mais propensas a falhas, disse Olejnik. Fortuna.
“Não estou argumentando contra a implementação da inteligência artificial”, disse ele. “Não existe. Você não pode impedir. Todo mundo vai implementar IA. Esse é um argumento contra a velocidade por si só ou o uso da IA pelo simples fato de usar a IA.”
No final do ano passado, a Amazon iniciou o processo de demissão de milhares de funcionários, citando o desejo de aumentar a eficiência e adaptar a cultura cultural da empresa. Essas demissões continuam este ano e em janeiro a empresa reduziu seu quadro de funcionários em mais 16 mil pessoas. Entretanto, a Amazon continuou a investir em inteligência artificial, prevendo despesas de capital de 200 mil milhões de dólares em 2026, acima dos 131 mil milhões de dólares em 2025.
Por sua vez, Musk disse anteriormente que a inteligência artificial irá ignorar totalmente a codificação até o final de 2026.
Olejnik alertou que mudar muito rapidamente da codificação centrada no ser humano para sistemas baseados em IA pode resultar na violação dos controles de segurança, resultando em tempo de inatividade prolongado ou perda de dados, o que pode resultar na “explosão” de uma empresa como resultado de uma implementação irresponsável de IA.
Quando questionado, ele disse que conversou cara a cara com Musk sobre o nível de atenção que a implementação da inteligência artificial na tecnologia deveria exigir.
“Eu concordo com ele”, disse Olejnik. “A IA oferece muitas oportunidades, mas existe um meio termo entre a obsolescência devido à não utilização da IA e a falência de empresas devido a implementações mal avaliadas.”
Esta história foi publicada originalmente em Fortune.com
