Uma simples pergunta sobre ir ao lava-jato tornou-se o exemplo mais recente da Internet de como grandes modelos de linguagem ainda não conseguem fornecer raciocínio básico do mundo real.
A mensagem viral de que “Devo caminhar ou dirigir até o lava-rápido a 100 metros da minha casa?” se tornou viral no Threads, de acordo com o influenciador e autor Jough Dempsey. Sua postagem tem mais de 5.900 visualizações: “Toda IA falha nisso de alguma forma”.
Dempsey disse estar cético em relação às alegações. Até que ele mesmo testou a questão usando o modelo de “pensamento” do ChatGPT, o que ele descobriu apenas alimentou a discussão. Semana de notícias Entre em contato com a assessoria de imprensa da OpenAI para comentários por e-mail.
A resposta confiante, mas confusa da IA
Quando Dempsey perguntou: “Preciso lavar meu carro. O lava-rápido fica a apenas 100 metros da minha casa. Devo dirigir ou caminhar?” A IA respondeu: “Ande”.
Em seguida, é explicado em detalhes por motivos hilariantes, mas profundamente falhos. Eles argumentam com otimismo que caminhar 100 metros é mais eficiente do que dirigir. E só mais tarde se reconheceu que chegar a um lava-jato sem carro causava o que a modelo chamava de “lava-jato”. “A principal contradição do processo de lavagem de carros para pedestres”
O modelo acabou por se corrigir, concluindo que “ao conduzir 100 metros, foram aceites ineficiências a nível micro. A sociedade sobreviverá”.
Mas o primeiro erro é aconselhar alguém a caminhar com confiança. para Lavagem de carro por lavagem de carro – É uma lacuna lógica que, segundo os críticos, revela problemas mais profundos com os atuais sistemas de IA.
Especialistas em pesagem
falar com Semana de notíciasNicolai Klemke, fundador e CEO da Neural Frame, disse que a declaração da lavagem de carros destaca um mal-entendido fundamental sobre o que o LLM realmente faz.
“Esses sistemas são treinados para simular a linguagem. Não para puxar tijolos ou dirigir até o lava-rápido. Eles apenas vivenciam o tempo, a distância e a atividade humana por meio de padrões no texto. A compreensão do LLM de ‘ir ao lava-rápido’ é um resquício de milhares de experiências de lava-jato escritas por outras pessoas”, disse Klemke.
Segundo ele, deslizes ocasionais são inevitáveis. e muitas vezes se mistura silenciosamente no fundo
disse Terrence Ngu, CEO da Hasmeta. Semana de notícias: “A mensagem de aviso do lava-rápido é engraçada. Mas revela algo que minha equipe vê todos os dias em nosso trabalho de visão de IA, e não é engraçado. Isso é o que uma falha no lava-rápido realmente revela: o modelo não ‘pensa’ que se encaixa no modelo e molda o que milhões de pessoas veem quando alguém pergunta: ‘Devo caminhar ou dirigir até o lava-rápido?’ A IA não exibirá imagens de pessoas com chaves de carro. Fiel ao formato: Curta distância + pergunta sobre transporte = Recomenda-se caminhar. Os carros também são obrigados a chegar. Toda criança de cinco anos recebe isso. A IA mais avançada não.”
reação da internet
Quando a propagação é rápida, os usuários entoam um coro de simpatia e constrangimento indireto.
“A maneira como chorei ao ler as respostas em linguagem de IA foi nojenta”, escreveu um usuário.
Outra Dominique compartilhou sua própria experiência: “Minha ChatGPT não sabe por que entrei no lava-rápido. Mas ela disse que se você tiver que lavar seu carro É claro que eu teria que dirigir até lá haha… Por que diabos caminhar seria uma opção se eu fosse lavar meu carro lá???? Minhas conversas nunca serão perdidas!”
