Hiltzik: Dissipando o mundo do hype tecnológico

Talvez você perceba que estamos inundados de entusiasmo tecnológico. Carros autônomos, robôs semelhantes a humanos e chatbots de IA têm sido objeto de previsões e promessas às vezes exageradas.

Portanto, temos de agradecer a Rodney Brooks, um tecnólogo nascido na Austrália que tornou uma das suas missões na vida desmascarar a hipérbole oferecida por promotores, profissionais de marketing e verdadeiros crentes sobre estas e outras tecnologias supostamente transformadoras do mundo.

Como escrevi antes, Brooks não se parece em nada com um ludita. Contraste: ele foi cofundador da IRobot, fabricante do aspirador robô Roomba, embora tenha renunciado ao cargo de diretor de tecnologia da empresa em 2008 e deixado o conselho em 2011. Ele é cofundador e diretor de tecnologia da RobustAI, que constrói robôs para fábricas, computadores e ex-diretor de laboratórios de ciência da computação. no Instituto de Tecnologia de Massachusetts.

Em 2018, Brooks publicou um post de previsão de datas sobre o curso das principais tecnologias e prometeu revisitá-lo todos os anos durante 32 anos, quando completaria 95 anos. Ele se concentrou em tecnologias que eram então – e ainda são – o foco do debate público, incluindo carros autônomos, viagens espaciais humanas e robôs humanóides.

“É fácil ter ideias”, escreveu ele naquele post inicial. “É difícil torná-los realidade. É muito mais difícil colocá-los em escala.”

Brooks classificou suas previsões em três categorias: NIML, para “não durante minha vida”, NET, para “não antes de uma determinada data” e “até alguma (certa) data”.

Ele divulgou seu oitavo scorecard de previsão anual em 1º de janeiro. Ele descobriu que, ao longo dos anos, “minhas previsões se mantiveram muito bem, embora, no geral, eu tenha sido um pouco otimista demais”.

Por exemplo, em 2018, ele previu que “um robô que possa fornecer assistência física a adultos em muitas tarefas (por exemplo, levantar da cama, lavar-se, usar o banheiro, etc.)” não aparecerá antes de 2028; No dia de Ano Novo, escreve ele, “nenhuma resolução de objetivo geral está à vista”.

A primeira colônia humana “permanente” em Marte chegará antes de 2036, escreveu ele novamente, o que agora chama de “muito otimista”. Ele agora prevê uma aterrissagem humana em Marte antes de 2040, e nenhuma habitação antes de 2050.

Um robô que parece “inteligente, inteligente e leal como um cachorro” – não antes de 2048, previu ele em 2018. “É muito mais difícil do que a maioria das pessoas pensa”, escreve ele agora. “Muitos pensam que já estamos lá; eu digo que não estamos lá.” Seu veredicto sobre o robô “ter qualquer ideia real de sua própria existência, ou da existência de humanos de uma forma que um humano de 6 anos sabe” – “não durante minha vida”.

Brooks ressalta que uma maneira pela qual os desenvolvedores de alta tecnologia cumprem suas promessas exageradas é por meio de uma redefinição sutil. Esse foi o caso dos “carros autônomos”, escreve ele. Originalmente, o termo referia-se a “qualquer veículo que pode dirigir sem motorista e oferece dispositivos de controle diferentes de um motorista remoto… onde ninguém é obrigado a dirigir o veículo, mas simplesmente informa ao veículo para onde levá-lo”.

Waymo, o maior defensor do transporte autônomo, afirma em seu site que sua robótica “incorpora tecnologia totalmente autônoma que está sempre no controle, desde a coleta até o destino”. Os passageiros podem sentar, relaxar e aproveitar o passeio com um motorista Waymo que os leva com segurança ao seu destino.

Brooks desafia esta afirmação. Um buraco na estrutura da autonomia total, disse ele, tornou-se aparente em 20 de dezembro, quando uma queda de energia em São Francisco manteve grande parte da frota de robotáxis da Waymo fora das estradas. Waymos, que pode ler semáforos, fechou o cruzamento porque os semáforos estavam esmaecidos.

A empresa admitiu mais tarde que seus veículos às vezes “exigem verificações de validação” de humanos quando encontram sinais de trânsito apagados ou outras situações confusas. O apagão de 20 de dezembro, disse Waymo, “criou um aumento concentrado nessas solicitações”, resultando em “um cenário que, em alguns casos, causou atrasos nas respostas que contribuíram para o congestionamento em estradas já congestionadas”.

Waymo também é conhecido por pagar humanos para lidar fisicamente com veículos imóveis – por exemplo – a falha de um passageiro em fechar totalmente a porta do carro ao sair. Eles podem ser chamados por meio do aplicativo de terceiros Hank, usado principalmente por operadores de caminhão para encontrar clientes retidos.

“A geração atual de WeMos precisa de muita ajuda humana para trabalhar como trabalha, desde pessoas no centro de operações remoto para fornecer intervenção e aconselhamento humano quando algo dá errado, até a equipe de Hank Giggs que se aglomera pela cidade”, observa Brooks.

Waymo me disse que sua afirmação de operação “totalmente autônoma” se baseia no fato de que a tecnologia aeronáutica está sempre no controle de seus veículos. Em situações confusas, o carro ligará para a equipe humana de “resposta da frota” da Waymo, perguntando qual das várias rotas alternativas é a melhor. “O controle do veículo está sempre com o motorista do Waymo” – é a tecnologia da aeronave, disse-me o porta-voz Mark Lewis. “Um humano não pode dirigir um carro Waymo.”

Como designer líder de robôs, Brooks é particularmente cético em relação ao fascínio da indústria tecnológica por robôs humanóides. Ele escreve com base na experiência: Em 1998, ele estava construindo robôs humanóides com seus alunos de pós-graduação no MIT. Mais tarde, ele afirmou que as pessoas se sentiriam naturalmente confortáveis ​​com “robôs humanóides que agem como humanos; a interface é difícil em nossos cérebros” e que “humanos e robôs podem colaborar em tarefas de perto de maneiras anteriormente imaginadas apenas na ficção científica”.

Desde então, ficou claro que os robôs de uso geral que se parecem e agem como humanos são quiméricos. Na verdade, em muitas situações eles são perigosos. Um dos problemas não resolvidos no design de robôs, escreve ele, é que ninguém criou um robô com “destreza semelhante à humana”. As empresas de robótica que promovem os seus projetos não demonstraram que os seus produtos propostos têm “destreza multi-dedos, onde os humanos podem reconhecer objetos que não podem ser vistos e agarrar e manipular muitos objetos pequenos simultaneamente com uma mão”.

Os robôs de duas pernas têm tendência a cair e “exigir intervenção humana para se recuperar” quando caem para trás. Por serem pesados ​​e instáveis, “atualmente não são seguros para os humanos quando estão próximos enquanto caminham”.

(Brooks não menciona isso, mas mesmo os criadores de “Os Jetsons” na década de 1960 sabiam que os robôs domésticos não dependeriam de pernas – seus servos robôs, Rosie, trabalhavam em torno de sua família. sobre rodasUm conceito que surgiu como uma segunda natureza para os animadores há 60 anos, mas parece ter sido esquecido pelos engenheiros de hoje.)

Como observa Brooks: “Mesmo crianças de 3 ou 4 anos podem se movimentar por casas bagunçadas sem danos. … Aos 4 anos, elas podem abrir portas com maçanetas e mecanismos que nunca viram antes, e fechar essas portas com segurança atrás delas. Eles podem fazer isso quando entram em uma determinada casa pela primeira vez. Eles podem andar para cima e para baixo e encontrar o caminho.

“Mas espere, você diz, eu os vi dançar e cantar, e até mesmo descer das paredes.” Sim, você viu o teatro de robôs humanóides. “

A experiência de Brooks com inteligência artificial dá-lhe uma visão importante sobre as deficiências da atual safra de grandes modelos de linguagem – a tecnologia subjacente aos chatbots contemporâneos – o que eles podem ou não fazer e por quê.

“A mecânica básica dos grandes modelos de linguagem não responde a perguntas diretas”, escreve ele. “Em vez disso, dá o que parece ser uma resposta a uma pergunta. Isto é muito diferente de dizer algo que é preciso. O que aprendem não são os factos do mundo, mas a distribuição de probabilidade da probabilidade de qualquer palavra que responda à pergunta e às palavras que foram produzidas. Assim, os resultados da sua utilização, ocultos, são muitas e muitas coisas que são semelhantes à realidade ou não, que são coisas semelhantes à realidade ou não.”

A solução não é “treinar” bots LLM com mais e mais dados, esperando que eventualmente eles tenham bancos de dados grandes o suficiente para tornar desnecessárias suas falsificações. Brooks acha que este é um comportamento impróprio. A melhor opção é direcionar LLMs para atender necessidades específicas em campos específicos. Os bots são especializados em codificação de software, por exemplo, ou design de hardware.

“Precisamos de guardiões em torno dos LLMs para que valham a pena, e é aí que muito trabalho será feito nos próximos 10 anos”, escreve ele. “Eles simplesmente não podem ser soltos na natureza porque vêm direto do treinamento. … Mais treinamento não necessariamente melhora as coisas. O boxe faz coisas.”

O tema geral de Brooks é que superestimamos o que as novas tecnologias podem fazer e subestimamos quanto tempo leva para medir a utilidade de cada nova tecnologia. Os problemas mais difíceis são quase sempre os últimos a serem resolvidos. As pessoas pensam que as novas tecnologias continuarão a avançar ao ritmo que fizeram nas fases iniciais.

É por isso que a marcha para carros totalmente autônomos estagnou. Uma coisa é equipar os carros com alertas de mudança de faixa ou controle de cruzeiro que podem se ajustar à presença de um carro mais lento na frente; O caminho para o nível 5 de autonomia definido pela Society of Automotive Engineers – em que um carro pode conduzir sozinho em todas as situações sem que um ser humano precise de assumir o volante – está pelo menos a décadas de distância. Nenhum veículo de nível 5 é comumente usado hoje.

Acreditar nas afirmações baseadas na tecnologia de que um ou outro nirvana está próximo é um jogo mental. “Sempre leva mais tempo do que você pensa”, escreveu Brooks em sua postagem original de previsão. “Simplesmente faz.”