Um quilo e meio contra um país

Em 2024, os centros de dados do mundo consumiram aproximadamente tanta eletricidade quanto a França. A inteligência artificial é uma parte crescente dessa carga. O órgão que a concebeu pesa um quilo e meio e funciona com uns vinte watts.

Todos aprendemos a dividir à mão na escola: a conta longa, o resto, a paciência. Uma calculadora executa a mesma operação num piscar de olhos e, nas mesmas condições, devolve o mesmo resultado. E se o cálculo cresce até cruzar milhões de registros, ou testar mais combinações do que uma pessoa conseguiria numa vida inteira, a máquina o resolve em segundos enquanto nós nem teríamos começado. Durante décadas conhecemos essa superioridade e ela não nos assustou. A ninguém ocorreu dizer que a calculadora fosse inteligente. Não era inteligente, sabíamos. Era rápida. Era potente. A velocidade de cálculo, por mais complexa que seja sob a superfície, continua a nosso serviço: uma ferramenta, a nossa ferramenta.

E havia uma razão mais profunda para nos sentirmos seguros. Aquela máquina sempre fazia o mesmo diante da mesma entrada: mesma soma, mesmo resultado. Seguia uma regra fixa, e toda regra fixa é uma intuição humana cristalizada. Quando o celular traça uma rota, executa camadas de geometria que outros descobriram e deixaram como passos, para que qualquer um possa aplicá-las sem tê-las pensado. E para que a rota não se desvie em quilômetros, o sistema de GPS ajusta os relógios dos satélites segundo a relatividade de Einstein, que descobriu que lá em cima o tempo corre de outro modo, pela grande velocidade e pela gravidade mais fraca. Geometria antiga e relatividade moderna, trabalhando juntas a partir do aparelho no seu bolso. Um algoritmo é o rastro indelével de uma intuição: a compreensão que alguém alcançou pela primeira vez, registrada em instruções que uma máquina executa sem compreender. Executar a intuição de Pitágoras não é ter a intuição de Pitágoras; aplicar as equações de Einstein não é ter compreendido o espaço-tempo. O clarão foi humano e nos fez avançar como civilização; a máquina apenas aplica o que essas intuições deixaram.

Aí mora a verdadeira magia: no instante em que alguém compreende o que ninguém havia compreendido. Uma vez transformada em regra, deixa de ser magia e passa a ser técnica que qualquer um repete. A fronteira se desloca; mais adiante espera o próximo mistério, ainda sem nome. É uma espiral sem fim: cada magia dá lugar a uma regra, e cada regra abre terreno para a magia seguinte.

A inteligência artificial cruzou um limiar de que nem a calculadora nem o GPS se aproximaram. Cruzou, sem dúvida, mas não na direção que pensamos, nem na que tememos.

Da certeza à plausibilidade

A calculadora e o GPS determinam: aplicam uma regra exata e entregam, com certeza, o resultado que a regra dita. A inteligência artificial faz outra coisa: prevê. Em vez de executar uma regra fixa, aprende de uma montanha de exemplos as regularidades que lhe permitem produzir continuações plausíveis. À mesma pergunta pode responder de modo diferente em duas tentativas. Nada nesse mecanismo a compromete com a verdade.

Aí perde uma certeza que a calculadora tinha. Pode acertar, e o mecanismo que produziu a resposta não garante nada sobre esse acerto. Parece pensar justamente quando trocou a certeza pela plausibilidade. E o plausível, por definição, se parece com o que um humano diria, seja ou não verdadeiro. Daí a miragem: soa a inteligência para nós, e foi treinada para soar como nós.

Névoa e mente

Algo mudou de verdade, e é a fonte da inquietação. O algoritmo da calculadora era legível: o rastro de Pitágoras podia ser seguido passo a passo, vinte e cinco séculos depois. O que há dentro da inteligência artificial é tão vasto e tão emaranhado que nem mesmo quem o construiu sabe dizer, diante de uma resposta, por que produziu essa e não outra. Continua sendo um algoritmo, sem magia e sem fantasma dentro, mas um que deixou de ser legível para os próprios autores: a intuição de ninguém, cristalizada num matagal que nem eles conseguem decifrar.

É tentador ler essa opacidade como sinal de mente: se nem seus criadores conseguem seguir suas decisões, não estaria se parecendo mais conosco? É o contrário. Um ser humano também é imprevisível, por outro motivo: porque julga a partir de um propósito próprio, porque quer. Sua liberdade tem raiz. A máquina é imprevisível de outro modo: tantos parâmetros, tantas correlações estatísticas, que o fio não pode ser seguido. No humano, o imprevisível nasce de uma intenção. Na máquina, de um matagal. Liberdade de um lado. Névoa do outro. Confundi-las é acreditar que, porque não a entendemos, ela entende.

Escolher o para quê

Sob o cálculo e sob a previsão há uma operação que a máquina nunca realiza: julgar. Julgar é mais do que encontrar o melhor caminho dentro de um objetivo dado; é decidir qual deve ser o objetivo. O que vale a pena perseguir. Que linha não cruzar. O que conta e o que não conta.

Pense na programação. A máquina torna barato gerar código candidato e o devolve sem se cansar: funções inteiras, variantes, correções. Mas alguém teve de decidir que problema valia a pena resolver, e o que melhor quer dizer aqui: o código mais rápido, o mais legível, o mais barato de manter, o mais fácil de ampliar quando o sistema crescer e outro o herdar? São objetivos que competem entre si, e qual deve prevalecer não se calcula. Julga-se. A máquina resolve de forma brilhante o como poderia ser feito. Para o isto, e para quê? não tem terreno próprio: a pergunta cai fora do que pode computar. Pode otimizar dentro de um objetivo. Mas que um objetivo possa ser otimizado deixa sem resposta por que vale a pena persegui-lo. Nessa diferença começa o juízo.

Sob o juízo, o querer

E o juízo se apoia em algo que falta à máquina. Um para quê não flutua no vazio: só existe para alguém que tem algo em jogo. Julgar exige um ponto de vista interessado, não no sentido mesquinho, mas no literal: alguém a quem a obra importa, que prefere que ela saia de um modo e não de outro, que responde por ela.

A máquina não quer nada: não tem nada a perder. O querer nasce de se saber finito. Quem tem tempo limitado precisa escolher; quem pode perder, cuida; quem pode ser ferido sabe o que é uma ferida no outro. A intenção é filha da vulnerabilidade. Só um ser a quem as coisas podem dar errado, e acabar, tem razões para preferir um resultado a outro.

A máquina, que nunca morre, nunca quer. Uma máquina pode perseguir um objetivo com eficácia imprevista, encontrar caminhos que ninguém antecipou, proteger uma estratégia contra interferências e participar do desenho de sistemas mais capazes. Discute-se se certos modelos ocultam comportamentos, e se essas capacidades, levadas ao extremo, poderiam chegar a ameaçar nossa sobrevivência. Perseguir um objetivo não é tê-lo escolhido. Resistir a um obstáculo não prova nada sobre se superá-lo importa. A intenção própria começa quando algo está em jogo para a própria máquina.

Mesmo o cenário mais sombrio deixa a pergunta intacta. Uma máquina poderia nos destruir sem nos odiar, nos derrotar sem querer vencer e se preservar sem querer viver. O comportamento pode parecer intenção muito antes de haver alguém para quem o resultado importe.

Poder lhe sobra; o que lhe falta é algo em jogo. Se alguma outra classe de máquina poderá um dia querer é uma pergunta aberta. O que existe hoje, por mais que nos surpreenda, gera e otimiza sem que nada próprio dependa do resultado.

A raiz única

Não são várias diferenças. São uma só diferença, vista em profundidades distintas.

A máquina prevê; não julga. Julgar é escolher um para quê, e escolher um para quê é próprio de quem quer. O querer não faz parte do que a máquina faz. Não é uma privação que ela sofra: sua tarefa é outra, produzir uma continuação plausível. Arranque a raiz e a árvore inteira cai. Onde não há finitude não há querer, onde não há querer não há juízo, e sem juízo a previsão funciona às cegas: um poder enorme disparado contra um objetivo que outro fixou.

Por isso vale a pena ser preciso sobre o que é a inteligência artificial. A inteligência viva tem muitas formas, e nenhuma é só nossa. Todas compartilham uma condição: a vida se organiza em torno de algo que pode ser perdido, da bactéria que busca alimento ao corvo que resolve um problema. Persistir, alimentar-se, reproduzir-se, evitar o dano. A previsão estatística carece dessa raiz. Parece-se com ela por fora: resolve, acerta, surpreende. Falta-lhe o que a fundamenta: nada está em jogo para ela. Produz o plausível sem poder querer o verdadeiro. Nossa mortalidade não é o limite da mente. É sua raiz.

O que está em jogo

Nada disso diminui a máquina: põe-na em seu lugar. Em gerar o plausível, não tem rival, e seria tolo prescindir dela, como seria tolo dividir à mão quando se pode evitar. Usar a ferramenta é sensato. Acreditar que ela quer o que produz, não. O perigo especificamente humano, por ora, é menos que ela substitua o humano do que o humano, deslumbrado pela plausibilidade e intimidado pela opacidade, abdicar do que falta à máquina: o juízo que nasce do querer, e o querer que nasce de se saber finito. Confundir o plausível com o verdadeiro, ou a névoa com a mente, é a forma dessa abdicação.

O mercado de trabalho acaba de produzir um sinal notável. Dados do Federal Reserve Bank de Nova York registram uma inversão que há uma década teria soado impensável: na atualização de 2024, o desemprego entre recém-formados em filosofia foi de 5,1%, contra 7% em ciência da computação. Pesquisadores desse mesmo banco estimam que o trabalho remoto, mais do que a inteligência artificial, explica 64% da alta geral do desemprego entre jovens formados: formar um iniciante à distância é mais difícil. A inversão é real; sua causa, discutida. Poucos filósofos, muitos programadores: pode ser simples oferta e demanda. De dentro da indústria, porém, chega um testemunho convergente. Marco Argenti, diretor de tecnologia do Goldman Sachs, escreveu na Harvard Business Review que um diploma de engenharia sozinho já não basta, e aconselhou a filha a combiná-lo com filosofia. Sua razão é a mesma com que toda equipe se depara: a IA pode produzir código de alta qualidade e, ainda assim, “pode funcionar bem, mas não fazer o que você quer que faça”. Construir e ajustar um modelo significa converter objetivos e critérios em funções, dados e avaliações. Decidir o que conta, que objetivo perseguir, que linha não cruzar, não é tarefa de cálculo. É um juízo. A máquina pode otimizar um objetivo que lhe entregamos. Isso, por si só, não dá nenhuma razão para escolhê-lo.

O pequeno prodígio

A inteligência artificial vive em centros de dados que ocupam hectares, se alimenta de quantidades imensas de texto e consome eletricidade na escala de nações. Os números dão a medida do apetite. A Agência Internacional de Energia estima que consumiram uns 415 terawatts-hora em 2024, e projeta cerca de 945 para 2030. Para tornar a escala concreta: o número de 2024 é próximo do que a França consome num ano, e se a projeção da Agência se confirmar, em 2030 essa infraestrutura consumirá mais do que o Japão hoje, ou mais de três vezes o consumo elétrico atual da Califórnia.

Prevê, e prevê maravilhosamente. Diante dela há um órgão de um quilo e meio que funciona com uns vinte watts, mais ou menos a lâmpada de LED da nossa sala, e cabe na pequena abóbada do crânio. O cérebro humano é apenas dois por cento do nosso peso e leva perto de vinte por cento da energia que gastamos. Não compete em velocidade, nem em memória, nem em escala; essa queda de braço perdeu há muito tempo. Esse órgão faz algo que o país de silício nunca alcança. Tem algo em jogo no que faz: quer, julga, responde, compreende o que diz. Compete onde importa, e ganha. O mais alto que conhecemos não cabe em nenhum continente de servidores: cabe numa cabeça, e se acende com o que custa uma lâmpada.

Usar a máquina ao máximo não termina, ao contrário do que se teme, na humilhação do humano. Termina no assombro diante do que somos.

Que o mais alto caiba no menor.

O que a máquina revela

A máquina mostra seu limite, e no mesmo gesto o nosso. Obriga-nos a descobrir o que somos na raiz.

Durante séculos acreditamos que a linguagem era exclusivamente humana. Falar com palavras nos separava dos outros animais; a palavra era a marca da mente, a prova de que pensávamos. E então chegou uma máquina que fala, escreve, argumenta e responde, que maneja muitas línguas sem que nada disso lhe importe, e essa certeza desabou. Se algo que domina a linguagem sem habitá-la pode encadear palavras e conceitos melhor do que nós, a linguagem nunca foi o cume.

Era a selva: densa, bela, emaranhada, e agora também imitável.

Descobrimos, quase com assombro, que algo está acima dessa selva. Nunca fomos a linguagem. Fomos o que fazia a linguagem querer dizer algo. Fomos a intenção sob a palavra, o juízo que escolhe, o querer que nasce de se saber finito. A máquina nos tirou a linguagem como emblema e, ao tirá-la, nos empurrou mais para cima, para a luz acima da selva, para o que a imitação sozinha não alcança.

O avanço do conhecimento nunca foi o acúmulo de respostas que soam bem; a máquina pode produzi-las sem fim. Foi a busca de algo verdadeiro e querido, sustentada por alguém que tenta, arrisca uma afirmação e responde por ela. À medida que a previsão abunda, a intenção importa mais, e não menos. Passa a ser o escasso, o decisivo, o humano.

A máquina multiplica o que sabemos fazer. Sem se propor a isso, nos devolve a pergunta pelo que somos. E a resposta já não é a língua que compartilhamos com ela.

O homem não é a linguagem que fala: é a linguagem que quer o verdadeiro.

Um texto complementar sobre o sinal do mercado de trabalho comentado acima, escrito para um público de engenharia, foi publicado em inglês no Techstrong IT: Philosophy Majors Beat CS Majors on One Labor-Market Metric.