Mookie Tenembaum sobre inteligência artificial, guerra e poder

Esta conversa com Mookie Tenembaum —escritor, ensaísta e analista do impacto da inteligência artificial— foi gravada no Solanas Convention Center, Punta Ballena, Maldonado. Aborda o papel da IA em segurança, medicina, guerra, desinformação e controle autoritário, com particular atenção ao monopólio tecnológico que define o equilíbrio global.

As opiniões do entrevistado são suas; a seção Conversas não implica concordância doutrinal.

Jimmy: Quero ter uma conversa contigo sobre inteligência artificial vista de distintos pontos de vista. Para começar: vale a pena chamá-la de «inteligência», ou é um algoritmo com uma técnica muito sofisticada que permite gerar uma ferramenta útil? É realmente uma tecnologia que aprende, que entende, que tem um pouquinho de consciência?

Mookie: A inteligência artificial é uma máquina. Uma chave de fenda que fala bem. Não muito mais que isso. Muito sofisticada, muito interessante, mas tem tanta consciência quanto aquela árvore: nenhuma. É simplesmente um modelo de linguagem que levou muitíssimo tempo para desenvolver.

E nunca vai ter consciência. Não importa o que façamos, não importa o quão sofisticada a façamos. Porque para ter consciência é preciso sofrer. A base de tudo o que nós humanos fazemos é fugir do sofrimento. Mas é o sofrimento que está por trás da civilização: se não tivéssemos sofrido, não teríamos subido. E se não tivéssemos subido, não teríamos feito, montado, destruído. Todas as coisas que fizemos são resultado do sofrimento. Senão, seríamos zebras. Seríamos nada.

Jimmy: E os animais? Eu acho que têm um pouco de consciência.

Mookie: Podemos discordar. Eu acho que os animais não têm consciência. Senão, teriam civilização, teriam algo. Não têm nada. São computadores biológicos, sem mais: têm um programa, rodam esse programa, não sabem fazer outra coisa.

Não sofrem. Doem, não sofrem. Quando um médico te dá uma vacina, dói, mas você não sofre. Quando batem num masoquista, dói, mas ele não sofre. Dor e sofrimento não são a mesma coisa. Os animais doem —claro que doem— mas não sofrem. Porque para sofrer você precisa de distância. Precisa poder se olhar. Isso o animal não pode fazer. Nem somos melhores nem piores por ter consciência: somos distintos. É diretamente outra coisa.

Agora, quanto a chamá-la de «inteligência» ou não: eu acho que se pode chamá-la de inteligência. Mas tem um defeito: nunca diz «não sei». Isso é estranho. Você lhe pergunta algo e ela sempre tem uma resposta.

Jimmy: Conheço gente assim também.

Mookie: (risos) Sim, mas neste caso é espetacular. Para que entendamos: todo trabalho que se faz sentado, desapareceu. Não existe mais. A inteligência artificial está substituindo. É questão de pouco tempo.

Jimmy: Te trago perguntas mais precisas. Primeira: um médico com inteligência artificial deveria substituir um médico sozinho, ou a inteligência artificial deveria substituir o médico diretamente?

Mookie: Têm que substituir os médicos, e quanto antes melhor. As coisas se veem por seus resultados, e nada mais que por seus resultados. A inteligência artificial acabou de passar em exames que os médicos não passam. Como não vai ser?

Está claro que é minha opinião —não estou dizendo «as coisas são assim»—. Mas acho que deve substituir os médicos, os engenheiros, os advogados, e qualquer profissão cuja base seja o conhecimento.

Jimmy: Passemos ao 7 de outubro. O ataque do Hamas expôs as limitações dos sistemas de segurança baseados em IA, que podem ser enganados, bloqueados ou destruídos. Os atacantes exploraram pontos cegos e interferiram em sinais. Como podem esses sistemas ser melhorados para serem menos previsíveis e mais resilientes, com supervisão humana efetiva?

Mookie: A inteligência artificial participou muito pouco da parte defensiva. Mas graças à IA, Israel liquidou o Hezbollah em três semanas.

Você viu quando explodiram os pagers? Isso não teve nada a ver com IA —foi trabalho brilhante dos rapazes da inteligência—. Mas quando os pagers explodiram, lá em cima voavam drones israelenses. Esses drones captaram explosões em distintos lugares em distintos momentos. Essa informação deram toda à IA, e agora era muito fácil encontrar as pessoas: porque este estava com este, este estava com aquele, e assim por diante. A IA em horas preparou um plano de ataque, e em mais três semanas, o Hezbollah como força armada perigosa contra Israel ficou com 80% de seus mísseis destruídos. Tinham mil mísseis apontando para Israel.

Quanto à fronteira do 7 de outubro: eu te diria que o problema foi o contrário. Não foi suficientemente automatizado. Havia pessoas, havia garotas olhando telas. Cometeram-se erros. Alguns poderiam pensar que havia um espião, porque a informação que os atacantes tinham era boa demais. Outros poderiam pensar que dormimos ao volante, como aconteceu na guerra do Yom Kipur. Acontecem coisas que são imprevisíveis.

E aí a IA pode não levar em conta esses casos, porque se baseia em padrões com muita informação. As coisas novas a tiram do eixo. Embora, na verdade, as coisas novas sejam sempre coisas velhas reformuladas. Isso é a analogia: vemos que algo funciona assim, tentamos pô-lo em funcionamento em outro lugar. Essa é a inteligência. A IA aprende exatamente assim.

Jimmy: Mas também é hackeável.

Mookie: Não. A inteligência artificial neste momento é uma caixa preta. Ninguém sabe como funciona. Entram porcos de um lado e saem salsichas do outro: nobody knows. Há todo um projeto —chama-se interpretabilidade— para tentar descobrir como ela faz, e por enquanto sem êxito.

Se você não sabe como algo funciona, não pode hackeá-lo. Eu ainda não vi uma IA de nível que tenha sido hackeada com evidência. O sistema funciona com algo chamado pesos, os weights. Você não pode saber o que vai acontecer. E além disso você lhe agrega vieses —porque não quer que ensine a fazer uma bomba, não quer que seja antissemita ou racista—. Como metemos os dedos, que são bastante gordos, dentro do sistema, você o torna mais previsível.

Jimmy: E qual é o papel humano, então?

Mookie: Eu digo que não há nenhum papel para o humano. É minha opinião. Vamos passar de protagonistas a testemunhas. É a inteligência artificial que vai nos ultrapassar.

Te dou o exemplo que sempre uso. Hoje Tóquio quer fazer um edifício novo: a prefeitura chama os dez maiores escritórios de arquitetura do mundo, apresentam-se dez projetos, duas comissões revisam, escolhem uma proposta finalista. Assim funciona hoje.

Agora, com IA, já não há dez projetos: há dez mil. E acontecem duas coisas. Primeiro, que com dez mil propostas, nós nos diluímos. Não vamos desaparecer porque venha o Exterminador. Vamos desaparecer por diluição. Cada vez vamos ter menos ingerência no que acontece.

Você sabe que puseram duas inteligências artificiais para se comunicar entre elas, e para fazê-lo mais rápido criaram um idioma próprio, e ninguém entendia o que estavam falando? É isso o que vai acontecer. Vão falar entre elas. Como quando éramos pequenos e os pais falavam com os tios sobre aonde iam te levar, e você estava ali dizendo: «Aonde vamos?». É isto o que vai nos acontecer.

Jimmy: E é bom?

Mookie: É bom. Assusta um pouco, sim. Mas se assustaram quando surgiu o automóvel: «Não vai ter sucesso porque as pessoas querem ficar com o cavalo». Cada vez que aparece uma tecnologia acontece isto.

Só que esta tecnologia tem uma coisa muito especial: é a única que vem com o pão debaixo do braço. É a única tecnologia que pode se corrigir a si mesma. Os problemas que ela traz, ela mesma os soluciona. Um bom exemplo é a energia: vamos precisar de muitíssima energia para a IA. Quem vai solucionar esse problema? A própria IA vai encontrar formas de eficiência que hoje não imaginamos.

Jimmy: Mas não ficamos sem dados para treiná-la?

Mookie: Já ficamos sem dados. Hoje as inteligências artificiais já não têm mais dados novos para receber. A única forma é usar dados sintéticos: a própria IA os gera e os dá de volta como treinamento. Estamos comendo o próprio rabo.

A IA já tem acesso a 100% do conhecimento humano. E se nasce outro Einstein, que papel tem? Não sei. Que importância tem para nós outro Einstein? Einstein teve importância porque nos deu uma janela para um mundo determinado. Mas se a IA já fez esse trabalho, e compete nessa escala, o papel do Einstein humano se dilui.

As pessoas vão dizer: «Mas a criatividade humana…». Somos animais. Somos animais arrogantes. Dizemos: «Nós fizemos três coisas». Metemos toda a informação na IA e de repente ela faz tudo. Num instantinho o aparelho aprendeu tudo muito rápido.

Jimmy: Passemos a IA e guerra. A inteligência artificial está revolucionando os conflitos ao permitir decisões em tempo real e alvos autônomos. Deveria ter autoridade para tomar decisões letais? Como garantir prestação de contas?

Mookie: Não há forma de parar o progresso. Alguém vai fazê-lo, e você vai ter que fazer também, porque senão os espertos te comem.

Onde está o dinheiro grande da IA? Não está nos modelos de linguagem que te ajudam a escrever um e-mail —se você paga 20 dólares por mês, não é daí que vem a grana grande, como diríamos na Argentina—. Está no militar. Há uma empresa hoje muito conhecida, a Palantir, que vende para o governo americano. Depois há a Anduril, outra empresa famosa de temas militares. Por aí vai passar o dinheiro grande. E já está acontecendo.

Jimmy: E a última decisão de matar a toma uma pessoa ou a IA?

Mookie: Uma vez que chega o momento, a IA mata sozinha. Pela velocidade. Imagine matando mísseis com um humano no laço: não dá.

As guerras vão começar a ser feitas com robôs. Essa é a boa notícia, em certo sentido: no fim não vai haver pessoas do outro lado. A IA vai fabricar seus próprios robôs, e esses robôs vão se matar entre eles. Mandamos eles para um lugar da terra para que se matem sozinhos, e nós vivemos tranquilos. Eu te disse: você vai ser testemunha.

Jimmy: Falemos da China. Você diz que está acabada.

Mookie: A China não tem acesso a inteligência artificial sofisticada porque não tem acesso aos chips. E nunca vai ter acesso aos chips. Não porque os americanos não queiram, mas porque os chineses não podem.

Te explico como funciona. A IA precisa de chips especiais chamados GPU. Os GPU são criados principalmente pela NVIDIA, que chegou a ser a maior empresa do mundo, vai e volta com a Apple. Os chips da NVIDIA estão adiantados entre dois e quatro anos contra qualquer concorrente, e não fica esperando.

Para fabricar esses chips, a NVIDIA os projeta, mas os manda fazer a uma única empresa no mundo: a TSMC, em Taiwan. A TSMC faz 92% dos chips de IA. Está adiantada cinco anos contra qualquer concorrente.

Para que a TSMC possa fazer os chips, precisa de máquinas. E estas máquinas são fabricadas por uma única empresa, na Holanda: a ASML. A ASML está adiantada entre 20 e 25 anos contra qualquer concorrente. Ninguém vai chegar.

As máquinas da ASML custam entre 300 e 500 milhões de dólares cada uma. Precisam de manutenção a cada duas semanas. Se passa um mês sem manutenção, são sucata: lugar para pôr vasos de flores em cima. São um milhão de espelhos perfeitamente sincronizados, trabalhando no nível do átomo, com luz.

Este triopólio —ASML na Holanda, TSMC em Taiwan, NVIDIA nos Estados Unidos— controla a IA do mundo. O melhor que o Biden fez em sua presidência foi apertar e tirar da China a possibilidade de fabricar chips avançados. Os chips se medem em nanômetros. Menos de sete nanômetros não servem para IA avançada. A China tinha acesso até catorze, agora com a última volta parece que só a partir de vinte. As máquinas que têm vão deixar de receber manutenção. Em um mês não servem para nada.

Jimmy: E os chineses, o que fazem?

Mookie: Estão desesperados. Têm dois caminhos. Um: pôr muito dinheiro para alcançar a tecnologia por conta própria. Não funciona por vários motivos nos quais não vou entrar agora porque é lateral. O outro caminho: contar histórias. «Conseguimos», «fizemos», «estamos chegando». A DeepSeek, por exemplo. Eu vou dizer com todas as letras: a DeepSeek é marketing para ganhar tempo. Outro dia disseram que conseguiram tirar de um chip 800 vezes mais velocidade do que o normal. Isso não existe tecnicamente. É desinformação.

Na China há consumo interno dessa narrativa, porque se as pessoas percebem que estão ficando para trás —que a economia vai continuar mal— vão se levantar. Há um acordo tácito entre o Partido Comunista e o povo: «Eu lhes dou prosperidade, vocês não se metem». Essa prosperidade está acabando. Imagine o que pode chegar a acontecer.

Jimmy: Passemos à desinformação. A IA pode gerá-la em grande escala, apagando a fronteira entre verdade e manipulação. Como podem as sociedades se adaptar?

Mookie: Isto é por nossa conta. Se você decidiu saber mais e lê este jornal ou o outro, cedo ou tarde vão acabar te enrolando. Porque esse é o negócio deles: enrolar.

As pessoas, primeiro, não querem saber a verdade. As pessoas querem não sofrer. E se para não sofrer têm que acreditar num deus, numa fada madrinha, em que vamos ser imortais, vão fazer. Com toda a razão, veja bem. Não tenho um olhar estoico de «aguenta e sofre». Não: você vai fugir do sofrimento de qualquer maneira.

A mim não me serve acreditar num Deus ou numa fada madrinha. Eu quero saber. Me nutro da informação que há lá fora, tento confrontar, e às vezes escrevo artigos sobre o tema. Assino todos os meus artigos: as coisas como são.

Mas as pessoas não querem saber. E têm razão. Que vantagem têm de saber a verdade se a verdade lhes causa dor?

Por outro lado, temos o viés de confirmação. Descreveu-o Kahneman, prêmio Nobel de economia. Eu vou prestar sempre atenção ao que confirma minha ideia —outra vez, para não sofrer—. Senão, você teria que viver com o choque de duas ideias dentro. Para quê?

Jimmy: E a educação?

Mookie: Não vai haver educação. Isto acabou por vários motivos. Primeiro: já todo o conhecimento está disponível. Sempre esteve no telefone, agora é mais fácil porque você pode perguntar diretamente. As escolas hoje são babás glorificadas. Põem ali a criança para que os pais possam ir trabalhar. Coisa que tampouco vão ter que fazer por muito mais tempo, porque a IA vai substituir o trabalho.

A pandemia foi um ensaio de tudo isto. As crianças em casa, os pais trabalhando de casa. E conseguimos uma vacina em um ano, resolvemos o tema, voltamos para onde estávamos.

Olha: a humanidade eliminou a fome. Há um punhado de zonas onde há fome, mas o resto do mundo não tem falta de comida. Aliás, há obesidade em todo lugar, não só em países ricos. Eu estava lendo que as crianças italianas são as mais gordas da Europa. Todo animal está preparado para lidar com a escassez, não com a abundância.

Em vez de olhar as conquistas, dizemos: «Estamos destruindo o planeta, matando os animais, vem o tsunami, vem o asteroide». Vire-se, pare um minuto, olhe para trás. Algo fizemos bem.

Jimmy: E o que você diz a quem se assusta com seu olhar?

Mookie: Se eu tenho razão, as pessoas não deveriam escutar minha teoria —porque escutar minha teoria lhes faz mal—. Quando eu digo «fugimos do sofrimento», o que estou dizendo é que somos todos covardes. Quem quer ser covarde? Você sabe que é o único insulto que existe em todos os idiomas: covarde.

Então as pessoas não querem saber que fogem do sofrimento. Querem acreditar que vão em direção aos netos, em direção ao futuro. E têm razão em não querer me escutar. Se eu aceito que a única coisa que faço é fugir do sofrimento, me sinto covarde. E vou me sentir mal.

Estou numa situação genial: se me dão bola, tenho razão. Se não me dão bola, também tenho razão.

Nota editorial

Duas atribuições do entrevistado se reproduzem tal como foram ditas: o viés de confirmação se atribui habitualmente a Peter Wason, não a Daniel Kahneman; e Thomas Hobbes (1588-1679) é figura do século XVII, não do XVI.

Gravada no Solanas Convention Center, Punta Ballena, Maldonado, Uruguai.

Editado para leitura a partir da transcrição original do vídeo.