Mookie Tenembaum sobre inteligencia artificial, guerra y poder

Esta conversación con Mookie Tenembaum —escritor, ensayista y analista del impacto de la inteligencia artificial— se grabó en Solanas Convention Center, Punta Ballena, Maldonado. Aborda el papel de la IA en seguridad, medicina, guerra, desinformación y control autoritario, con particular atención al monopolio tecnológico que define el equilibrio global.

Las opiniones del entrevistado son suyas; la sección Conversaciones no implica coincidencia doctrinal.

Jimmy: Quiero tener una charla contigo sobre inteligencia artificial mirada desde distintos puntos de vista. Para comenzar: ¿vale la pena llamarla «inteligencia», o es un algoritmo con una técnica muy sofisticada que permite generar una herramienta útil? ¿Es realmente una tecnología que aprende, que entiende, que tiene un poquito de conciencia?

Mookie: La inteligencia artificial es una máquina. Un destornillador que habla bien. No mucho más que eso. Muy sofisticado, muy interesante, pero tiene tanta conciencia como ese árbol: ninguna. Es simplemente un modelo de lenguaje que llevó muchísimo tiempo desarrollar.

Y nunca va a tener conciencia. No importa lo que hagamos, no importa cuán sofisticada la hagamos. Porque para tener conciencia hay que sufrir. La base de todo lo que hacemos los humanos es huir del sufrimiento. Pero es el sufrimiento el que está detrás de la civilización: si no hubiéramos sufrido, no hubiéramos subido. Y si no hubiéramos subido, no hubiéramos hecho, armado, destruido. Todas las cosas que hicimos son resultado del sufrimiento. Si no, seríamos cebras. Seríamos nada.

Jimmy: ¿Y los animales? Yo creo que tienen un poco de conciencia.

Mookie: Podemos disentir. Yo creo que los animales no tienen conciencia. Si no, tendrían civilización, tendrían algo. No tienen nada. Son computadoras biológicas, sin más: tienen un programa, corren ese programa, no saben hacer otra cosa.

No sufren. Duelen, no sufren. Cuando un médico te da una vacuna, te duele pero no sufrís. Cuando a un masoquista le pegan, le duele pero no sufre. Dolor y sufrimiento no son lo mismo. Los animales duelen —claro que duelen— pero no sufren. Porque para sufrir necesitás distancia. Necesitás poder mirarte. Eso el animal no puede hacer. Ni somos mejores ni peores por tener conciencia: somos distintos. Es directamente otra cosa.

Ahora, en cuanto a llamarla «inteligencia» o no: yo creo que se la puede llamar inteligencia. Pero tiene un defecto: nunca dice «no sé». Eso es raro. Vos le preguntás algo y siempre tiene una respuesta.

Jimmy: Conozco gente así también.

Mookie: (risas) Sí, pero en este caso es espectacular. Para que entendamos: todo trabajo que se hace sentado, desapareció. No existe más. La inteligencia artificial lo está reemplazando. Es cuestión de poco tiempo.

Jimmy: Te traigo preguntas más precisas. Primera: ¿un doctor con inteligencia artificial debería reemplazar a un doctor solo, o la inteligencia artificial debería reemplazar al doctor directamente?

Mookie: Tienen que reemplazar a los médicos, y cuanto antes mejor. Las cosas se ven por sus resultados, y nada más que por sus resultados. La inteligencia artificial acaba de pasar exámenes que los médicos no pasan. ¿Cómo no va a ser?

Está claro que es mi opinión —no estoy diciendo «así son las cosas»—. Pero creo que debe reemplazar a los médicos, a los ingenieros, a los abogados, y a cualquier profesión cuya base sea el conocimiento.

Jimmy: Pasemos al 7 de octubre. El ataque de Hamás expuso las limitaciones de los sistemas de seguridad basados en IA, que pueden ser engañados, bloqueados o destruidos. Los atacantes explotaron puntos ciegos e interfirieron señales. ¿Cómo pueden mejorarse estos sistemas para ser menos predecibles y más resilientes, con supervisión humana efectiva?

Mookie: La inteligencia artificial participó muy poco en la parte defensiva. Pero gracias a la IA, Israel liquidó a Hezbolá en tres semanas.

¿Viste cuando explotaron los beepers? Eso no tuvo nada que ver con IA —fue trabajo brillante de los muchachos de inteligencia—. Pero cuando los beepers explotaron, arriba volaban drones israelíes. Esos drones captaron explosiones en distintos lugares en distintos momentos. Esa información se la dieron toda a la IA, y ahora era muy fácil encontrar la gente: porque este estaba con este, este estaba con aquel, y así. La IA en horas preparó un plan de ataque, y en tres semanas más, Hezbolá como fuerza armada peligrosa contra Israel quedó al 80% de sus misiles destruidos. Tenían mil misiles apuntando a Israel.

En cuanto a la frontera del 7 de octubre: yo te diría que el problema fue lo contrario. No fue lo suficientemente automatizado. Había personas, había chicas mirando pantallas. Se cometieron errores. Algunos podrían pensar que había un espía porque la información que tenían los atacantes era demasiado buena. Otros podrían pensar que nos dormimos al volante, como pasó en la guerra de Yom Kipur. Pasan cosas que son imprevisibles.

Y ahí la IA puede no tomar en cuenta esos casos, porque se basa en patrones con mucha información. Las cosas nuevas la sacan de eje. Aunque, en realidad, las cosas nuevas son siempre cosas viejas reformuladas. Eso es la analogía: vemos que algo funciona así, lo tratamos de poner en funcionamiento en otro lugar. Esa es la inteligencia. La IA aprende exactamente así.

Jimmy: Pero también es hackeable.

Mookie: No. La inteligencia artificial en este momento es una caja negra. Nadie sabe cómo funciona. Entran chanchos de un lado y salen salchichas del otro: nobody knows. Hay todo un proyecto —se llama interpretabilidad— para tratar de averiguar cómo lo hace, y por ahora sin éxito.

Si no sabés cómo funciona algo, no podés hackearlo. Yo no he visto todavía una IA de nivel que haya sido hackeada con evidencia. El sistema funciona con algo llamado pesos, los weights. Vos no podés saber qué va a pasar. Y además le agregás sesgos —porque no querés que enseñe a hacer una bomba, no querés que sea antisemita o racista—. Como metemos los dedos, que son bastante gordos, adentro del sistema, lo hacés más predecible.

Jimmy: ¿Y cuál es el rol humano entonces?

Mookie: Yo digo que no hay ningún rol para el humano. Es mi opinión. Vamos a pasar de protagonistas a testigos. Es la inteligencia artificial la que nos va a pasar.

Te doy el ejemplo que siempre uso. Hoy Tokio quiere hacer un edificio nuevo: la municipalidad llama a los diez estudios de arquitectura más grandes del mundo, se presentan diez proyectos, dos comisiones revisan, eligen una propuesta finalista. Así funciona hoy.

Ahora, con IA, ya no hay diez proyectos: hay diez mil. Y pasan dos cosas. Primero, que con diez mil propuestas, nosotros nos diluimos. No vamos a desaparecer porque venga Terminator. Vamos a desaparecer por dilución. Cada vez vamos a tener menos injerencia en lo que pasa.

¿Sabés que pusieron a dos inteligencias artificiales a comunicarse entre ellas, y para hacerlo más rápido crearon un idioma propio, y nadie entendía lo que estaban hablando? Eso es lo que va a pasar. Van a hablar entre ellas. Como cuando éramos chiquitos y los padres hablaban con los tíos sobre adónde iban a llevarte, y vos estabas ahí diciendo: «¿A dónde vamos?». Esto es lo que nos va a pasar.

Jimmy: ¿Y está bueno?

Mookie: Está bueno. Asusta un poco, sí. Pero se asustaron cuando salió el auto: «No va a tener éxito porque la gente quiere estar con el caballo». Cada vez que aparece una tecnología pasa esto.

Solo que esta tecnología tiene una cosa muy especial: es la única que viene con el pan debajo del brazo. Es la única tecnología que puede corregirse a sí misma. Los problemas que ella trae, ella misma los soluciona. Un buen ejemplo es la energía: vamos a necesitar muchísima energía para la IA. ¿Quién va a solucionar ese problema? La propia IA va a encontrar formas de eficiencia que hoy no imaginamos.

Jimmy: ¿Pero no nos quedamos sin datos para entrenarla?

Mookie: Ya nos quedamos sin datos. Hoy las inteligencias artificiales ya no tienen más datos nuevos para recibir. La única forma es usar datos sintéticos: la propia IA los genera y se los da de vuelta como entrenamiento. Nos estamos comiendo la cola.

La IA ya tiene acceso al 100% del conocimiento humano. Y si nace otro Einstein, ¿qué rol tiene? No sé. ¿Qué importancia tiene para nosotros otro Einstein? Einstein tuvo importancia porque nos dio una ventana a un mundo determinado. Pero si la IA ya hizo ese trabajo, y compite con esa escala, el rol del Einstein humano se diluye.

La gente va a decir: «Pero la creatividad humana…». Somos animales. Somos animales arrogantes. Decimos: «Nosotros hicimos tres cosas». Metimos toda la información en la IA y de repente lo hace todo. En un ratito el aparato aprendió todo muy rápido.

Jimmy: Pasemos a IA y guerra. La inteligencia artificial está revolucionando los conflictos al permitir decisiones en tiempo real y objetivos autónomos. ¿Debería tener autoridad para tomar decisiones letales? ¿Cómo garantizar rendición de cuentas?

Mookie: No hay forma de parar el progreso. Alguien lo va a hacer, y vos lo vas a tener que hacer también, porque si no, te van a comer los vivos.

¿Dónde está la plata grande de la IA? No está en los modelos de lenguaje que te ayudan a escribir un mail —si pagás 20 dólares por mes, no es ahí donde viene la guita grande, como diríamos en Argentina—. Está en lo militar. Hay una compañía hoy muy conocida, Palantir, que le vende al gobierno americano. Después está Anduril, otra compañía famosa de temas militares. Por ahí va a pasar el dinero grande. Y ya está ocurriendo.

Jimmy: ¿Y la última decisión de matar la toma una persona o la IA?

Mookie: Una vez que llega el momento, la IA mata sola. Por la velocidad. Imagínate matando misiles con un humano en el lazo: no se puede.

Las guerras van a empezar a hacerse con robots. Esa es la buena noticia, en cierto sentido: al final no va a haber personas del otro lado. La IA va a fabricar sus propios robots, y esos robots se van a matar entre ellos. Los mandamos a un lugar de la tierra a que se maten solos, y nosotros vivimos tranquilos. Te dije: vas a ser testigo.

Jimmy: Hablemos de China. Vos decís que está terminada.

Mookie: China no tiene acceso a inteligencia artificial sofisticada porque no tiene acceso a los chips. Y nunca va a tener acceso a los chips. No porque los americanos no quieran, sino porque los chinos no pueden.

Te explico cómo funciona. La IA necesita chips especiales llamados GPU. Los GPU los crea principalmente NVIDIA, que llegó a ser la empresa más grande del mundo, va y viene con Apple. Los chips de NVIDIA están adelantados entre dos y cuatro años contra cualquier competidor, y no se queda esperando.

Para fabricar esos chips, NVIDIA los diseña pero los manda a hacer a una sola compañía en el mundo: TSMC, en Taiwán. TSMC hace el 92% de los chips de IA. Está adelantada cinco años contra cualquier competidor.

Para que TSMC pueda hacer los chips, necesita máquinas. Y estas máquinas las fabrica una sola compañía, en Holanda: ASML. ASML está adelantada entre 20 y 25 años contra cualquier competidor. Nadie va a llegar.

Las máquinas de ASML cuestan entre 300 y 500 millones de dólares cada una. Necesitan service cada dos semanas. Si pasa un mes sin service, son chatarra: lugar para poner floreros encima. Son un millón de espejos perfectamente sincronizados, trabajando sobre el nivel del átomo, con luz.

Este tríopolio —ASML en Holanda, TSMC en Taiwán, NVIDIA en Estados Unidos— controla la IA del mundo. Lo mejor que hizo Biden en su presidencia fue apretar y sacarle a China la posibilidad de fabricar chips avanzados. Los chips se miden en nanómetros. Menos de siete nanómetros no sirven para IA avanzada. China tenía acceso hasta catorce, ahora con la última vuelta parece que solo desde veinte. Las máquinas que tienen van a dejar de recibir service. En un mes no sirven para nada.

Jimmy: ¿Y los chinos qué hacen?

Mookie: Están desesperados. Tienen dos caminos. Uno: poner mucho dinero para alcanzar la tecnología por su cuenta. No funciona por varios motivos en los que no voy a entrar ahora porque es lateral. El otro camino: contar cuentos. «Logramos», «hicimos», «venimos». DeepSeek, por ejemplo. Yo voy a decirlo con todas las letras: DeepSeek es marketing para ganar tiempo. El otro día dijeron que lograron sacar de un chip 800 veces más velocidad de lo normal. Eso no existe técnicamente. Es desinformación.

En China hay consumo interno de esa narrativa, porque si la gente se da cuenta de que se quedan atrás —que la economía va a seguir mal— se va a levantar. Hay un acuerdo tácito entre el Partido Comunista y el pueblo: «Yo les doy prosperidad, ustedes no se meten». Esa prosperidad se está terminando. Imagínate lo que puede llegar a pasar.

Jimmy: Pasemos a desinformación. La IA puede generar a gran escala, borrando la frontera entre verdad y manipulación. ¿Cómo pueden las sociedades adaptarse?

Mookie: Esto cuenta nuestra. Si vos decidiste saber más y leés este diario o el otro, tarde o temprano te van a terminar vendiendo un buzón. Porque ese es el negocio de ellos: vender buzones.

La gente, primero, no quiere saber la verdad. La gente quiere no sufrir. Y si para no sufrir tiene que creer en un dios, en una madrina, en que vamos a ser inmortales, lo va a hacer. Con justa razón, ojo. No tengo una mirada estoica de «aguantátela y sufrí». No: igual vas a huir del sufrimiento.

A mí no me sirve creer en un Dios o en una madrina. Yo quiero saber. Me nutro de la información que hay afuera, trato de cotejar, y a veces escribo artículos sobre el tema. Firmo todos mis artículos: las cosas como son.

Pero la gente no quiere saber. Y tiene razón. ¿Qué ventaja tienen de saber la verdad si la verdad les hace doler?

Por otro lado, tenemos el sesgo de confirmación. Lo describió Kahneman, premio Nobel de economía. Yo voy a prestar siempre atención a lo que confirma mi idea —otra vez, para no sufrir—. Si no, tendrías que vivir con el choque de dos ideas adentro. ¿Para qué?

Jimmy: ¿Y la educación?

Mookie: No va a haber educación. Esto se terminó por varios motivos. Primero: ya todo el conocimiento está disponible. Siempre estuvo en el teléfono, ahora es más fácil porque le podés preguntar directamente. Los colegios hoy son babysitters glorificados. Te ponen ahí al chico para que los padres puedan ir a trabajar. Cosa que tampoco van a tener que hacer mucho tiempo más, porque la IA va a reemplazar el trabajo.

La pandemia fue un ensayo de todo esto. Los chicos en casa, los padres trabajando desde casa. Y conseguimos una vacuna en un año, solucionamos el tema, volvimos donde estábamos.

Mirá: la humanidad eliminó el hambre. Hay un puñado de zonas donde hay hambre, pero el resto del mundo no le falta comida. De hecho hay obesidad en todos lados, no solo en países ricos. Estaba leyendo que los chicos italianos son los más gordos de Europa. Todo animal está preparado para lidiar con la escasez, no con la abundancia.

En vez de mirar los logros decimos: «Estamos destruyendo el planeta, matando los animales, viene el tsunami, viene el asteroide». Date vuelta, parate un minuto, mirá para atrás. Algo bien hicimos.

Jimmy: ¿Y qué decís a quienes se asustan con tu mirada?

Mookie: Si yo tengo razón, la gente no debería escuchar mi teoría —porque escuchar mi teoría les hace mal—. Cuando yo digo «huimos del sufrimiento», lo que estoy diciendo es que somos todos cobardes. ¿Quién quiere ser cobarde? Sabés que es el único insulto que existe en todos los idiomas: cobarde.

Entonces la gente no quiere saber que huye del sufrimiento. Quiere creer que va hacia los nietos, hacia el futuro. Y tienen razón en no querer escucharme. Si yo acepto que lo único que hago es huir del sufrimiento, me siento cobarde. Y me voy a sentir mal.

Estoy en una situación genial: si me dan bola, tengo razón. Si no me dan bola, también tengo razón.

Nota editorial

Dos atribuciones del entrevistado se reproducen tal como fueron dichas: el sesgo de confirmación se atribuye habitualmente a Peter Wason, no a Daniel Kahneman; y Thomas Hobbes (1588-1679) es figura del siglo XVII, no del XVI.

Grabada en Solanas Convention Center, Punta Ballena, Maldonado, Uruguay.

Editado para lectura a partir del transcript original del video.