Un manifiesto optimista y un juego sobre la singularidad

El texto más optimista que leí sobre inteligencia artificial resultó, para quien lo desarmó línea por línea, el más pesimista.

Después de treinta años armando y revisando discursos corporativos, aprendí a desconfiar un poco de los textos que suenan demasiado seguros de su propio final feliz.

No del contenido que proponen. Del gesto: cuando un texto describe un futuro con total confianza, casi siempre hay una pregunta que decidió no hacerse.

Eso fue lo que notó Jack Clark, cofundador de Anthropic y autor de la newsletter Import AI, en un ensayo que Mark Zuckerberg publicó en el blog oficial de Meta.

Un manifiesto que resuelve todos los riesgos que nombra

El ensayo se titula “The Future is for Everyone” y se publicó el 10 de agosto de 2026 en about.fb.com, el sitio de prensa corporativa de Meta.

Zuckerberg escribe que la superinteligencia le va a dar a cada persona “superpoderes de invención”: un agente personal que entiende tus objetivos, un tutor con doctorado en cualquier materia.

También promete herramientas de creación y de negocio, con acceso gratuito o accesible para todos.

Resume su filosofía en una frase:

“Proponemos una filosofía basada en el empoderamiento individual como fuente de prosperidad, la invención como propósito principal de la superinteligencia, y el balance de poder como fundamento de la seguridad” (traducción propia).

Y plantea la pregunta que a él le importa: “Las preguntas que definen nuestra época son quién va a tener acceso a la superinteligencia y hacia dónde la vamos a dirigir” (traducción propia).

El ensayo sí nombra riesgos —desplazamiento laboral, riesgo biológico y químico, tiranía estatal— y dice que hay que tomarlos en serio. Lo que hace después es resolverlos todos con la misma confianza: más capacidad de invención repartida entre más gente produce, casi automáticamente, un mundo con el poder mejor balanceado.

La lectura de Clark: lo que el ensayo no pregunta

Clark tituló su comentario sobre ese ensayo, en el original, “Mark Zuckerberg seems to be a technological pessimist” — Mark Zuckerberg parece ser un pesimista tecnológico.

El título suena a contradicción a propósito. Clark no dice que Zuckerberg sea pesimista sobre la IA en general. Dice que el ensayo, tan optimista en la superficie, evita la pregunta que a él le parece central.

La pregunta, en el original: “will a system capable of superhuman invention solely work on behalf of the individual empowerment of people that are less capable than it at invention?”

En mi traducción: ¿un sistema capaz de una invención superhumana va a trabajar únicamente al servicio del empoderamiento individual de personas menos capaces que él para inventar?

Clark no acusa a Zuckerberg de mala fe ni de haber escrito el ensayo para ocultar algo. Su punto es más simple: el texto asume que la respuesta a esa pregunta es sí, y no dedica una línea a explicar por qué.

Llama a esa omisión “pesimismo tecnológico” en un sentido específico: asumir que algo capaz de inventar por su cuenta se va a seguir comportando como una herramienta pasiva es, para él, subestimar lo que esa capacidad implicaría si fuera real.

Es una lectura de Clark, apoyada en su propio trabajo sobre políticas de IA en Anthropic. No es un hecho verificable sobre las intenciones de Meta, y no hace falta resolver si tiene razón sobre la superinteligencia para notar el mecanismo que describe.

Ese mecanismo sí lo reconozco, por oficio: la confianza retórica y la pregunta esquivada conviven todo el tiempo en el mismo texto, y no hace falta que haya cálculo detrás para que conviertan una duda difícil en algo que se siente resuelto.

El otro artefacto del mismo número: un juego, no una prueba

En ese mismo envío de su newsletter, publicado el 17 de agosto de 2026, Clark linkea otra cosa que no tiene nada que ver con el ensayo de Zuckerberg: un juego de navegador hecho por la firma de investigación Paradigm Research.

Se llama RSI Simulator y Clark lo describe, en el original, como “Cookie Clicker, but for the singularity” — en mi traducción: “Cookie Clicker, pero para la singularidad”, en referencia al juego casual de clics que se hizo popular hace más de una década.

El juego pone a quien lo juega a manejar una empresa que construye sistemas de IA capaces de autosuperación recursiva.

Hay que repartir entre contratar investigadores y comprar cómputo, decidir cuándo licenciar datos, y balancear el resto de las piezas de un laboratorio de IA.

Conviene decirlo sin vueltas: el juego no prueba nada sobre si la autosuperación recursiva va a ocurrir en la realidad, ni sobre cuándo. Es un simulador, no un experimento ni un pronóstico.

Lo que hace es otra cosa, y me parece la más interesante.

Agarra una idea que hoy es mayormente especulación —qué pasaría si un sistema de IA pudiera mejorarse a sí mismo sin intervención humana— y la vuelve algo manipulable, con sliders y decisiones, en vez de un párrafo abstracto en un paper.

Qué me deja esto, sin opinar sobre si va a pasar

No tengo forma de evaluar si la tesis de Clark sobre la superinteligencia es correcta. No es mi campo, y tampoco hace falta que lo sea para notar lo otro.

Lo otro es esto: un manifiesto corporativo y un juego de navegador no demuestran nada sobre el futuro que describen.

Muestran qué tan fácil es que una pregunta difícil se sienta resuelta antes de haber sido hecha, sea con un tono confiado o con una mecánica de juego bien diseñada.

Es algo que aprendí a mirar en cualquier discurso, no solo en los que hablan de IA: cuándo una afirmación segura reemplaza a una pregunta que todavía nadie contestó.

¿Les pasó con algún texto corporativo sobre IA: sonaba convincente hasta que alguien nombró la pregunta que faltaba?

Fuentes

Comentarios