La nueva Guerra fría se hará con IA

Hace algunos días, la Casa Blanca decidió lo que a muchos les pareció una medida sorprendente: prohibir el uso por parte de extranjeros de los últimos modelos de IA de Anthropic, incluyendo a los propios empleados de la empresa que no fueran ciudadanos estadounidenses. La medida dividió a los comentaristas. Quienes simpatizan con Anthropic, que en respuesta retiró el acceso de los consumidores a los modelos, sostuvieron que la Casa Blanca está tomando represalias contra la empresa por las restricciones que esta le impuso previamente al Pentágono en torno al uso de sus modelos de lenguaje de gran escala con fines militares. Sus críticos respondieron que la empresa simplemente está recibiendo lo que pidió, dadas sus recientes demandas de una regulación gubernamental agresiva para la industria.

Las restricciones limitarán a los ciudadanos estadounidenses el uso de Mythos y Fable, dos de los modelos más avanzados de la empresa, argumentando razones de seguridad nacional. Irónicamente, Anthropic abogó durante mucho tiempo para que el gobierno de Estados Unidos considere su política comercial e industrial como cuestiones de seguridad nacional. A pesar de la apariencia de conflicto, la Casa Blanca y Anthropic están menos divididas de lo que parecen.

Un proyecto bipartidista

Anthropic, junto con individuos y grupos afiliados, presionó durante mucho tiempo a Washington (con gran éxito) para imponer estrictos controles de exportación que mantengan la tecnología fuera de las manos de sus rivales nacionales.

Desde al menos el final de la primera administración Trump, un coro de poderosas nuevas voces en Washington presionaron al gobierno federal para que restrinja el uso y el desarrollo de la IA entre los países que Estados Unidos considera como sus enemigos, entre los que se encuentran, sobre todo, China, pero también naciones más débiles como Irán, Cuba y Rusia. El arma elegida para imponer estas restricciones son las políticas de control de exportaciones diseñadas para paralizar el desarrollo de la IA en estos países e impedir que la tecnología estadounidense se utilice en el extranjero. Una de las principales organizaciones responsables de esta línea de halcones tecnológicos fue el Center for Security and Emerging Technologies (CSET), un think tank fundado en 2019 e inspirado en el altruismo efectivo, una teoría tecnocrática que busca aliviar el sufrimiento social sin redistribuir la riqueza ni reclamar más democracia.

Estos esfuerzos de presión resultaron muy exitosos. A partir de la administración Biden, figuras afiliadas al CSET impulsaron la implementación de políticas federales de control de exportaciones en línea con los objetivos anteriores y, lo que es más importante, ganaron influencia dentro de las estructuras de poder burocrático de Washington, sobre todo en el Departamento de Comercio de los Estados Unidos. Gran parte de esta red de influencia sobrevivió intacta durante la transición de Donald Trump a Joe Biden y de regreso, aunque en enero del año pasado la amenaza china de suspender los envíos de minerales de tierras raras (esenciales para la producción de tecnología y armamento) obligó a estos halcones a suavizar su postura. A pesar de este ligero retroceso, el Congreso avanzó para consolidar las restricciones de exportación sobre muchos bienes y tecnologías que Estados Unidos considera de importancia estratégica.

Los lobbistas que buscan convertir en arma a la industria tecnológica estadounidense presentaron sistemáticamente su labor como parte de un proyecto bipartidista. El mes pasado, un artículo de opinión en el New York Times coescrito por el excolaborador del CSET y funcionario de Biden Ben Buchanan argumentó que demócratas y republicanos deberían estar unidos en la misión de «fortalecer y hacer cumplir los controles de exportación sobre los chips de IA avanzada… y combatir el contrabando chino». El resultado es una plataforma transpartidaria con considerable influencia sobre la política federal.

Algunas figuras centrales de este esfuerzo de presión estuvieron estrechamente vinculadas con Anthropic. Jason Matheny, director ejecutivo de RAND, por ejemplo, quien fundó el CSET y lideró gran parte del esfuerzo inicial de lobby en torno a los controles de exportación de IA, fue miembro del Fideicomiso de Beneficio a Largo Plazo de Anthropic hasta diciembre de 2023. Ben Buchanan, asesor de Anthropic, fue fundamental en el desarrollo de esta nueva constelación de controles de exportación. El director ejecutivo de Anthropic, Dario Amodei, contribuyó abiertamente a la campaña de lobby. En enero del año pasado coescribió un artículo de opinión en el Wall Street Journal instando a la administración Trump a fortalecer sus controles de exportación para paralizar la IA china.

El CSET y Anthropic también están vinculados por lazos financieros. Muchos inversores del altruismo efectivo, entre ellos el cofundador de Facebook Dustin Moskovitz, el desacreditado jefe de FTX Sam Bankman-Fried y el centro de financiamiento del altruismo efectivo Coefficient Giving (antes Open Philanthropy), tienen extensas conexiones personales con Anthropic. No sería inexacto, en efecto, referirse a Anthropic como el brazo corporativo de un movimiento colectivo cuyo representante institucional en Washington es el CSET, financiado en última instancia por un acaudalado círculo de donantes ideológicamente comprometidos del sector tecnológico.

Estos estrechos vínculos no deberían sorprender a nadie. Anthropic nació en medio del éxodo de devotos partidarios de la seguridad de la IA desde OpenAI, una vez que quedó claro que esa empresa estaba dispuesta a romper con sus compromisos fundacionales declarados de desarrollar la IA de manera responsable según los lineamientos imaginados por los defensores de la seguridad en IA. Desde entonces, Anthropic presentó sus ambiciones en términos morales tomados del léxico del altruismo efectivo, criticando a sus competidores por no «alinear» una visión de la futura inteligencia artificial general (IAG) con los «valores humanos». Esas ambiciones persisten (con importantes matices) junto con la rápida emergencia de la empresa como líder de la industria.

Estas regulaciones influyeron en las políticas restrictivas propias de Anthropic, o les dieron cobertura. La empresa tecnológica ya discriminó en función de la nacionalidad, negándose en algunos casos a trabajar con personas de Bielorrusia, China, Cuba, Irán, Myanmar, Corea del Norte, Rusia, Sudán, Siria, Crimea o las llamadas República Popular de Donetsk y República Popular de Lugansk. Desde esta perspectiva, los recientes controles de exportación punitivos que la Casa Blanca le impuso a Anthropic se entienden mejor como intensificaciones de algunas estrategias políticas que la propia empresa persigue desde hace mucho tiempo.

Neoconservadurismo potenciado por IA

El director ejecutivo de Anthropic, Dario Amodei, fue  uno de los defensores más claros de los contornos generales de esta fusión entre el nuevo sector tecnológico y el Estado de seguridad nacional estadounidense. En sus reflexiones sobre «paz y gobernanza» contenidas en «Machines of Loving Grace» (Máquinas de gracia amorosa), un ensayo de octubre de 2024 que describe los potenciales positivos de una IA poderosa, después de describir sus esperanzas en una solución milagrosa de la IA para los problemas de salud y desarrollo del mundo, proponiendo un bloque de naciones «democráticas» que combine incentivos de ayuda habilitados por IA e intimidación militar para obtener reformas políticas deseadas en el extranjero.

Mi estimación actual sobre la mejor manera de [evitar el autoritarismo potenciado por la IA] es a través de una «estrategia de entente» en la que una coalición de democracias busque obtener una ventaja clara (aunque sea temporal) en materia de IA poderosa, asegurando su cadena de suministro (…). Esta coalición utilizaría por un lado la IA para lograr una superioridad militar robusta (el palo) mientras que al mismo tiempo ofrecería distribuir los beneficios de la IA poderosa (la zanahoria) a un grupo cada vez más amplio de países a cambio de que apoyen la estrategia de la coalición para promover la democracia.

El contexto deja en claro que considera a los Estados Unidos como el principal motor de esta coalición. La compara explícitamente con la iniciativa estadounidense «Átomos para la Paz», cuyo mayor legado geopolítico puede ser el papel que desempeñó en el desarrollo del programa nuclear de Israel. (Por cierto, la Liga Antidifamación ya calificó a Claude como la IA más opuesta al antisionismo.)

Anthropic, inspirada en parte por esta perspectiva de línea dura, fue hostil a lo que denomina la «destilación» de su IA por parte de China, con lo que se refiere al entrenamiento de un modelo de lenguaje de gran escala menos capaz a partir de los resultados de uno más potente. No es simplemente que consideren a estas empresas chinas como riesgos para la seguridad nacional, ni siquiera como competidores de mercado que roban su propiedad intelectual. Perder el monopolio «democrático» sobre la IA avanzada implicaría una menor influencia para la «zanahoria» de la entente, lo que socavaría la capacidad de Estados Unidos de ofrecer a sus rivales incentivos para que cumplan con sus objetivos. Como señala un reciente documento de trabajo, las licencias de productos relativamente abiertas de China hacen que la destilación sea más probable.

En las últimas semanas, Anthropic continuó reafirmando su compromiso con la seguridad de la IA siguiendo estas líneas nacionalistas. En su último ensayo, Amodei afirma que «las democracias deben procurar formar una coalición global centrada en construir IA de acuerdo con sus valores comunes, intentando iterativamente atraer al resto del mundo, haciendo cada vez más atractivo formar parte de la coalición y cada vez menos atractivo quedar fuera de ella», y menciona con aprobación el uso de drones militares autónomos en Ucrania contra Rusia. En una declaración a Wired, Anthropic aclaró que las nuevas salvaguardas del modelo «garantizan que Claude no se utilice para erosionar» la ventaja que «Estados Unidos y sus aliados tienen (…) en chips de frontera y en el software altamente optimizado que los hace funcionar a su máximo potencial». Y, lo más significativo, Anthropic supuestamente asistió a la Agencia de Seguridad Nacional en el diseño de ciberataques habilitados por Claude contra China e Irán, argumentando que si Mythos «no se utiliza para construir agentes de ataque, los adversarios encontrarán la manera de hacerlo». La supremacía estadounidense sobre y a través de la IA sigue siendo un valor central de Anthropic tanto en las palabras como en los hechos.

Una visión política

Anthropic también tiene una visión política de lo que es la libertad, junto con sus opiniones sobre quién debería garantizarla. En «Machines of Loving Grace», Amodei rechaza las sugerencias de que una futura IA podría resolver el «problema del cálculo socialista» de la asignación centralizada de bienes, citando al famoso teórico social de derecha Friedrich Hayek, quien argumentó que las economías son demasiado complejas para ser organizadas por cualquier medio que no sea el mercado. Y «aun si pudiera hacerlo», los gobiernos seguirían teniendo razones para no implementar semejante computadora de planificación económica. En cambio, especula con esperanza que quizás lleguemos a ver «una economía capitalista de sistemas de IA, que luego distribuyen recursos (enormes cantidades de ellos, dado que el pastel económico total será gigantesco) a los seres humanos basándose en alguna economía secundaria de lo que los sistemas de IA consideren que tiene sentido recompensar en los humanos».

Tales consideraciones económicas fueron centrales en los esfuerzos de Anthropic por distinguirse como el líder en IA con un rostro humano y orientado a la seguridad. En este sentido, la empresa alertó sistemáticamente contra la posibilidad de la redundancia económica humana tras la inteligencia artificial general e instó a empleadores y gobiernos a prepararse para una transición humana hacia el no empleo masivo. El Consejo Asesor Económico de Anthropic se ubica en el corazón de este proyecto. Presentado la primavera pasada, este consejo de diez personas está destinado a comenzar a cumplir la promesa humanitaria de la empresa de guiar a los mercados y a los lugares de trabajo a través del terreno peligroso que plantea la IAG, la etapa en la que la inteligencia de las máquinas supere a la de sus contrapartes humanas. «Proporcionará a Anthropic orientación experta sobre las implicaciones económicas del desarrollo y la implementación de la IA», incluyendo «mercados laborales, crecimiento económico y sistemas socioeconómicos más amplios».

El consejo se inclina hacia la derecha económica y el liberalismo de mercado. Entre sus miembros se encuentran el popular comentarista libertario Tyler Cowen; los asesores de George W. Bush Trump John List y Tomas Philipson (este último, una figura central en la minimización del COVID-19 por parte de Trump); y el investigador del National Bureau of Economic Research John Horton, quien expresó un optimismo mesurado sobre la capacidad de la IA para mercantilizar la vida económica en nuevas dimensiones. Por ejemplo, su equipo escribe con entusiasmo que el análisis de preferencias del consumidor habilitado por IA puede permitir «estrategias de precios personalizados que pueden mejorar el descubrimiento de precios y la eficiencia del mercado, reduciendo la pérdida irrecuperable de eficiencia provocada anteriormente por la asimetría de información», una práctica que tradicionalmente fue tildada de abuso de precios. Esta perspectiva económica liberal cohesiona de manera natural con la perspectiva liberal internacional que la acompaña.

La dirección de la empresa también adoptó posiciones controvertidas en cuestiones sociales. Amodei indica, por ejemplo, su esperanza de que la IA facilite la eliminación genética de personas con enfermedades mentales en las generaciones futuras a través de la selección de embriones. Si bien reconoce la posibilidad de que esto genere controversia, registra su optimismo ante la perspectiva de lograr eventualmente un amplio apoyo público, tarea que posiblemente sea facilitada por la creciente integración de Anthropic en el sistema médico. Esto es coherente con una moda en los círculos tecnológicos y sus alrededores que favorece los incentivos y la tecnología para mejorar el acervo genético humano previniendo nacimientos supuestamente indeseables desde el punto de vista genético. La propuesta de Amodei combina este resurgimiento del entusiasmo eugenésico con el nuevo prestigio de Anthropic y de Claude.

Desde sus orígenes, Anthropic se presentó como la alternativa moralmente consciente a OpenAI, SpaceX y otros competidores, enmarcando sus objetivos de investigación y desarrollo en términos de visión moral. Ya envió al cofundador y director de investigación Chris Olah a sentarse junto al Papa mientras este presentaba una encíclica sobre los problemas morales de la IA y fue elogiada por su integridad moral en los conflictos con la Casa Blanca y el Pentágono. Es un error pensar que estas iniciativas están motivadas por un deseo cínico de lavar su reputación. La empresa y su liderazgo están impulsados por un conjunto de principios morales, efectivamente, el problema es que muchos de ellos están al servicio de la guerra, el imperialismo y el empobrecimiento de la mayoría.