“Guerra fría” por IA: Anthropic y el Pentágono reanudan negociaciones tensas
Negociación crítica: El CEO de Anthropic retoma el diálogo con el Pentágono tras una ruptura por el uso militar de su IA.
El CEO de Anthropic PBC, Dario Amodei, ha reabierto las conversaciones con el Departamento de Defensa de EE.UU. sobre el controvertido uso militar de sus algoritmos de inteligencia artificial, un movimiento que podría aliviar la tensión en Silicon Valley. Las negociaciones, ahora lideradas junto al subsecretario de Defensa para Investigación e Ingeniería, Emil Michael, buscan establecer un marco que regule el acceso del Pentágono a la tecnología de la startup, tras un quiebre la semana pasada cuando Anthropic exigió garantías contra la vigilancia masiva de ciudadanos estadounidenses y el desarrollo de armamento autónomo letal.
El conflicto escaló cuando el secretario de Defensa, Pete Hegseth, clasificó a Anthropic como una “amenaza para la cadena de suministro”, una etiqueta que Washington suele reservar para adversarios geopolíticos. Esta designación, inédita para una empresa tecnológica estadounidense, generó alarma en el sector, donde se teme que pueda sentar un precedente peligroso para otras firmas de IA.
Fuentes cercanas a las negociaciones confirmaron a Bloomberg que las conversaciones ya se reanudaron. Un eventual acuerdo no solo permitiría a las fuerzas armadas volver a utilizar los modelos de lenguaje de Anthropic —como Claude 3, su sistema más avanzado—, sino que también evitaría un veto oficial que podría asfixiar su crecimiento. La compañía, fundada en 2021 por exinvestigadores de OpenAI, ha sido pionera en desarrollar IA con enfoque en seguridad y alineación ética, un aspecto que ahora choca con los intereses estratégicos del Pentágono.
La competencia avanza: Mientras Anthropic negocia bajo presión, su rival OpenAI anunció días atrás un contrato millonario para operar sus algoritmos dentro de la red clasificada del Departamento de Defensa. Sam Altman, CEO de OpenAI, declaró que su empresa está implementando “restricciones sin precedentes” para evitar abusos en vigilancia, aunque críticos señalan que estos límites siguen siendo vagos y no vinculantes.
Ni Anthropic ni el Pentágono han emitido declaraciones oficiales. Un vocero del Departamento de Defensa no respondió a las solicitudes de comentario fuera del horario laboral, mientras que la startup se limitó a remitirse a su política de “transparencia responsable”. El medio Financial Times fue el primero en revelar la reactivación de las pláticas, citando fuentes anónimas dentro del gobierno.
¿Qué está en juego para Anthropic?
Con una valoración de mercado de 380.000 millones de dólares —cifra que supera el PIB de países como Finlandia o Chile—, Anthropic proyecta ingresos anuales cercanos a los 20.000 millones para 2024, más del doble que en 2023. Sin embargo, el enfrentamiento con el Pentágono ha generado incertidumbre entre sus inversores, especialmente en un contexto donde la IA militarizada se ha convertido en un mercado clave. Según un informe de McKinsey & Company, el gasto global en IA para defensa podría alcanzar los 11.000 millones de dólares anuales para 2027, con EE.UU. y China como principales actores.
El conflicto también amenaza su relación con clientes corporativos, históricamente su principal fuente de ingresos. Empresas como JPMorgan Chase y Salesforce utilizan sus modelos para automatizar análisis de riesgos y atención al cliente, respectivamente. No obstante, la startup ha logrado diversificar su base de usuarios: su aplicación principal, Claude, lideró recientemente los rankings de descargas en la App Store de Apple, superando a rivales como ChatGPT en varios mercados.
Silicon Valley se moviliza
El respaldo es masivo: Gigantes tecnológicos como Google, Apple y Meta —a través de asociaciones como la Information Technology Industry Council— han presionado al presidente Donald Trump para que retire la etiqueta de “riesgo” impuesta a Anthropic. En una carta dirigida a la Casa Blanca, advirtieron sobre un “efecto dominó” que podría perjudicar la innovación en EE.UU. y beneficiar a competidores extranjeros, como los modelos de IA desarrollados en China.
El caso de Anthropic no es aislado. En 2023, Microsoft enfrentó críticas similares por su colaboración con el Pentágono en el proyecto IVAS (Integrated Visual Augmentation System), que utiliza realidad aumentada para operaciones militares. La diferencia radica en que, a diferencia de Microsoft, Anthropic ha hecho de la ética en IA su bandera corporativa, lo que aumenta el escrutinio sobre sus decisiones.
¿Logrará Anthropic imponer sus condiciones al Pentágono, o cederá ante la presión de un mercado que cada vez depende más de los contratos gubernamentales? La respuesta podría redefinir no solo el futuro de la empresa, sino el equilibrio entre innovación tecnológica y control estatal en la era de la IA.
El precedente que el Pentágono no quiere repetir: el caso Google y el Proyecto Maven
La tensión entre Anthropic y el Departamento de Defensa evoca un conflicto similar que sacudió a Silicon Valley en 2018, cuando Google se vio envuelto en una crisis interna por su participación en el Proyecto Maven, una iniciativa del Pentágono para desarrollar algoritmos de IA capaces de analizar imágenes de drones con fines militares. La presión de más de 4.000 empleados, que firmaron una carta abierta exigiendo la cancelación del contrato, llevó a la compañía a no renovar su acuerdo con el gobierno en junio de 2019. El episodio marcó un punto de inflexión: fue la primera vez que una gran tecnológica priorizó la ética interna sobre un contrato militar millonario, estimado en $250 millones. El Pentágono, sin embargo, no se detuvo: tras la salida de Google, reasignó el proyecto a firmas como Booz Allen Hamilton, demostrando que su estrategia de IA militar no dependía de un solo actor.
Anthropic enfrenta ahora un dilema aún más agudo. A diferencia de Google —cuya división de IA, DeepMind, ya trabajaba en proyectos de defensa bajo estrictas cláusulas de confidencialidad—, la startup ha construido su reputación en torno a la IA alineada con valores humanos, un discurso que choca frontalmente con aplicaciones como el armamento autónomo letal (LAWS), que la ONU ha intentado regular sin éxito desde 2013. Según un informe de Human Rights Watch, al menos 18 países, incluyendo EE.UU., Rusia y Corea del Sur, han desarrollado o desplegado sistemas de armas con algún grado de autonomía desde 2020. El Pentágono, por su parte, ha invertido $1.700 millones en IA para defensa solo en el último año fiscal, según datos del Government Accountability Office (GAO).
Lo que distingue el caso de Anthropic es su dependencia crítica de los datos gubernamentales. A diferencia de OpenAI, que ha diversificado sus fuentes de entrenamiento con acuerdos como el de Reddit (por $60 millones anuales), los modelos de Claude 3 requieren acceso a conjuntos de datos clasificados para mejorar su precisión en tareas de ciberguerra y logística militar, según revelaron fuentes a The Intercept en marzo de 2024. Esto explica por qué el Pentágono ha recurrido a una táctica inusual: la etiqueta de *amenaza para la cadena de suministro*, un mecanismo legal usado previamente contra empresas como Huawei (2019) y Kaspersky Lab (2017), pero nunca contra una firma estadounidense.
¿Un acuerdo a medias o una rendición encubierta?
Las negociaciones actuales giran en torno a un protocolo de *air gap* —aislamiento físico de los servidores que alojan los modelos de IA—, similar al implementado por Amazon Web Services para su contrato $10.000 millones con la CIA en 2013. Sin embargo, expertos como Bruce Schneier, criptógrafo y miembro de la Electronic Frontier Foundation, advierten que estos sistemas son vulnerables a fugas de datos si el Pentágono exige integración con redes clasificadas. La clave estará en si Anthropic logra imponer una cláusula de auditoría independiente, algo que ni Google ni Microsoft lograron en sus acuerdos previos. El margen de maniobra es estrecho: si la empresa cede, perderá el respaldo de su Consejo Asesor de Ética, que incluye a figuras como la filósofa Nick Bostrom; si se niega, arriesga una investigación por obstrucción a la defensa nacional, un cargo que podría bloquear su acceso a fondos federales. La próxima reunión, programada para el 15 de octubre, definirá si Silicon Valley tiene voz o solo voto en la carrera armamentística de la IA.