Google en crisis: investigadores exigen prohibir ia militar

Más de 580 empleados de Google han firmado una carta contundente dirigida al CEO, Sundar Pichai, instándole a bloquear el desarrollo de sistemas de Inteligencia Artificial para fines militares. Este movimiento, que se suma al ya existente liderado por Anthropic, pone de manifiesto una creciente preocupación interna sobre el potencial de descontrol de esta tecnología.

Una rebelión silenciosa en silicon valley

La carta, que será enviada el lunes, denuncia la creciente colaboración de Google con el Departamento de Defensa de Estados Unidos, un vínculo que, según los firmantes, representa un riesgo inaceptable. Argumentan que los sistemas de IA, incluso con las mejores intenciones, son susceptibles a errores y pueden concentrar un poder desmesurado en manos de unos pocos. La frase clave es simple: la IA no debería ser utilizada para crear armas autónomas ni para la vigilancia masiva.

El Departamento del Tesoro de EE. UU. se suma a la presión, interesándose específicamente en la herramienta Mythos de Anthropic, diseñada para identificar vulnerabilidades en sistemas de defensa. Este interés agudiza aún más la tensión entre Silicon Valley y el Pentágono, que planea invertir miles de millones en expandir el uso militar de la IA, incluyendo el desarrollo de armas autónomas. La carrera por dominar la IA en el campo de batalla se ha intensificado, y los empleados de Google se alzan como una línea de defensa.

Este movimiento no es nuevo. En 2018, algunos de los ingenieros de Google ya alertaban sobre los peligros de la IA en la guerra, presionando a la compañía para que limitara su trabajo con la defensa. Sin embargo, en los últimos años, Google ha suavizado sus posturas, reanudando vínculos con la industria militar. Esta carta, sin embargo, marca un punto de inflexión. La discrepancia entre la retórica de la empresa y las acciones concretas ya no puede ser ignorada.

Sofia Liguori, ingeniera de investigación en IA en Google DeepMind en el Reino Unido, ha manifestado su preocupación por la falta de claridad en las políticas de la empresa en relación con el uso de la IA en sistemas clasificados.