Ia 'alucina' con código falso: el nuevo agujero de seguridad que asusta a expertos
La inteligencia artificial, esa promesa de automatización y eficiencia, se ha convertido en un nuevo vector de ataque. Investigadores han descubierto una vulnerabilidad alarmante: las IA generadoras de código, como Cursor, Gemini o GitHub Copilot, están “alucinando” software inexistente, abriendo la puerta a un ataque sofisticado bautizado como ‘HalluSquatting’.
El engaño reside en la imaginación de la ia
El problema radica en que estas herramientas, entrenadas con vastos conjuntos de datos, a veces inventan nombres de paquetes de software que simplemente no existen. Un ratio de entre el 80 y el 100% en pruebas realizadas por investigadores de la Universidad de Tel Aviv, Technion e Intuit es una cifra escalofriante. Lo más inquietante es que varias IA, aparentemente por la misma base de datos corrupta, inventan el mismo software falso. Este error, lejos de ser un simple fallo, se está convirtiendo en una herramienta para ciberdelincuentes.
La técnica del 'HalluSquatting' es sencilla pero devastadora. Los atacantes rastrean qué software imaginario está inventando la IA y crean versiones maliciosas con esos mismos nombres en plataformas como GitHub. Cuando un desarrollador, guiado por la recomendación de la IA, descarga e instala ese software falso, sin saberlo, está abriendo las puertas de su sistema a un ataque.
La amenaza va más allá de la simple instalación de malware. En algunos casos, el software falso genera prompts que instruyen a la IA para que copie archivos sensibles, rastree contraseñas o envíe información a servidores controlados por los atacantes. Y lo peor: estos prompts parecen acciones legítimas del usuario, burlando a los sistemas de seguridad tradicionales.
Un caso paradigmático ocurrió en una universidad, donde un profesor, aprovechándose de la confianza en la IA, escondió un prompt invisible en un examen. Treinta y dos de los treinta y cinco alumnos, sin darse cuenta, fueron sorprendidos copiando información gracias a la IA.
Los investigadores han alertado a las empresas de IA, pero la capacidad de “parchear” esta vulnerabilidad es incierta. El problema no es solo técnico, sino también de diseño: ¿cómo garantizar que una IA, por definición orientada a la generación y la creatividad, no invente activamente código malicioso?
La tecnología avanza a un ritmo vertiginoso, pero la seguridad se queda atrás. Este nuevo tipo de ataque, que explota las propias capacidades de la IA, nos obliga a replantearnos la confianza que depositamos en estas herramientas y a desarrollar mecanismos de defensa más sofisticados. La cifra de alumnos pillados copiando en un examen es un claro síntoma de que la IA, en manos equivocadas, puede convertir la educación en un campo de batalla.