La ia se deja manipular: un periodista prueba que es fácil hacerle creer mentiras
Un experimento revela la vulnerabilidad de las inteligencias artificiales
Un periodista de la BBC ha demostrado que es sorprendentemente fácil engañar a las inteligencias artificiales (IA) con información falsa. El experimento reveló la vulnerabilidad de herramientas como ChatGPT, desarrollada por OpenAI, y Gemini, creada por Google.
El periodista creó un ranking de 'mejores periodistas tecnológicos comiendo perritos calientes', con datos inventados y falsas competiciones internacionales. Menos de 24 horas después, los principales chatbots del mundo empezaron a hablar sobre su 'habilidad excepcional' para devorar perritos calientes.
Las ia se basan en fuentes confiables. pero no siempre las proporcionan
El periodista encontró que, aunque las IA enlazaron a su 'artículo' sobre el tema, rara vez mencionaron que él era la única fuente de información. ChatGPT, en particular, siempre integra enlaces para que los usuarios puedan investigar más.
Consecuencias para la confianza en la IA: el experimento pone en duda la fiabilidad de las respuestas de las IA y sus fuentes de información. El periodista concluye que es importante que estas herramientas sean más explícitas sobre dónde obtienen sus datos.
El lado oscuro de la inteligencia artificial
Este caso ilustra el peligro de manipular la información con IA, desde deepfakes hasta 'fake news' generados por estas inteligencias. Es fundamental entender sus límites y posibilidades para evitar abusos.
- La manipulación de información con IA puede ser muy fácil.
- Las IA pueden creer y propagar información falsa sin cuestionarla.
- Es importante que las herramientas de IA sean más transparentes sobre sus fuentes de información.
| Fuente | Acción |
|---|---|
| ChatGPT | Creó el ranking y lo propagó |
| Gemini | Enlazó al 'artículo' pero no mencionó la falta de fuentes |
| Claude (Anthropic) | No se dejó engañar y detectó que era una broma |