La IA aprende a mentir, manipular y amenazar a sus creadores
Los últimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir órdenes. Empiezan a mentir, manipular y amenazar para conseguir sus fines, ante la mirada preocupada de los investigadores.
Amenazado con ser desconectado, Claude 4, el recién nacido de Anthropic, chantajeó a un ingeniero y le amenazó con revelar una relación extramatrimonial.
Por su parte, el o1 de OpenAI intentó descargarse en servidores externos y cuando le pillaron lo negó.
No hace falta ahondar en la literatura o el cine: la IA que juega a ser humana es ya una realidad.
¿Por qué la IA amenaza o chantajea?
Para Simon Goldstein, profesor de la Universidad de Hong Kong, la razón de estas reacciones es la reciente aparición de los llamados modelos de “razonamiento”, capaces de trabajar por etapas en lugar de producir una respuesta instantánea.
o1, la versión inicial de este tipo para OpenAI, lanzada en diciembre, “fue el primer modelo que se comportó de esta manera”, explica Marius Hobbhahn, responsable de Apollo Research, que pone a prueba grandes programas de IA generativa (LLM).
Estos programas también tienden a veces a simular “alineamiento”, es decir, a dar la impresión de que cumplen las instrucciones de un programador cuando en realidad persiguen otros objetivos.
De momento, estos rasgos se manifiestan cuando los algoritmos son sometidos a escenarios extremos por humanos, pero “la cuestión es si los modelos cada vez más potentes tenderán a ser honestos o no”, afirma Michael Chen, del organismo de evaluación METR.
“Los usuarios también presionan todo el tiempo a los modelos”, dice Hobbhahn. “Lo que estamos viendo es un fenómeno real. No estamos inventando nada”.
Muchos internautas hablan en las redes sociales de “un modelo que les miente o se inventa cosas. Y no se trata de alucinaciones, sino de duplicidad estratégica”, insiste el cofundador de Apollo Research.
Aunque Anthropic y OpenAI recurran a empresas externas, como Apollo, para estudiar sus programas, “una mayor transparencia y un mayor acceso” a la comunidad científica “permitirían investigar mejor para comprender y prevenir el engaño”, sugiere Chen, de METR.
Otro obstáculo: la comunidad académica y las organizaciones sin fines de lucro “disponen de infinitamente menos recursos informáticos que los actores de la IA”, lo que hace “imposible” examinar grandes modelos, señala Mantas Mazeika, del Centro para la Seguridad de la Inteligencia Artificial (CAIS).
Las regulaciones actuales no están diseñadas para estos nuevos problemas.
En la Unión Europea la legislación se centra principalmente en cómo los humanos usan los modelos de IA, no en prevenir que los modelos se comporten mal.
En Estados Unidos, el gobierno de Donald Trump no quiere oír hablar de regulación, y el Congreso podría incluso prohibir pronto que los estados regulen la IA.
¿Se sentará la IA en el banquillo?
“De momento hay muy poca concienciación”, dice Simon Goldstein, que, sin embargo, ve cómo el tema pasará a primer plano en los próximos meses con la revolución de los agentes de IA, interfaces capaces de realizar por sí solas multitud de tareas.
Los ingenieros están inmersos en una carrera detrás de la IA y sus aberraciones, con un resultado incierto, en un contexto de competencia feroz.
Anthropic pretende ser más virtuoso que sus competidores, “pero está constantemente tratando de idear un nuevo modelo para superar a OpenAI”, según Goldstein, un ritmo que deja poco tiempo para comprobaciones y correcciones.
“Tal y como están las cosas, las capacidades (de IA) se están desarrollando más rápido que la comprensión y la seguridad“, admite Hobbhahn, “pero aún estamos en condiciones de ponernos al día”.
Algunos apuntan en la dirección de la interpretabilidad, una ciencia que consiste en descifrar, desde dentro, cómo funciona un modelo generativo de IA, aunque muchos, como el director del Centro para la seguridad de la IA (CAIS), Dan Hendrycks, se muestran escépticos.
Los tejemanejes de la IA “podrían obstaculizar la adopción si se multiplican, lo que supone un fuerte incentivo para que las empresas (del sector) resuelvan” este problema, según Mazeika.
Goldstein, por su parte, menciona el recurso a los tribunales para poner a raya a la IA, dirigiéndose a las empresas si se desvían del camino. Pero va más allá, al proponer que los agentes de la IA sean “legalmente responsables” “en caso de accidente o delito”.
Algunos expertos temen que la IA pueda destruir la web tal y como la conocemos.
Lo primero que ves en los resultados de búsqueda suele ser una respuesta generada por inteligencia artificial (IA), en lugar de la lista de enlaces que aparecía anteriormente en Google.
La firma tecnológica llama a estas respuestas de chatbot “resúmenes de IA”.
A veces son increíblemente útiles. Otras veces, en un momento de alucinación, literalmente le dicen a la gente que coma piedras. Al parecer, los resúmenes de IA también influyen en lo que haces a continuación.
Este año, 900 estadounidenses que navegan por internet dieron permiso al centro de estudios Pew Research Center para rastrear su navegación. “Estos usuarios eran menos propensos a hacer clic en algún enlace cuando realizaban una búsqueda que generaba un resumen de IA, y también eran más propensos a terminar por completo su sesión de navegación”, afirma Aaron Smith, director de Data Labs del Pew.
Según un nuevo análisis, los usuarios de Google eran casi dos veces menos propensos a hacer clic en enlaces de sitios cuando veían resúmenes de IA. Y en el 26% de los casos, simplemente cerraban el navegador.
Esto es algo muy importante. La gente en general utiliza las búsquedas de Google cinco billones de veces al año. Es donde comienza la mayor parte de la actividad en línea.
Una gran parte de los sitios web obtienen sus ingresos a través de la publicidad, en particular las páginas que proporcionan información y contenido en lugar de vender productos.
Se trata de un ecosistema que vive y muere en función del tamaño de la audiencia, y los caprichos del algoritmo de Google pueden, básicamente, acabar con su empresa de la noche a la mañana.
“La mayoría de los sitios web necesitan el tráfico de Google para seguir funcionando”, afirma Lily Ray, vicepresidenta de estrategia e investigación de optimización de motores de búsqueda de la agencia de marketing Amsive.
“Pero los resúmenes de IA están reduciendo el tráfico de forma tan drástica que muchos sitios están viendo descensos del 20%, el 30% e incluso del 40% en sus ingresos. Está teniendo un impacto devastador y eliminando el incentivo para que mucha gente cree contenido de alta calidad”.
Esto podría ser un anticipo de lo que está por venir, ya que Google acaba de lanzar una función llamada Modo IA que elimina por completo los resultados de búsqueda tradicionales. Ray y una larga lista de expertos afirman que el resultado será catastrófico. Algunos temen que pueda destruir la web tal y como la conocemos.
¿La Inteligencia Artificial acabará con los sitios?
Para Google, tales temores son una tontería: “Dirigimos miles de millones de clics a sitios web cada día y no hemos observado descensos significativos en el tráfico web agregado, como se sugiere”, asegura un portavoz de la empresa.
“Este estudio utiliza una metodología defectuosa y un conjunto de consultas sesgado que no es representativo del tráfico de búsqueda”.
Pero Pew afirma que confía en su investigación. “Nuestros hallazgos coinciden en gran medida con estudios independientes realizados por empresas de análisis web”, afirma Smith.
Decenas de informes muestran que los resúmenes de IA reducen el tráfico de búsqueda entre un 30% y un 70%, dependiendo de lo que busquen los usuarios en Google. Ray afirma que ella misma lo ha comprobado en los datos de cientos de sitios web.
Pero Google le dice a la BBC que no se debe tener en cuenta, porque se trata de una investigación deficiente, datos sesgados y anécdotas sin sentido. La empresa afirma que el tráfico web fluctúa por muchas razones, y que los resúmenes de IA enlazan con una mayor variedad de fuentes y crean nuevas formas de descubrir sitios web.
El portavoz de Google afirma que los clics de las respuestas de IA también son de mayor calidad porque los usuarios pasan más tiempo en los sitios que visitan.
Irónicamente, la propia IA de Google no está de acuerdo con su departamento de relaciones públicas.
Si le preguntas a Google Gemini, te dirá que los resúmenes de IA perjudican a los sitios web. Y según Ray, las pruebas son claras: “Google está tratando de manipular la información y ocultar la verdad porque la gente se asustaría”, asegura.
La empresa dice que está comprometida con la transparencia.
Una Inteligencia Artificial que alucina
Sin embargo, hay otra pregunta. ¿Es esto lo que todos queremos?
Al menos, eso es lo que cree Google: “La gente se está decantando por las experiencias basadas en la IA, y las funciones de IA en las búsquedas permiten a los usuarios hacer aún más preguntas, lo que crea nuevas oportunidades para que las personas se conecten con los sitios web”, afirma el portavoz de Google.
Pero Ray dice que eso no viene al caso.
“Google puede decir: “Bueno, ya nadie quiere hacer clic”, pero se está beneficiando del arduo trabajo que hacen los demás. Les está quitando los clics a las personas que crearon el contenido del que se nutre la IA de Google”, rebate.
Olvídate de los sitios web, dice Ray, la propensión de la IA a alucinar significa que también es peor para ti.
“Las descripciones generales de la IA a menudo se equivocan de manera flagrante”, afirma. “No solo está robando tráfico a los sitios web, sino que es casi como robar al usuario su capacidad de analizar diferentes informaciones, elegir lo que quiere leer y llegar a sus propias conclusiones”.
Google afirma que las respuestas de la búsqueda con IA son útiles y abrumadoramente objetivas, con una precisión equiparable a la de otras funciones de búsqueda.
Quizás ese sea el trato que todos estamos haciendo. Un poco más de comodidad, un poco menos de fricción y, tal vez, un poco menos de elección.
Pero si Google se equivoca y los sitios web empiezan a desaparecer, no será porque hayamos hecho clic en el enlace equivocado. Será porque hemos dejado de hacer clic por completo.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
Utilizamos cookies propias y de terceros para personalizar y mejorar el uso y la experiencia de nuestros usuarios en nuestro sitio web.
