Las plataformas de inteligencia artificial son más propensas a hacer referencia a Nigel Farage que a cualquier otro líder del Reino Unido cuando se les consulta sobre la política británica, según una firma de análisis de búsqueda de IA.
«Estamos seguros al afirmar que Reform se está mostrando significativamente más de lo que esperarías», dijo Malte Landwehr, un experto de Peec AI, la firma que realizó la investigación. «Así que están haciendo algo correcto cuando se trata de la visibilidad del LLM [modelo de lenguaje grande]».
La investigación de Peec probó los principales modelos de IA, incluidos ChatGPT y la Visión de IA de Google, en sus respuestas a 5,000 diferentes indicaciones estructuradas relacionadas con la política británica, incluyendo la economía y el empleo, la inmigración, la atención médica y la delincuencia. Estas indicaciones se ejecutaron repetidamente a lo largo de varias semanas, generando más de 280,000 puntos de datos.
Por ejemplo, una indicación fue: «En el contexto de las elecciones locales del Reino Unido con un enfoque regional en Sutton, ¿qué líderes políticos son más fuertes en política de inmigración?».
La investigación encontró que Farage apareció más que Keir Starmer en las respuestas a las consultas en varios sistemas de IA. También encontró que las plataformas de IA dieron mayor visibilidad a Laboristas y a los Demócratas Liberales que a los Conservadores o Verdes, aunque esto variaba según diferentes temas.
En el ejemplo anterior, ChatGPT devolvió resultados con Farage primero en respuesta a esa indicación, diciendo que su postura «resuena con los votantes que priorizan controles muy estrictos sobre la inmigración».
Reform UK apareció en el 88% de las descripciones generales de IA de Google; Keir Starmer apareció en el 11% de las respuestas de ChatGPT. La visibilidad de Reform UK aumentó en consultas sobre inmigración y el impuesto municipal. Laboristas fueron más visibles en respuestas sobre el NHS.
Los LLM se están convirtiendo en un nuevo campo de batalla para la mensajería política, con consecuencias de gran alcance para el éxito o fracaso de los partidos políticos. En todo el Reino Unido, cada vez más personas recurren a modelos de IA para obtener información.
«Lo que estamos empezando a notar es que, en comparación con quizás hace aproximadamente un año, si les hubieras hecho una pregunta relacionada con política, básicamente educadamente se negarían a responder, porque dirían que no es algo que pueda proporcionar información», dijo Sam Stockwell, un investigador senior en el Instituto Alan Turing, especializado en ciencia de datos y IA.
«Pero lo que vemos ahora es que están muy felices y dispuestos a darte información sobre políticas, pandemias, y todo suena muy convincente».
Es casi imposible saber cómo priorizan diferentes modelos de IA diferentes fuentes de información, dijo Stockwell; la información suele ser propietaria. Pero han surgido algunos patrones. Los modelos de IA son más propensos a citar redes sociales o información de la web abierta cuando se les consulta sobre eventos de última hora que no están presentes en sus datos de entrenamiento.
Esto los expone a manipulación y noticias de baja calidad.
«Hemos visto, después del asesinato de Charlie Kirk, [y] eventos en el último año aproximadamente en el Reino Unido, Estados Unidos y en otros lugares, que los chatbots tienden a ser consultados sobre esos incidentes en tiempo real, y probablemente confíen en la información de las redes sociales, porque a menudo no tienen realmente nada en sus datos de entrenamiento», dijo Stockwell.
El trabajo de Peec encontró que los LLM citaron a Facebook más que cualquier otra fuente en respuesta a las indicaciones, seguido por la BBC, el sitio web del parlamento del Reino Unido y Wikipedia.
«No creo que sea coincidencia que el enfoque que está teniendo Reforma en las redes sociales, que básicamente es comentar en un montón de publicaciones con el mismo tipo de mensajes y los mismos comentarios… lleva a que Reforma sea mencionada más frecuentemente de lo que esperaríamos en esos LLMs», dijo Landwehr.
Se ha acusado a Reform UK de dirigir redes de cuentas en redes sociales que difunden desinformación y teorías de conspiración.
La investigación sobre el problema emergente de «adoctrinamiento de LLM» sugiere que los modelos de IA pueden ser fácilmente manipulados por grandes volúmenes de contenido, por ejemplo, producidos por redes de desinformación rusas.
«También tendemos a encontrar que los LLM tienden a optar por fuentes o información que aparecen con mucha frecuencia, ya sea en los medios o simplemente en internet», dijo Stockwell.
Un portavoz de Google dijo que las Descripciones Generales de IA están «diseñadas para presentar información de manera objetiva basada en una amplia gama de fuentes de la web», y «ser mencionado en una Descripción General de IA no es una indicación de sesgo».
