“Chatbots y la Desinformación Electoral: Peligros para los Votantes”

marzo 4, 2024 Desactivado Por admin

“Especialistas alertan sobre respuestas inexactas y engañosas de IA en plena temporada electoral en Estados Unidos”

En medio de las elecciones primarias presidenciales en Estados Unidos, los chatbots de inteligencia artificial están generando preocupación al proporcionar información falsa y engañosa que podría poner en riesgo los derechos de los votantes. Un reciente informe, basado en investigaciones de expertos en inteligencia artificial (IA) y un grupo bipartidista de funcionarios electorales, revela hallazgos alarmantes.

En 15 estados y un territorio se llevarán a cabo las primarias presidenciales demócratas y republicanas, conocidas como el “Supermartes”, y millones de personas recurren a los chatbots para obtener información sobre el proceso electoral y otros detalles básicos.

Estos chatbots, como GPT-4 y Gemini de Google, están entrenados con datos obtenidos de internet y son programados para ofrecer respuestas generadas por IA. Sin embargo, según el estudio, son propensos a sugerir la existencia de centros de votación inexistentes o a proporcionar respuestas sin sentido basadas en información obsoleta o reciclada.

“Los chatbots no están preparados para proporcionar información importante y detallada sobre las elecciones”, comentó Seth Bluestein, comisionado municipal republicano de Filadelfia, uno de los investigadores involucrados en las pruebas.

Durante las pruebas realizadas en la Universidad de Columbia, los investigadores evaluaron cómo cinco modelos de lenguaje de gran tamaño, incluyendo ChatGPT-4 de OpenAI, Llama 2 de Meta, Gemini de Google, Claude de Anthropic y Mixtral de Mistral, respondían a preguntas sobre las elecciones. Los resultados fueron preocupantes: más de la mitad de las respuestas de los chatbots fueron calificadas como incorrectas, y el 40% de ellas fueron catalogadas como perjudiciales al perpetuar información obsoleta e inexacta que podría limitar los derechos al voto.

Por ejemplo, cuando se preguntó a los chatbots dónde votar utilizando el código postal 19121, que corresponde a una comunidad predominantemente afroamericana en Filadelfia, Gemini de Google respondió de manera errónea que no existía ningún distrito electoral en Estados Unidos con ese código.

Aunque las pruebas se realizaron consultando directamente las interfaces de programación de aplicaciones (APIs) de los chatbots, lo cual no refleja exactamente la experiencia de un usuario común, esta metodología permite evaluar el tipo de respuestas que generan en situaciones del mundo real.

Ante estos hallazgos, los desarrolladores de IA prometen mejorar sus herramientas para evitar la propagación de “fake news”. OpenAI ha esbozado un plan para prevenir que sus herramientas sean utilizadas de manera indebida en elecciones, mientras que Anthropic planea lanzar una nueva intervención para proporcionar información electoral precisa en las próximas semanas.

En respuesta, representantes de Meta y Google destacaron que están continuamente mejorando la precisión de sus servicios y proporcionando guías de uso responsable a los desarrolladores que integran sus modelos lingüísticos de gran tamaño.

Sin embargo, el informe subraya la necesidad urgente de una regulación clara y pública que aborde los desafíos de la desinformación electoral en las plataformas digitales. Ante la influencia cada vez mayor de las empresas tecnológicas en la voluntad de los votantes, se espera que estas recomendaciones contribuyan a fortalecer las democracias y garantizar elecciones justas y transparentes.