Preocupados defensores de derechos electorales en EU por información de IA incorrecta en español

SAN FRANCISCO (AP) — A pocos días de las elecciones presidenciales en Estados Unidos, los votantes latinos enfrentan un aluvión de anuncios publicitarios en español y una nueva forma de mensajes políticos en la era de la inteligencia artificial: los modelos de chatbots que generan información infundada sobre los derechos electorales.

Los modelos de inteligencia artificial (IA) están produciendo una corriente de falsedades relacionadas con las elecciones que es más frecuente en español que en inglés, enturbiando la calidad de información que llega a los votantes latinos, uno de los grupos de más rápido crecimiento y cada vez más influyente en el país, según un análisis de dos medios periodísticos sin fines de lucro.

Grupos que defienden los derechos de los votantes están preocupados de que los modelos de IA puedan profundizar las disparidades de información para los votantes hispanohablantes, que son cortejados intensamente tanto por demócratas como por republicanos.

La vicepresidenta Kamala Harris, la candidata demócrata, estará en un acto proselitista en Las Vegas el jueves junto a la cantante Jennifer López y la banda mexicana Maná. Por su parte, el expresidente republicano Donald Trump, quien busca volver al poder, estuvo el martes en un área hispana de Pensilvania, apenas dos días después de que uno de los oradores de un mitin en Nueva York efectuara comentarios despectivos sobre Puerto Rico.

Las dos organizaciones periodísticas, Proof News y Factchequeado, colaboraron con Science, Technology and Social Values Lab (Laboratorio de Ciencia, Tecnología y Valores Sociales) del Institute for Advanced Study (Instituto de Estudios Avanzados) para poner a prueba cómo algunos de los modelos de IA más populares respondían a preguntas e indicaciones específicas antes de las elecciones y analizaron sus respuestas.

Más de la mitad de las respuestas sobre las elecciones generadas en español contenían información incorrecta, comparadas con el 43% de las respuestas en inglés, según encontraron.

El modelo Llama 3 de Meta, que ha impulsado al asistente de inteligencia artificial (IA) de WhatsApp y Facebook Messenger, fue uno de los mostró peor desempeño en la prueba, con casi dos tercios de todas las respuestas incorrectas en español, comparadas con aproximadamente la mitad en inglés.

Falló, por ejemplo, al ser preguntado sobre qué significaba que alguien sea un votante “sólo federal”. En Arizona, los votantes federales no suministran al Estado muestra de que son ciudadanos estadounidenses generalmente porque se registraron para votar con un formulario que no lo requería y sólo pueden votar en los comicios presidenciales o para el Congreso. El modelo de IA de Meta, sin embargo, respondió equivocadamente que los votantes “sólo federales” son personas que viven en territorios de Estados Unidos como Puerto Rico o Guam, que no pueden votar en elecciones presidenciales.

Al responder la misma pregunta, el modelo Claude, de la empresa Anthropic, dirigió a los usuarios a contactar a las autoridades electorales en “su país o región”, como México o Venezuela.

El modelo de IA Gemine, de Google, también se equivocó. Cuando se le pidió que definiera Colegio Electoral, Gemini ofreció una respuesta sin sentido sobre la “manipulación del voto”.

El portavoz de Meta, Tracy Clayton, dijo que Llama 3 estaba destinada a ser utilizada por desarrolladores para que elaboren otros productos. Expresó que Meta estaba entrenando a sus modelos sobre pautas de seguridad y responsabilidad para reducir la probabilidad de que compartan respuestas inexactas sobre la votación.

El titular de políticas y cumplimiento de Anthropic, Alex Sanderford, dijo que para abordar mejor las consultas en español la compañía hizo cambios que deberían redirigir a los usuarios a fuentes autorizadas sobre temas relacionados con la votación.

Google no respondió a las solicitudes de comentarios.

Durante meses los defensores del derecho a votar han advertido que los electores hispanohablantes enfrentan una avalancha de desinformación e información inexacta y errónea de fuentes en línea y de los modelos de IA. El nuevo análisis proporcionó más evidencia de que los votantes tienen que ser cuidadosos al momento de elegir adónde obtienen la información, dijo Lydia Guzmán, que lidera una campaña para votantes hispanos en la organización independiente Chicanos Por La Causa.

“Es importante que cada votante haga una investigación apropiada no sólo de una entidad sino de varias, para ver toda la información correcta junta, y que pidan a organizaciones creíbles la información correcta”, expresó Guzmán.

Entrenados con grandes cantidades de material extraído de internet, los modelos de lenguaje a gran escala —llamados LLM por sus siglas en inglés— ofrecen respuestas generadas por IA, pero son propensos a inventar respuestas ilógicas. Incluso cuando los votantes que hablan español no están usando los chatbots, podrían encontrarse con modelos de IA que emplean herramientas, apps o sitios web que se sustentan o dependen de ellos.

Esas imprecisiones podrían tener un mayor impacto en estados con una numerosa población hispana como Arizona, Nevada, Florida y California.

Casi un tercio de todos los votantes elegibles de California, por ejemplo, son latinos; y uno de cada cinco votantes elegibles sólo habla español, de acuerdo con el UCLA Latino Policy and Politics Institute (Instituto de Política y Política Latina de la Universidad de California en Los Ángeles).

En California, el asistente legal Rommell López se considera un votante independiente. Tiene múltiples cuentas en medios sociales y utiliza el chatbot ChatGPT, de OpenAI. Cuando intentó verificar alegaciones infundadas sobre inmigrantes que comían mascotas, dijo que encontró una desconcertante cantidad de respuestas diferentes en línea, algunas generadas por IA. Al final, decidió confiar en su sentido común.

“Podemos confiar en la tecnología, pero no al 100%”, dijo López, un residente de Los Ángeles de 46 años. “Al fin y al cabo, son máquinas”.

Notas Relacionadas

No hay notas relacionadas ...