Formato de impresión

Candidata al Congreso de Estados Unidos experimenta con Inteligencia Artificial para llegar a los votantes

2023-12-13

Por | Associated Press

Una operadora telefónica automática alimentada íntegramente por inteligencia artificial está siendo probada por primera vez en el mundo real en la campaña electoral de una demócrata que aspira al Congreso de Estados Unidos por Pensilvania.

El chatbot, llamado Ashley, llama a los votantes y entabla conversaciones bidireccionales e interactivas acerca de la candidata Shamaine Daniels, una de los siete precandidatos demócratas hasta ahora para las primarias del próximo año. La herramienta de voz de la empresa Civox representa una de las muchas formas en que la tecnología de IA está irrumpiendo en la política de cara a las campañas de 2024, pero los expertos dicen que su contacto directo con los votantes podría poner en riesgo la seguridad de los datos y tiene el potencial de socavar la confianza de los votantes.

Daniels anunció la asociación con Civox el martes, y dijo que esa herramienta de campaña política, la primera en su tipo, ya había completado más de 1,000 llamadas con probables votantes de las primarias demócratas en el 10mo distrito legislativo de Pensilvania, que incluye la capital del estado, Harrisburg.

A diferencia de otros sistemas de llamadas automatizadas, Ashley no utiliza respuestas prefabricadas ni ofrece un menú de opciones a los destinatarios de las llamadas. En su lugar, utiliza tecnología de IA generativa para idear respuestas inmediatas similares a las humanas para las preguntas de los votantes.

La herramienta fue creada por Civox en colaboración con otra nueva empresa, Conversation Labs. El director general de Civox, Ilya Mouzykantskii, y Adam Reis, cofundador de Civox y fundador de Conversation Labs, explicaron que la probaron rigurosamente para asegurarse de que podía responder con precisión a preguntas sobre las políticas de Daniels y lo que la diferencia de otros candidatos en la contienda.

Los fundadores dicen que decidieron dotar a la herramienta de una voz similar a la de una máquina porque, en las pruebas internas, los destinatarios de las llamadas la preferían a otras voces más realistas.

“A menudo no es la voz en sí lo que influye en qué tan natural o humana se sienta la conversación”, afirma Reis. “Suelen ser los matices de las interacciones y la rapidez con que responde y el lenguaje que utiliza”.

En una demostración con Ashley el martes, la herramienta avisó que funcionaba con IA y que la llamada estaba siendo grabada. Cuando se le pidió, compartió de forma clara y precisa las posturas de Daniels sobre servicios de salud asequibles y reforma educativa.

Respondió diplomáticamente a preguntas concretas sobre la fiabilidad del proceso electoral y sobre el republicano que ocupa el escaño, el representante Scott Perry, que lleva seis mandatos en el cargo, deteniéndose sólo unos segundos antes de cada respuesta.

Pero cuando se le hicieron preguntas fuera de tema, la herramienta a veces se equivocó y compartió información falsa. En una conversación sobre frituras, dijo que los Cheetos eran “conocidos por ser tanto deliciosos como saludables”.

Ese es un ejemplo de “alucinación” de la IA, un problema de la tecnología de IA generativa, en la que los grandes modelos lingüísticos tienden a hacer afirmaciones que suenan convincentes pero que son falsas o inventadas.

Mouzykantskii dijo que el error era fascinante pero “no representativo” de las experiencias de los votantes con la herramienta hasta el momento. “Hemos probado Ashley mucho más en temas políticos que en el tema de la alimentación y la nutrición”, afirmó.

Hasta el momento, Ashley ha recibido respuestas mixtas por parte de los votantes, dijo Joe Bachman, de Indigo Strategies, un portavoz de Daniels. Destacó que aunque algunas de las personas que recibieron llamadas sostuvieron conversaciones a fondo, muchos simplemente respondieron con una sola palabra, tal como lo haría uno durante una conversación telefónica con un chatbot bancario.

“No hay reemplazo para las conversaciones en vivo uno a uno, ya sean por teléfono o en la puerta”, comentó. “Se trata de una nueva tecnología. A los votantes les tomará algo de tiempo acostumbrarse, al igual que cuando las campañas comenzaron a usar mensajes de texto para comunicarse con los votantes”.

Añadió que la campaña sentía que el chatbot, que puede hablar más de 20 idiomas, era una buena oportunidad para llegar a los votantes en un distrito del sur de Filadelfia que cuenta con una importante población de refugiados.

Mouzykantskii y Reis dijeron que crearon a Ashley utilizando una combinación de más de 20 modelos de IA, tanto de código abierto como exclusivos. Se negaron a revelar en qué tipo de datos están entrenados sus modelos de IA y tampoco revelaron si incorporaron sistemas de OpenAI o de alguna otra renombrada compañía de inteligencia artificial que tenga reglas contra su uso en campañas políticas.

Otros emprendedores en la intersección entre la inteligencia artificial y la política expresaron su escepticismo en torno a la interacción directa de Ashley con los votantes, y con frecuencia recomiendan a las campañas que usen esta tecnología en las partes de sus campañas que no tengan contacto con el público, como al momento de elaborar guiones publicitarios.

“El consejo que yo he dado y he visto de la mayoría de la gente es distanciarse de las personalidades de IA en lo referente a la política y a las campañas de este ciclo”, dijo Betsy Hoover, socia fundadora de la firma de capital de riesgos y acelerador tecnológico Higher Ground Labs. “En este momento lo último que se necesita es que la gente desconfíe más de la política. De hecho, se necesita todo lo contrario, así que este no es el ciclo para probar esto”.

Mike Nellis, director general de la agencia digital Authentic, expresó su preocupación por la posibilidad de que el chatbot cometa errores en las conversaciones y no creía que hubiera datos suficientes para determinar si sus llamadas motivarían a los votantes de forma eficaz. Los datos que recaba la herramienta a través de sus llamadas telefónicas son otra inquietud, señaló.

“En este momento, ese modelo grande de lenguaje tiene conocimiento de información delicada de los votantes y conoce la respuesta de los votantes a ella”, dijo Nellis. “No sé qué tan seguro sea eso”.

Mouzykantskii señaló que Civox protege la información en apego a los “estándares industriales, tecnológicos y de campañas políticas”, y añadió que él alienta a los reguladores a poner atención a estas herramientas emergentes y a establecer lineamientos más estrictos al respecto.

Daniels, de 45 años, es una abogada de inmigración y miembro del concejo municipal de Harrisburg que busca por segunda vez un escaño en el Congreso por parte de un distrito de tendencia republicana. La elección primaria en el estado es el 23 de abril.

Perry venció a Daniels en 2022 por 8 puntos porcentuales, superándola ampliamente en gastos.