Formato de impresión

OpenAI busca abordar temores de intromisión electoral en una publicación de blog

2024-01-15

Por Anna Tong

SAN FRANCISCO, 15 ene (Reuters) - - El laboratorio de inteligencia artificial OpenAI publicó una entrada de blog el lunes buscando abordar los temores de que su tecnología se entrometa en las elecciones, mientras más de un tercio del mundo se prepara para acudir a las urnas este año.

El uso de IA para interferir con la integridad electoral ha sido una preocupación desde que Microsoft lanzó dos productos: ChatGPT, que puede imitar la escritura humana de manera convincente, y DALL-E, cuya tecnología se puede utilizar para crear "deepfakes", o imágenes fabricadas de apariencia realista.

Entre los preocupados se encuentra el propio director ejecutivo de OpenAI, Sam Altman, quien testificó en el Congreso en mayo que estaba "nervioso" por la capacidad de la IA generativa de comprometer la integridad electoral a través de "desinformación interactiva uno a uno".

La empresa con sede en San Francisco dijo que en Estados Unidos, que celebrará elecciones presidenciales este año, está trabajando con la Asociación Nacional de Secretarios de Estado, una organización que se enfoca en promover procesos democráticos efectivos como las elecciones.

ChatGPT dirigirá a los usuarios a CanIVote.org cuando se les hagan ciertas preguntas relacionadas con las elecciones, agregó.

La compañía también dijo que está trabajando para hacer más obvio cuando las imágenes son generadas por IA usando DALL-E, y planea poner un ícono "cr" en las imágenes para indicar que fueron generadas por IA, siguiendo un protocolo creado por la Coalición para la procedencia y autenticidad del contenido.

También está trabajando en formas de identificar el contenido generado por DALL-E incluso después de que se hayan modificado las imágenes.

En la publicación, OpenAI enfatizó que sus políticas prohíben el uso de su tecnología de maneras que ha identificado como potencialmente abusivas, como la creación de chatbots que pretenden ser personas reales o desalentar el voto. También prohíbe a DALL-E crear imágenes de personas reales, incluidos candidatos políticos, dijo.

La empresa enfrenta desafíos para controlar lo que realmente sucede en su plataforma.

Cuando Reuters el año pasado intentó crear imágenes de Donald Trump y Joe Biden, la solicitud fue bloqueada y apareció un mensaje que decía "puede que no siga nuestra política de contenido".

Reuters, sin embargo, pudo crear imágenes de al menos una docena de políticos estadounidenses más, incluido el ex vicepresidente Mike Pence.