Ciencia y Tecnología
La pornografía deepfake podría ser un problema con la Inteligencia Artificial
Por HALELUYA HADERO
NUEVA YORK (AP) — Las imágenes creadas con inteligencia artificial se pueden utilizar para crear arte, probarse ropa en probadores virtuales o ayudar a diseñar campañas publicitarias.
Pero los expertos temen que el lado más oscuro de estas herramientas de fácil acceso pueda empeorar algo que daña principalmente a las mujeres: la pornografía deepfake no consensuada.
Las imágenes deepfake son aquellas que se han creado o alterado digitalmente con inteligencia artificial. La pornografía creada con esta tecnología comenzó a difundirse por internet hace varios años cuando un usuario de Reddit compartió clips donde se colocaban rostros de celebridades femeninas sobre los hombros de actores porno.
Desde entonces, los creadores de deepfakes han difundido videos e imágenes similares dirigidos a personas influyentes en línea, periodistas y otras personas con un perfil público. Existen miles de videos en una gran cantidad de sitios web. Y algunos han estado ofreciendo a los usuarios la oportunidad de crear sus propias imágenes, esencialmente permitiendo que cualquiera convierta a quien desee en fantasías sexuales sin su consentimiento, o use la tecnología para dañar a sus exparejas.
El problema, dicen los expertos, creció a medida que se hizo más fácil hacer deepfakes sofisticados y visualmente atractivos. Y dicen que podría empeorar con el desarrollo de herramientas de inteligencia artificial generativa que se entrenan en miles de millones de imágenes de internet y arrojan contenido novedoso utilizando datos existentes.
“La realidad es que la tecnología continuará proliferando, continuará desarrollándose y seguirá siendo tan fácil como presionar un botón”, dijo Adam Dodge, fundador de EndTAB, un grupo que brinda capacitación sobre abusos habilitado por la tecnología.
Mientras tanto, algunos modelos de inteligencia artificial dicen que ya están restringiendo el acceso a imágenes explícitas.
OpenAI dice que eliminó el contenido explícito de los datos utilizados para entrenar la herramienta de generación de imágenes DALL-E, lo que limita la capacidad de los usuarios para crear ese tipo de imágenes. La compañía también filtra las solicitudes y dice que bloquea a los usuarios para que no creen imágenes de inteligencia artificial de celebridades y políticos prominentes. Midjourney, otro modelo, bloquea el uso de ciertas palabras clave y alienta a los usuarios a señalar las imágenes problemáticas a los moderadores.
Mientras tanto, la startup Stability AI lanzó una actualización en noviembre que elimina la capacidad de crear imágenes explícitas utilizando su generador de imágenes Stable Diffusion. Esos cambios se produjeron después de los informes de que algunos usuarios estaban creando imágenes de desnudos inspiradas en celebridades utilizando la tecnología.
JMRS
Notas Relacionadas
- Estados Unidos mira hacia energía nuclear ante creciente demanda de electricidad y energía más limpia
- Cuando la Inteligencia Artificial reprueba la prueba de lenguaje, ¿quién queda fuera de la conversación?
- Innerarity pide en la Unesco regular la Inteligencia Artificial por el peligro para la calidad democrática
- La gran conferencia de la Inteligencia Artificial y tecnología da comienzo en Toronto con 38,000 asistentes
- El FMI alerta de que la IA generativa también afectará a trabajos cualificados
