Internet
TikTok y Snapchat se comprometen a combatir imágenes de abuso sexual infantil generadas por IA
Héctor Cueto | Business Insider
Las imágenes de abuso sexual infantil generadas a través de herramientas de inteligencia artificial se están convirtiendo en una preocupación cada vez mayor para las autoridades y plataformas digitales.
De acuerdo con un estudio realizado por la Internet Watch Foundation (IWF) en octubre, se encontraron en un solo mes más de 3,000 imágenes de este tipo en un foro de la dark web dedicado a material de abuso sexual infantil.
Las imágenes, generadas utilizando tecnología de conversión de texto a imagen, son inquietantemente realistas y pueden producirse sin conexión, evadiendo la detección. El informe advierte que los rápidos avances en la inteligencia artificial podrían abrumar los esfuerzos para combatir el abuso infantil en línea.
Frente a esta problemática, empresas tecnológicas como TikTok, Snapchat y Stability AI y otros 27 signatarios firmaron una declaración conjunta comprometiéndose a trabajar en conjunto para contrarrestar las imágenes de abuso sexual infantil generadas por inteligencia artificial.
El gobierno de Gran Bretaña anunció la declaración conjunta —que también fue firmada por los gobiernos Estados Unidos, Alemania y Australia — en un evento previo a una cumbre mundial sobre seguridad de la inteligencia artificial que se llevará a cabo en Reino Unido esta semana.
«Resolvemos mantener el diálogo y la innovación técnica para abordar el abuso sexual infantil en la era de la IA», se lee en el comunicado. «Resolvemos trabajar juntos para garantizar que utilizamos una IA responsable para abordar esta amenaza y nos comprometemos a continuar trabajando en colaboración para garantizar que los riesgos que plantea la IA para abordar el abuso sexual infantil no se vuelvan insuperables», agrega.
Por su parte, la CEO de la IWF, Susie Hargreaves, dijo que el momento para actuar frente a este peligro digital es ahora. «Es esencial que demos ejemplo y erradiquemos el abuso de esta tecnología emergente antes de que tenga la oportunidad de echar raíces», enfatizó.
Distintas plataformas digitales enfrentan un grave problema de contenido de abuso sexual infantil
Según el informe de la IWF, en 2022 hubo más de 200 millones de denuncias de contenido de abuso sexual infantil en línea. Este es un aumento significativo con respecto a los 149 millones de denuncias que se realizaron en 2021.
Otro informe publicado por WeProtect Global Alliance reveló que ha habido un aumento del 87% en los casos materiales de abuso sexual infantil en línea reportados desde 2019, con más de 32 millones de informes a nivel mundial.
En una entrevista con BBC News, la periodista de investigación Octavia Sheepshanks afirmó que las comunidades de pedófilos en línea han estado compartiendo guías sobre el uso de herramientas de inteligencia artificial para generar imágenes hiperrealistas de abuso sexual infantil. Stable Diffusion —una herramienta diseñada originalmente para crear arte y gráficos— se encuentra entre el software que se utiliza indebidamente.
Dicho contenido ha llegado a las principales plataformas digitales, a pesar de que estas cuentan con políticas claras contra su propagación.
En 2022, las plataformas digitales que tuvieron más reportes de abuso sexual infantil, según la IWF, fueron Facebook (85.5%), Instagram (85.5%), WhatsApp (85.5%), Google (2.2%), Snapchat (0.75%) y TikTok (0.4%).
Las principales plataformas de redes sociales ya implementan diversas acciones para eliminar el contenido de abuso sexual infantil; sin embargo, entre las principales está el desarrollar y utilizar herramientas impulsadas por IA para detectar y eliminar estos contenidos; o para identificar y eliminar cuentas y grupos que los comparten.
Jamileth
Notas Relacionadas
- 'Deepfakes' de famosos y políticos: un nuevo anzuelo de las estafas financieras en línea
- Unión Europea pregunta a plataformas de redes sociales qué hacen para reducir los riesgos de la Inteligencia Artificial generativa
- Cámara baja de Estados Unidos aprueba ley que obliga a ByteDance a desinvertir en TikTok o enfrentar prohibición
- Los centros de datos europeos lidian con la demanda de espacio impulsada por la Inteligencia Artificial
- No son imágenes de Zelenski interpretando un baile oriental, se trata de un 'deepfake'
