TikTok ha anunciado este viernes el lanzamiento global de una herramienta para detectar ‘deepfakes’ relacionados con figuras públicas. La medida busca contener la desinformación generada con inteligencia artificial ante la próxima oleada de procesos electorales en países europeos.
Una herramienta para denunciar usos no autorizados de la imagen
Los llamados ‘deepfakes’, también conocidos como contenidos ultrafalsos, suelen ser vídeos o audios que aparentan ser auténticos, aunque han sido creados o alterados mediante IA.
La nueva función, denominada herramienta de detección de imágenes similares, permitirá a políticos y a cuentas con un elevado número de seguidores en TikTok localizar y denunciar contenidos creados con inteligencia artificial que empleen su imagen sin autorización.
La implementación de esta funcionalidad se está realizando de forma progresiva. Para TikTok, plataforma propiedad de la empresa china ByteDance, se trata de un recurso esencial para reforzar la protección frente a la desinformación en las elecciones previstas para el próximo año en distintos países de Europa, entre ellos Italia, Francia y Grecia.
Protección de la integridad electoral
«Proteger la integridad de las elecciones es una de las responsabilidades más importantes que tenemos en TikTok», afirmó Francesca Scapolo, responsable de relaciones gubernamentales de la compañía para las elecciones europeas.
Scapolo realizó estas declaraciones durante el evento de seguridad e innovación de TikTok celebrado el jueves en Londres. También señaló que el sistema de detección de imágenes similares ayudará a «los políticos y al gobierno a identificar contenido potencialmente generado por IA que haya sido compartido sin su consentimiento».
Normas europeas y moderación con inteligencia artificial
La Unión Europea comenzó en agosto a aplicar normas de transparencia de amplio alcance sobre la inteligencia artificial. Entre sus exigencias figura el etiquetado de los ‘deepfakes’ y de otros materiales creados con IA.
TikTok ya obliga desde hace varios años a los creadores a etiquetar imágenes, audios y vídeos realistas generados mediante inteligencia artificial. El año pasado, la compañía indicó que las mejoras tecnológicas le permitirían reducir puestos de trabajo y oficinas de moderación en distintas partes del mundo.
La IA ha adquirido un papel relevante en la moderación de redes sociales, ya que las plataformas buscan disminuir los costes de las revisiones humanas de contenidos como la pornografía, la desinformación y los discursos de odio.
Otras plataformas también desarrollan sistemas de detección
YouTube también ha creado una herramienta de detección de imágenes para que los creadores puedan identificar vídeos generados con IA en los que aparezcan personas haciéndose pasar por ellos.
Por otra parte, la AFP, junto con más de una docena de organizaciones dedicadas a la verificación de datos, recibe pagos de TikTok en varios países para revisar vídeos que podrían incluir información falsa.















Deja una respuesta