A partir de mayo, Meta identificará audios, imágenes y vídeos generados por inteligencia artificial (IA) en sus redes sociales, informó este viernes el gigante tecnológico estadounidense, matriz de Facebook, Instagram y Threads.
«Tenemos previsto empezar a etiquetar el contenido generado por IA en mayo de 2024», dijo en su blog Monika Bickert, vicepresidenta de contenidos de Meta, añadiendo que la mención «Hecho con IA», que ya se utiliza en imágenes fotorrealistas, sería aplicado a partir de ahora. a «un mayor número de contenidos de vídeo, audio e imágenes».
Estos contenidos serán marcados por la plataforma si detecta «indicadores de imágenes de IA que cumplen con los estándares de la industria» o si «las personas indican que están cargando contenido generado por IA», destacó.
En términos generales, el grupo californiano anuncia que modificará su forma de tratar los contenidos creados con IA, previa consulta a su consejo de supervisión, ya que considera que «la transparencia y un mayor contexto son ahora la mejor manera de tratar los contenidos manipulados».
Esto evita «el riesgo de restringir innecesariamente la libertad de expresión».
En lugar de eliminarlos, como venía haciendo hasta ahora, ahora añadirá «etiquetas y contexto» a estos contenidos.
Sin embargo, advirtió Meta, cualquier contenido, ya sea creado por un humano o una IA, que viole sus normas «contra la interferencia en los procesos electorales, la intimidación, el acoso, la violencia (…) o cualquier otra política de nuestros estándares comunitarios» será retirado. .
Meta reafirmó que confía en su red de «aproximadamente 100 verificadores de datos independientes» para detectar contenido «falso o engañoso» generado por IA.
La empresa matriz de Facebook anunció en febrero su deseo de etiquetar todas las imágenes generadas por IA para combatir la desinformación.
Otros gigantes como Microsoft, Google y OpenAI han asumido compromisos similares.
El temor es que la gente utilice estas herramientas para sembrar el caos político, especialmente a través de la desinformación o la desinformación.
Este año hay varias elecciones importantes, especialmente en Estados Unidos.
Más allá de estos nombramientos electorales, el desarrollo de programas de IA generativa conlleva la producción de un flujo de contenidos degradantes, según numerosos expertos y reguladores, como imágenes pornográficas falsas («deepfakes») de mujeres famosas, un fenómeno que afecta también a personas anónimas.
