La Agencia Española de Protección de Datos (AEPD) lanza una campaña para concienciar a la ciudadanía sobre los riesgos de los deepfakes y promover el uso responsable de la IA

La Agencia Española de Protección de Datos (AEPD) ha puesto en marcha la campaña ‘Los deepfakes no son una broma’, cuyo objetivo es concienciar a la ciudadanía sobre los riesgos asociados a la creación y difusión de contenidos generados con técnicas de deepfake y fomentar un uso responsable de la inteligencia artificial.

Los deepfakes son contenidos producidos mediante algoritmos de inteligencia artificial capaces de replicar con gran precisión la voz, el rostro o los gestos de una persona. Aunque esta tecnología puede tener usos legítimos. También puede ser utilizada de forma inadecuada para suplantar identidades, humillar o desacreditar a una persona.

El elemento central de esta iniciativa es un vídeo divulgativo que muestra, a través de un ejemplo práctico, cómo la IA es capaz de generar imágenes realistas a partir de una simple fotografía. El vídeo presenta una simulación en pantalla dividida para, posteriormente aclarar que se trata de un montaje realizado con IA y con consentimiento.

El presidente de la AEPD, Lorenzo Cotino, ha subrayado que la IA puede aportar beneficios sociales, pero que su uso requiere información y responsabilidad, especialmente cuando se manipulan imágenes o datos personales de otras personas, incluso en contextos que puedan parecer triviales.

La AEPD recuerda a la ciudadanía la importancia de tener en cuenta los siguientes aspectos fundamentales:

• Informarse sobre el funcionamiento de la IA y sus implicaciones legales, así como sobre los posibles efectos negativos que los deepfakes pueden generar en la vida personal, profesional o social de las personas afectadas.
• Solicitar siempre el consentimiento cuando se utilicen imágenes o datos personales de terceros.
• Contrastar la información de los contenidos antes de compartirlos, debido a que pueden ser falsos o haber sido manipulados.

Esta iniciativa se suma a otros recursos divulgativos publicados por la AEPD en los últimos meses, como El uso de imágenes de terceros en sistemas de inteligencia artificial y sus riesgos visibles e invisibles, que analiza las consecuencias de subir, transformar o generar contenidos visuales con la imagen de una persona, y Cuidado con lo que le confías, que ofrece recomendaciones para un uso seguro, responsable y consciente de la inteligencia artificial.