IA Deepfake: ¿hasta dónde es ético llegar en el campo de la Inteligencia Artificial?

El caso ocurrió en España, pero es perfectamente extensible a toda Europa. La creación de deepfakes mediante Inteligencia Artificial ha ido ganando terreno en la red, minando la seguridad de las organizaciones y la privacidad individual de famosos y ciudadanos comunes. Se han denunciado varios casos que han sacudido la ciberseguridad y han puesto de manifiesto la falta de legislación en este ámbito.

¿Sabes lo que es un deepfake? Infórmate sobre esta nueva -y fácil- forma de manipular y alterar contenidos que puede causar daños irreparables.
 

Deepfake: ¿sabes lo que es?

La manipulación de los hechos en Internet ha sido uno de los mayores retos para empresas, instituciones y medios de comunicación. Primero las fake news y ahora el deepfake.

Se trata de una de las formas más efectivas de producir contenidos digitales falsos, ya que permite sustituir caras, voces o incluso cuerpos, creando así situaciones falsas pero muy creíbles. La inteligencia artificial permite crear deepfakes tan reales que a menudo son imposibles de detectar.
 

El tema ha sido noticia en España

Recientemente, este tema fue noticia en España cuando un grupo de progenitores denunció que más de 20 alumnas habían recibido imágenes de sí mismas desnudas generadas por inteligencia artificial. Al inicio del curso escolar, más de 20 chicas de Almendralejo, una localidad del sur de España, recibieron fotos de ellas mismas desnudas en sus teléfonos móviles. Las imágenes fueron robadas de sus cuentas de Instagram, manipuladas mediante inteligencia artificial y compartidas en un grupo de WhatsApp.

El caso también fue publicado en Libro de Quejas y hace referencia a la aplicación  ClothOff, con la que se generaron las imágenes falsas.

“Se expresa profunda preocupación por la creación, distribución, uso y venta de inteligencia artificial (IA) que tiene la capacidad de desvestir a personas a partir de fotografías sin su consentimiento. Se considera que esta tecnología infringe gravemente la privacidad, la dignidad y el respeto de los derechos humanos.”.
 

¿Qué dice la legislación?

Cada vez se denuncian más casos de deepfake y esto se ha convertido en un tema candente cuando se trata de la seguridad de consumidores y organizaciones. Incluso hay varias empresas y start-ups desarrollando herramientas para identificar fotos, audios y vídeos adulterados por IA. Sin embargo, en lo que respecta a los consumidores, el camino es más largo y la ley aún no contempla ninguna regulación para este tipo de actividades online.

¿Pueden penalizarse legalmente los deepfakes? De hecho, existe una laguna legal en este sentido, ya que aún no existe una definición concreta sobre el tema. Según la legislación de varios países de la Unión Europea, una imagen generada por un deepfake no es real, por lo que no afecta a la intimidad real de la persona en cuestión. Sin embargo, los efectos que tiene sobre la víctima pueden ser graves y muy similares a los causados por la difusión de una foto de un desnudo real.
 

La alfabetización digital es clave para identificar los deepfakes

Queda mucho camino por recorrer en materia de ciberseguridad colectiva e individual. Los deepfakes se generan a menudo mediante el robo de datos e identidades y se están utilizando para robar a instituciones, utilizar y difundir imágenes de contenido sexual.

Se ha vuelto tan barato y fácil manipular fotos que es necesaria una regulación y una mayor protección de los datos y las imágenes compartidas en línea por los usuarios. Mientras la legislación intenta adaptarse, es importante equipar, sensibilizar e informar al máximo a los consumidores para que sean conscientes de esta falsa manipulación de los contenidos que circulan en línea y para que no caigan en las estafas generadas a través de la IA.

Ya no basta con ver para creer, y hay que recabar toda la información posible sobre el tema para no caer en estafas ni creerse todo lo que se publica en Internet. Y tan importante es tener información sobre el tema como denunciarlo si es necesario. Si te encuentras en una situación similar, no dudes en denunciarla en el Libro de Quejas. Tu participación ayudará a alertar a los consumidores al respecto.