Buscador
Ver revista digital
Tecnología

Estos son los riesgos y consecuencias de los deepfakes

07-12-2023, 8:34:24 AM Por:
Deepfake
© Especial

Con la Inteligencia Artificial, audios, imágenes y videos falsos lesionan gravemente la privacidad, la economía y la seguridad de personas y empresas.

Los deepfakes o falsedades profundas son archivos de video, imagen o audio, generados con Inteligencia Artificial (AI), con los que se suplanta la identidad de una o varias personas con el propósito de manipular a los receptores de dicho contenido, el cual también es usado para llevar a cabo fraudes, venganzas, extorsiones y acosos de distintos tipos.

En un reciente estudio de la empresa de ciberseguridad Kaspersky se reporta, por ejemplo, que un video deepfake de alta calidad se vende en la red oscura (dark web) hasta en 20,000 dólares (unos 346,000 pesos al cambio actual), ya que con esas imágenes se puede intentar ingresar a las cuentas bancarias de alguien que tenga activada la identificación biométrica en sus dispositivos.

Por eso, los riesgos y consecuencias que representa este fenómeno son importantes y costosos, debido a que -con los avances tecnológicos- no solo se puede elaborar un audio o una imagen que aparentan ser auténticos, a fin de influir en la opinión pública, sino que los deepfakes están siendo utilizados principalmente para cometer actos delictivos.

En ese tenor, una investigación de Sumsub, una plataforma de verificación de identidad y cumplimiento de regulaciones, reveló que entre 2022 y 2023 los incidentes de deepfake se dispararon 700% en México.

Los cinco principales tipos de fraude de identidad que se dan con las falsedades profundas son: “Fraude impulsado por IA, redes de mulas de dinero, identificaciones falsas, toma de cuentas y verificación forzada”, detalla el análisis.

Las mulas de dinero son personas que se dedican a ocultar el origen de los recursos económicos adquiridos mediante actividades ilegales, es decir, se trata de delincuentes que ayudan a otros infractores de la ley a lavar dinero que proviene de la comisión de delitos.

Sumsub agrega que ha habido un aumento de 10 veces en el número de deepfakes detectados a nivel mundial en todas las industrias, destacándose sobre todo la región de Norteamérica, donde el incremento fue de 1,740% en el último año, mientras que en Europa, donde existe una mejor regulación en materia de protección de datos personales y ciberseguridad, la subida fue de 450%.

Identidades en riesgo

Si bien los contenidos falsos y el robo de identidad existen desde que el uso de internet se masificó a finales de la década de los años noventa, ahora con el auge de la IA se han multiplicado al hacerse más fácil la producción de archivos engañosos.

Salvo que se trate de parodias, en términos generales los deepfakes representan una seria amenaza a la ciberseguridad de empresas y ciudadanos, ya que estas falsedades utilizan los datos personales sensibles, como la imagen del rostro y la voz, sin contar con el permiso de sus titulares, trasgrediendo la privacidad y ocasionando grandes pérdidas económicas.

Además de la usurpación de identidades en línea, como lo son el robo de cuentas en redes sociales o de mensajería como WhatsApp, los documentos que más se falsifican y se convierten en deepfakes son los pasaportes y las credenciales o cédulas de identificación, de acuerdo con Sumsub.

De hecho, las identificaciones “siguen siendo las más explotadas para el fraude de identidad, representando casi el 75% de todas las estafas relacionadas con documentos” que contienen datos personales y sensibles.

Es nuestro país, es muy común que circulen -sin ningún tipo de protección- copias digitalizadas de nuestra credencial de elector, sobre todo cuando se adquieren servicios con particulares.

Nuestras identificaciones, incluyendo el pasaporte, no solo se envían a través de WhatsApp cuando -por ejemplo- se contrata un paquete turístico, sino que también se transfieren a través del correo electrónico.

En los bancos y dependencias gubernamentales ocurre lo mismo, en diversos trámites se nos pide una copia de nuestra credencial. Todos esos datos terminan alojados en un servidor de internet, o en pilas de documentos que se archivan sin medidas de seguridad rigurosas, lo que facilita el acceso a información sensible.

Cuando un delincuente obtiene estos datos puede usurpar nuestra identidad, y con ello abrir cuentas bancarias, pedir créditos, evadir impuestos y hasta lavar dinero.

Para Seon, una firma dedicada a la prevención de fraudes digitales, la detección de identidades falsas es una parte fundamental para todo tipo de negocios, en especial para las instituciones financieras. Pero esta detección “resulta mucho más difícil cuando se trata de una persona real que no es consciente de que sus datos han sido robados”.

Honor y privacidad

Los deepfake,que se alimentan de los datos, documentos e imágenes que circulan en internet, tiene su origen en fallas habituales de ciberseguridad: Primero, porque nosotros mismos divulgamos mucha de nuestra información, y en segundo lugar porque las filtraciones de datos se han incrementado a través de las distintas modalidades que se utilizan en ataques cibernéticos, de ransomware, o mediante el phishing.

También existe un mercado de “alquiler de identidades” o de datos, en el que el poseedor de información sensible de terceros renta esas referencias para que otra persona las utilice de manera fraudulenta por un tiempo determinado.

Incluso, más de medio millón de personas en todo el mundo son miembros de comunidades en línea dedicadas a la fabricación de deepfakes. Este tipo de foros se alojan en plataformas “asociadas principalmente con contenido para adultos deepfake”, asegura un informe de Home Security Heroes, una empresa de ciberseguridad que también se dedica a prevenir el robo de identidad.

En estos sitios se intercambian imágenes de todo tipo de personas, desde aquellos que solo han subido a internet las fotos de sus vacaciones, hasta los rostros de actores, actrices y empresarios famosos, pues con la Inteligencia Artificial es muy fácil alterar videos para adultos, sustituyendo la cara de los participantes por la de alguna personalidad.

Con esto se afectan gravemente los derechos al honor, privacidad e intimidad, lo que implica un daño permanente a la persona afectada, independientemente de que este tipo de trasgresiones pueden cuantificarse en términos económicos, si se tiene la suerte de encontrar a los responsables.

MÁS NOTICIAS:

autor Periodista y abogada, especialista en análisis jurídico y de derechos humanos. Ha sido reportera, conductora de radio y editora.

Comentarios