IA impulsa estafas con 'deepfakes'; 7 de cada 10 mexicanos no sabe que es esto.

Expertos advierten que las deepfakes hoy se pueden crear rápidamente y a bajo costo con software disponible gratuitamente y la capacidad de alquilar potencia de procesamiento a través del cómputo en la nube.

Un arma puede edificar una vivienda o herir a alguien; así es con las tecnologías actuales, incluyendo la inteligencia artificial. Expertos en ciberseguridad advierten sobre el aumento de estafas y ciberataques mejorados por IA. Los engaños mediante deepfakes, desconocidos para 7 de cada 10 mexicanos, preocupan.

Kaspersky, empresa de ciberseguridad, alertó sobre engaños donde se alteran imágenes y videos para engañar. En la web oscura se venden estos falsos contenidos para facilitar fraudes, estafas y chantajes.

El término "deepfake" surgió en 2017 para describir falsificaciones realistas generadas con IA. Al principio, eran inofensivas pero, a medida que se sofisticaron, aumentaron los peligros potenciales. Ahora se identifican falsificaciones que usan redacción similar a la de una persona conocida por la víctima.

Deepfake es "deep" de "deep learning" y "fake" de falsificación. Esta técnica usa IA para crear videos ultrafalsos. Esta técnica consiste en un método avanzado de IA que recopila datos sobre expresiones y movimientos físicos que luego se procesan a través de una Red generativa antagónica (GAN) para crear un video ultra falso. Antes exclusiva de Hollywood, ahora es accesible, inundando el ciberespacio con contenido confuso y fraudulento.

Kaspersky alertó que “a pesar de que la propagación de esta amenaza y sus consecuencias pueden afectar la reputación, privacidad, así como las finanzas de instituciones y usuarios, cifras de la compañía revelan que la mayoría de los mexicanos no sabe qué es un deepfake (72%) y tampoco sabría reconocer un contenido de este tipo (62%). Esto hace que las personas sean más susceptibles a los fraudes y estafas impulsados por esta técnica”.

Según una encuesta “La infodemia y su impacto en la vida digital”, de Kaspersky y CORPA, el 70% de los usuarios latinoamericanos ignora los deepfakes. Los peruanos (75%) son los menos informados, seguidos por mexicanos y chilenos (72%), argentinos (67%), brasileños (66%) y colombianos (63%). Este desconocimiento preocupa a los expertos en ciberseguridad, ya que podría asegurar el éxito de tácticas fraudulentas basadas en esta tecnología.

“La técnica de IA aplicada a expresiones fáciles en sí no es maliciosa, ya que permite a la industria del cine, por ejemplo, ofrecer al público experiencias cada vez más asombrosas. Sin embargo, el uso de deepfakes tiende a volverse cada vez más imperceptible y, como pasa con cualquier tecnología innovadora, su proliferación conlleva a riesgos y consecuencias”, advierte Dmitry Bestuzhev, director del Equipo de Investigación y Análisis para América Latina en Kaspersky.

“Los ejemplos más comunes de uso indebido incluyen videos falsos que utilizan el rostro de sus víctimas para atentar contra su integridad o credibilidad, así como la manipulación de imágenes y sonidos para eludir contraseñas biométricas (rostro y voz).  A medida que la tecnología se vuelva menos costosa, podemos esperar que surjan nuevos usos ilícitos”, añadió.

Los datos de la compañía de ciberseguridad muestran que el 67% de los latinoamericanos no sabe reconocer cuándo un video ha sido editado digitalmente mediante la técnica del deepfake, con los colombianos siendo los menos capaces de detectar este tipo de videos (72%), seguidos por los brasileños (71%), chilenos (70%), argentinos (68%), mexicanos (62%) y peruanos (57%).

“Estas cifras se tornan aún más preocupante si consideramos que además de videos, frecuentemente compartidos por redes sociales o WhatsApp, también se han reportado casos de fraude en plataformas de búsqueda de trabajo que utilizan esta tecnología para crear perfiles falsos con el objetivo de engañar y extraer información personal de sus víctimas”, alerta la compañía.

Las deepfakes representan un grave riesgo para la desinformación, manipulación electoral y de la opinión pública, difusión de teorías conspirativas y noticias falsas, suplantación de identidad, daño a la reputación y pérdida de confianza pública. Su creación ya no requiere conocimientos técnicos avanzados, ya que ahora existen programas gratuitos que permiten crear estas falsificaciones rápidamente.

“El uso de la IA para generar deepfakes está causando preocupación porque los resultados son cada vez más realistas, se crean rápidamente y se hacen a bajo costo con software disponible gratuitamente y la capacidad de alquilar potencia de procesamiento a través del cómputo en la nube. De este modo, incluso los operadores no cualificados podrían descargar las herramientas informáticas necesarias y, utilizando datos públicos, crear contenidos falsificados cada vez más convincentes”, alertó un documento del Congreso de EU, fechado el 17 de abril de este año.

Las autoras del informe del Congreso estadounidense añaden que “la tecnología deepfake se ha popularizado con fines de entretenimiento, por ejemplo, los usuarios de las redes sociales insertan al actor Nicholas Cage en películas en las que no apareció originalmente y un museo que genera una exposición interactiva con el artista Salvador Dalí”.

Aunque también han sido utilizadas con propósitos beneficiosos. Por ejemplo, investigadores médicos han empleado GAN para generar imágenes médicas artificiales y así entrenar algoritmos de detección de enfermedades poco comunes, al mismo tiempo que minimizan las preocupaciones sobre la privacidad de los pacientes.

“Sin embargo, las falsificaciones profundas podrían usarse con fines nefastos. Los adversarios estatales o las personas con motivaciones políticas podrían publicar videos falsificados de funcionarios electos u otras figuras públicas haciendo comentarios incendiarios o comportándose de manera inapropiada. Hacerlo podría, a su vez, erosionar la confianza pública, afectar negativamente el discurso público o incluso influir en una elección”, alertan las autoras.

Para protegerte contra deepfakes y otras estafas, aquí te ofrecemos algunas recomendaciones:

1. Mantente informado sobre las nuevas tecnologías y sus riesgos: Es crucial comprender la inteligencia artificial (IA) y sus implicaciones, incluyendo las amenazas asociadas con esta tecnología.

2. Confía en fuentes de información confiables: El desconocimiento informativo puede facilitar la propagación de ciberamenazas como el phishing y los deepfakes.

3. Adopta buenos hábitos digitales, como "confiar pero verificar": Sé cauteloso y escéptico frente a correos electrónicos, mensajes de texto o llamadas que recibas, especialmente si parecen extraños o ilógicos.

4. Emplea soluciones de seguridad: Aunque la protección contra amenazas de IA está en desarrollo, existen herramientas de seguridad que pueden protegerte contra diversas amenazas cibernéticas, tanto conocidas como desconocidas.