Los estafadores pueden ahora fabricar o robar una identidad digital por menos de lo que cuesta llevar comida a domicilio.
Se pueden hacer falsificaciones profundas y realistas de forma gratuita, en cuestión de segundos, y combinarlas con información de identificación personal robada y comprada en la web oscura por tan solo 10 dólares. Estas falsificaciones se utilizan para cometer fraude de identidad digital y engañar a individuos, organizaciones y gobiernos para que renuncien a millones de dólares, prácticamente sin esperanza de recuperación.
En el último año, GenAI ha irrumpido en escena como una herramienta cómoda y de bajo coste para cometer fraudes. Se está utilizando para crear permisos de conducir falsos, clonar voces con sólo 10 segundos de audio, automatizar la unión de identidades sintéticas y escalar las estafas de phishing por correo electrónico.
Sin embargo, los responsables de la lucha contra el fraude han tardado más en adoptar esta potente tecnología.
La realidad es que estamos en una carrera y a cada momento que pasa los defraudadores nos llevan más ventaja. Ahora nos encontramos en una encrucijada. ¿Seguimos quedándonos atrás o aceptamos el ritmo del cambio y adoptamos la IA para ir más rápido?
Comparo el momento actual con una época decisiva en la historia del transporte. Los primeros coches eran poco fiables y demasiado caros. A medida que evolucionaron, los coches superaron a los caballos como medio de transporte más fiable y cómodo, cambiando el mundo tal y como lo conocemos.
Avancemos hasta nuestros días. La IA ha avanzado rápidamente y ha dado paso a una nueva era de fraude. Si no aprovechamos la IA para contraatacar, quedaremos a merced de los defraudadores, como un Clydesdale persiguiendo a un Ferrari.
En el sector público, las agencias gubernamentales han experimentado un aluvión de fraude impulsado por la IA. Esto se debe a que son responsables de distribuir miles de millones de dólares y a menudo confían en tecnología obsoleta para hacerlo.
Ahora más que nunca, debemos emplear las tecnologías adecuadas para proteger a las personas y salvaguardar los servicios críticos que presta el gobierno.
El sector público ha dado pasos importantes para utilizar la IA en la lucha contra el fraude. Por ejemplo, el Departamento del Tesoro anunció la recuperación de más de 375 millones de dólares gracias a un nuevo proceso de detección del fraude mejorado con IA. Pero tenemos que hacer más, y rápido.
Hay tres pasos importantes que los responsables políticos y los líderes de las agencias gubernamentales deben dar para acelerar el uso de la IA en la lucha contra el fraude.
Los responsables políticos deben animar a las agencias a adoptar tecnologías de IA que puedan proteger mejor a los ciudadanos estadounidenses. La Oficina de Gestión y Presupuesto de la Casa Blanca ha puesto recientemente una estaca en el suelo para el uso y gobierno de las tecnologías de IA. Se trata de un paso loable para innovar en la prestación de servicios públicos, pero debe ir acompañado de un sentido de urgencia para lograr la alineación en la ejecución. De lo contrario, podríamos asistir a un efecto paralizador en la adopción de la IA por parte de los organismos.
Los legisladores también tienen un papel que desempeñar. El Congreso debería financiar íntegramente al Instituto Nacional de Normalización y Tecnología para que ponga en marcha el Instituto de Seguridad de la IA de EE.UU. y desarrolle normas y marcos de medición para la IA en la Administración. Saber lo que funciona y lo que no nos permitirá ser tan ágiles como nuestros adversarios.
También debemos dar prioridad a un sólido sistema de verificación de identidad digital equipado con IA como parte de nuestras defensas. En esta nueva era del fraude, las comprobaciones básicas de identificación no son suficientes. Necesitamos una imagen completa de quién dice ser alguien en Internet. Los nuevos enfoques que aprovechan la IA y el aprendizaje automático analizan puntos de datos adicionales como el sistema operativo, la geolocalización IP, el tipo de red y el comportamiento en línea para verificar la identidad digital.
La realidad es que el panorama del fraude que vemos hoy no se corresponderá con lo que tendremos que combatir mañana. El ritmo de evolución es demasiado rápido para que las tecnologías heredadas puedan seguirlo.
La IA puede ayudarnos a ganar la carrera contra el fraude posibilitado por la IA. Pero sólo si decidimos utilizarla.
Originalmente publicado en Nextgov