FraudeGPT es el hermano Gato malvadoGPT. Es ascendido en el Red oscura y puedes escribir un mensaje haciéndote pasar por un banco, crear malware o mostrar sitios web que son susceptibles de fraude, según la plataforma de análisis de datos Netenrich. Otras herramientas como WormGPT también prometen facilitar el trabajo de los ciberdelincuentes. La inteligencia artificial generativa puede utilizarse con fines maliciosos: desde generar sofisticadas estafas hasta crear pornografía no consentida, campañas de desinformación e incluso armas bioquímicas.
“Aunque se trata de un fenómeno relativamente nuevo, los delincuentes no han tardado en aprovechar las capacidades de la inteligencia artificial generativa para conseguir sus objetivos”, afirma Josep Albors, director de Investigación y Divulgación de la empresa de seguridad informática ESET en España. El experto pone algunos ejemplos: el desarrollo de Suplantación de identidad cada vez más sofisticados –sin errores ortográficos, además de muy bien segmentados y orientados– a la generación de desinformación y falsificaciones profundas. Es decir, vídeos manipulados con inteligencia artificial para modificar o sustituir el rostro, el cuerpo o la voz de una persona.
Para Fernando Anaya, gerente de país Según Proofpoint, la inteligencia artificial generativa ha demostrado ser “un paso evolutivo más que revolucionario”. «Atrás quedaron los días en que se aconsejaba a los usuarios que buscaran errores gramaticales, contextuales y sintácticos obvios para detectar correos electrónicos maliciosos», afirma. Ahora los atacantes lo tienen más fácil. Simplemente solicite una de estas herramientas para generar un correo electrónico urgente y convincente sobre la actualización de la información de cuenta y enrutamiento.
Además, pueden crear fácilmente correos electrónicos en muchos idiomas. “Es posible que un LLM (un modelo de lenguaje colosal, que utiliza aprendizaje profundo y se entrena con grandes cantidades de datos) lea primero todos los perfiles de LinkedIn de una organización y luego escriba un correo electrónico muy específico para cada empleado. Todo ello en impecable inglés u holandés, adaptado a los intereses específicos del destinatario”, advierte el Centro Holandés de Ciberseguridad.
Philipp Hacker, profesor de derecho y ética de la sociedad digital en la Nueva Escuela Europea de Estudios Digitales, explica que la inteligencia artificial generativa se puede utilizar para crear malware más eficaz, más difícil de detectar y capaz de atacar sistemas o vulnerabilidades específicas: “Si bien es probable que todavía se requiera una profunda experiencia humana para desarrollar virus avanzados, la inteligencia artificial puede ayudar en las primeras etapas de la creación de virus. malware«.
La implementación de este tipo de técnicas “está todavía lejos de estar generalizada”, según Albors. Pero herramientas como FraudGPT o WormGPT pueden plantear un “grave problema para el futuro”. «Con su ayuda, los delincuentes sin prácticamente ningún conocimiento técnico previo pueden preparar campañas maliciosas de todo tipo con una probabilidad considerable de éxito, lo que significa que para los usuarios y las empresas tendrán que enfrentarse a amenazas aún mayores».
Genera audio, imágenes y vídeos.
Cuanto más convincente sea una estafa, más probabilidades habrá de que alguien se convierta en víctima. Hay quienes utilizan la inteligencia artificial para sintetizar audio. “Estafas como la ‘carnicería’ algún día podrían pasar de los mensajes a las llamadas, aumentando aún más el poder persuasivo de esta técnica”, cree Anaya. Esta estafa, traducida al español como “carnicería de cerdos”, se llama así porque los atacantes “engordan” a las víctimas, se ganan su confianza y luego les quitan todo lo que poseen. Aunque esto suele estar relacionado con las criptomonedas, también puede implicar otros intercambios financieros.
Los investigadores de Proofpoint ya han visto a ciberdelincuentes utilizar esta tecnología para engañar a funcionarios gubernamentales. Así lo demuestra su investigación sobre el grupo TA499, que utiliza esta técnica contra políticos, empresarios y celebridades. “Realizan videollamadas en las que intentan parecerse lo más posible a los suplantados utilizando inteligencia artificial y otras técnicas para que las víctimas compartan información o ridiculicen, subiendo luego la grabación a las redes sociales”, explica Anaya.
La inteligencia artificial generativa también se utiliza para ejecutar campañas con imágenes editadas e incluso vídeos. Se ha clonado el audio de presentadores de televisión o personalidades importantes como Ana Botín, Elon Musk o Alberto Núñez Feijóo. Así lo explica Albors: “Estos deepfakes se utilizan principalmente para promover inversiones en criptomonedas que normalmente terminan en la pérdida del dinero invertido. »
De la pornografía a las armas bioquímicas
Un hacker considera particularmente «alarmante» el uso de inteligencia artificial generativa para crear pornografía. “Esta forma de abuso se dirige casi exclusivamente a las mujeres y causa graves daños personales y profesionales”, subraya. Hace unos meses, decenas de mineros en Extremadura denunciaron que circulaban fotografías falsas de ellos desnudos creadas por inteligencia artificial. Algunas celebridades como Rosalía o Laura Escanes han sufrido ataques similares.
La misma tecnología se ha utilizado «para crear imágenes falsas que representan a inmigrantes amenazantes, con el objetivo de influir en la opinión pública y en los resultados electorales, y para crear campañas de desinformación a gran escala más sofisticadas y convincentes», señala Hacker. Después de los incendios forestales que asolaron la isla de Maui en agosto, algunas publicaciones informaron sin pruebas de que fueron provocados por un «arma climática» secreta probada por Estados Unidos. Estos mensajes formaban parte de una campaña liderada por China e incluían imágenes aparentemente creadas con inteligencia artificial, según Los New York Times.
El potencial para utilizar la inteligencia artificial generativa no termina ahí. Un artículo publicado en la revista. Inteligencia de las máquinas naturales. indica que modelos avanzados de inteligencia artificial podrían ayudar a crear armas bioquímicas. Algo que, para Hacker, representa un peligro global. Además, los algoritmos pueden infiltrarse en el software de infraestructura crítica, según el experto: “Estas amenazas híbridas desdibujan los límites entre los escenarios de ataque tradicionales, lo que hace que sean difíciles de predecir y contrarrestar con las leyes y regulaciones existentes. »
El desafío de prevenir riesgos de fraudeGPT y otras herramientas
Existen soluciones que utilizan el aprendizaje automático y otras técnicas para detectar y bloquear los ataques más sofisticados. Sin embargo, Anaya se centra en educar y concienciar a los usuarios para que ellos mismos puedan reconocer los correos electrónicos de phishing y otras amenazas. Para Hacker, mitigar los riesgos asociados al uso malicioso de la inteligencia artificial generativa requiere un enfoque que combine medidas regulatorias, soluciones tecnológicas y directrices éticas.
Entre las posibles medidas menciona el establecimiento obligatorio de equipos independientes que prueben este tipo de herramientas para identificar vulnerabilidades y posibles abusos o la prohibición de ciertos modelos de código abierto. “Abordar estos riesgos es complejo, ya que existen importantes compensaciones entre los diferentes objetivos éticos de la inteligencia artificial y la viabilidad de implementar ciertas medidas”, concluye.
puedes seguir EL PAÍS Tecnología dentro Facebook Y X o regístrate aquí para recibir nuestra boletín semanal.
