Sábado 14 de Diciembre de 2024

13 de octubre de 2024

OpenAI alertó que hackers de China e Irán usan ChatGPT para realizar ciberataques contra otros países

La empresa confirmó más de 20 de casos en que la herramienta se utilizó para desarrollar malware y lanzar ataques de phishing. Expertos advierten que este es solo el comienzo de una nueva era de amenazas cibernéticas potenciadas por inteligencia artificial

>OpenAI idenfiticó a más de 20 ataques cibernéticos y de manipulación recientes que involucraron el uso de su modelo de inteligencia artificial (IA) generativa con fines maliciosos, según un informe publicado este mes. El reporte expone cómo actores estatales, incluidos hackers vinculados a China, Irán y Rusia, han utilizado herramientas como ChatGPT para desarrollar malware, ejecutar ataques de phishing y llevar a cabo campañas de desinformación en redes sociales.

Por otro lado, CyberAv3ngers, un grupo vinculado a la Guardia Revolucionaria Islámica de Irán, utilizó ChatGPT para explorar vulnerabilidades en sistemas industriales y hackear equipos de control de agua en Estados Unidos e Irlanda. En noviembre de 2023, lograron interrumpir temporalmente el suministro de agua en la localidad de Aliquippa, Pensilvania. En otro incidente, causaron un apagón de dos días en servicios hídricos en el condado de Mayo, Irlanda. Las investigaciones revelaron que los atacantes se apoyaron en herramientas de IA para diseñar y refinar scripts maliciosos.

El informe no solo documenta ataques cibernéticos, sino también campañas de influencia basadas en la generación de contenido con IA.

Otra operación denominada Stop News, de origen ruso, utilizó ChatGPT para producir artículos y comentarios en inglés, francés y ruso. El grupo creó una serie de sitios web que simulaban ser medios de comunicación en África y el Reino Unido, aunque la mayoría de sus publicaciones no alcanzó gran repercusión. Además, acompañaron los artículos con imágenes generadas por DALL·E, una herramienta generativa de OpenAI, aunque estas tampoco lograron atraer una audiencia significativa.

Un incidente inusual documentado en el informe fue un engaño vinculado a trolls rusos. En este caso, los operadores difundieron un mensaje falso en X que aparentaba ser un error generado por ChatGPT al intentar apoyar contenido favorable al ex presidente estadounidense Donald Trump. La publicación ganó tracción en redes sociales y se viralizó rápidamente, lo que, según el informe, refleja cómo la desinformación puede amplificarse incluso cuando no proviene directamente de la IA

Aunque las investigaciones de OpenAI concluyen que los actores maliciosos no lograron desarrollar variantes completamente nuevas de malware mediante IA, el informe subraya que las herramientas de inteligencia artificial han facilitado a estos grupos la ejecución de ataques más rápidos y eficientes. Los modelos de IA, como ChatGPT, fueron particularmente útiles para realizar tareas intermedias, como la depuración de códigos y la elaboración de correos maliciosos, lo que optimizó la capacidad operativa de los atacantes sin necesidad de desarrollar conocimientos técnicos avanzados.

El informe subraya que la combinación de herramientas de IA con técnicas tradicionales plantea un desafío significativo para la industria de la ciberseguridad. Los modelos de lenguaje permiten a los atacantes reducir tiempos de desarrollo, identificar vulnerabilidades de forma más precisa y diseñar campañas de phishing más personalizadas, incrementando el potencial de daño.

En respuesta a estas amenazas, OpenAI dijo que ha fortalecido sus protocolos de seguridad y ha creado equipos especializados en la detección y prevención de usos maliciosos de sus modelos. La empresa también está trabajando en colaboración con otras compañías tecnológicas y organizaciones gubernamentales para compartir información sobre amenazas emergentes y coordinar acciones preventivas. “La cooperación es esencial para anticipar riesgos y garantizar que nuestras herramientas se utilicen con fines positivos”, señaló OpenAI en el informe.

COMPARTIR:

Comentarios

  • Desarrollado por
  • RadiosNet