GhostGPT
GhostGPT

Los cibercriminales utilizan GhostGPT, un chatbot de IA sin censura, para crear malware, estafas BEC y más. Conozca los riesgos y cómo contraataca la IA.

Las herramientas de inteligencia artificial (IA) han cambiado la forma en que abordamos las tareas cotidianas, pero los ciberdelincuentes están utilizando esa misma tecnología para realizar actividades ilegales. En 2023, WormGPT fue noticia como un chatbot sin censura diseñado específicamente para fines maliciosos. Poco después, empezamos a ver aparecer otras denominadas «variantes», como WolfGPT y EscapeGPT .

A diferencia de los modelos de IA tradicionales, que están limitados por pautas para garantizar interacciones seguras y responsables, los chatbots de IA sin censura funcionan sin esas barreras de seguridad, lo que genera serias preocupaciones sobre su posible uso indebido. Más recientemente, los investigadores de Abnormal Security descubrieron GhostGPT, un nuevo chatbot sin censura que amplía aún más los límites del uso ético de la IA.

¿Qué es GhostGPT?

GhostGPT es un chatbot diseñado específicamente para atender a los cibercriminales. Probablemente utiliza un contenedor para conectarse a una versión jailbreakeada de ChatGPT o a un modelo de lenguaje grande (LLM) de código abierto, eliminando de manera efectiva cualquier protección ética. Al eliminar las restricciones éticas y de seguridad que suelen estar incorporadas en los modelos de IA, GhostGPT puede proporcionar respuestas directas y sin filtros a consultas sensibles o dañinas que los sistemas de IA tradicionales bloquearían o marcarían.

Anuncio de Ghost GPT

El gráfico publicitario oficial de GhostGPT

Según sus materiales promocionales, además de proporcionar respuestas sin censura, GhostGPT ofrece varias características clave:

  1. Procesamiento rápido : GhostGPT promete tiempos de respuesta rápidos, lo que permite a los atacantes producir contenido malicioso y recopilar información de manera más eficiente.
  2. Política de no registros : Los creadores afirman que la actividad del usuario no se registra, lo que atrae a aquellos que desean ocultar sus actividades ilegales.
  3. Fácil acceso : vendido a través de Telegram, GhostGPT permite a los compradores comenzar a usarlo inmediatamente sin la necesidad de usar un aviso de jailbreak o descargar un LLM ellos mismos.

GhostGPT se comercializa para una variedad de actividades maliciosas, que incluyen codificación, creación de malware y desarrollo de exploits. Es una herramienta para crear correos fraudulentos en estafas BEC.

Si bien sus materiales promocionales mencionan la «ciberseguridad» como un posible uso, esta afirmación es difícil de creer, dada su disponibilidad en foros sobre delitos cibernéticos y su enfoque en estafas BEC. Tales descargos de responsabilidad parecen un débil intento de eludir la responsabilidad legal , nada nuevo en el mundo de los delitos cibernéticos.

Con su capacidad de proporcionar información sin limitaciones, GhostGPT sirve como una herramienta poderosa para aquellos que buscan explotar la IA con fines maliciosos.

Las implicaciones de GhostGPT

GhostGPT plantea varios problemas que se extienden más allá de este bot específico a variantes similares en general.

Facilita el acceso a cibercriminales, permitiendo comprar herramientas a través de Telegram sin necesidad de conocimientos técnicos. Este acceso fácil hace que sea más sencillo para los atacantes menos habilidosos participar en delitos cibernéticos.

Además, GhostGPT facilita a los atacantes crear malware, phishing y otros contenidos maliciosos. Esto significa que los ataques se pueden lanzar con mayor velocidad y eficiencia.

La comodidad de GhostGPT también ahorra tiempo a los usuarios. Como está disponible como bot de Telegram, no es necesario hacer jailbreak a ChatGPT ni configurar un modelo de código abierto. Los usuarios pueden pagar una tarifa, obtener acceso inmediato y centrarse directamente en ejecutar sus ataques.

La creciente popularidad de GhostGPT entre ciberdelincuentes demuestra el interés en usar IA para ciberataques más eficientes.

Cómo combatir la IA maliciosa con una IA defensiva

Los atacantes ahora utilizan herramientas como GhostGPT para crear correos electrónicos maliciosos que parecen completamente legítimos. Al evadir filtros tradicionales, la IA es esencial para detectar y bloquear estos mensajes.