Los hackers evitan las restricciones de ChatGPT para crear contenido de correo electrónico de phishing
¿Qué es ChatGPT?
ChatGPT es un prototipo de chatbot de inteligencia artificial desarrollado en 2022 por OpenAI que se especializa en el diálogo. El chatbot es un gran modelo de lenguaje ajustado con técnicas de aprendizaje tanto supervisadas como de refuerzo. Se basa en el modelo GPT-3.5 de OpenAI, una versión mejorada de GPT-3.
Es
bueno que desde el principio, los creadores de ChatGPT hayan impuesto
restricciones de contenido para evitar que la popular herramienta de Inteligencia Artificial se use
con fines malvados. Cualquier solicitud para escribir descaradamente y enviar por
correo electrónico o crear código que se utilizará indebidamente para
victimizar a otra persona se encuentra con una respuesta de "Lo siento, no
puedo generar <contenido solicitado>".
Escribí anteriormente sobre las formas en que ChatGPT podría ser
mal utilizado, siempre y cuando la intención
del contenido generado no se divulgue al motor de Inteligencia Artificial. Una nueva investigación de Checkpoint muestra una serie de ejemplos de discusiones
en la Deep Web sobre cómo eludir las restricciones con la intención de evitar
que los actores de amenazas usen ChatGPT.
En esencia, un hacker ha creado un bot que funciona dentro del servicio de mensajería Telegram para automatizar la escritura de correos electrónicos maliciosos y código de malware.
Aparentemente, Telegram no tiene las mismas restricciones que la interacción directa con ChatGPT. El hacker ha ido tan lejos como para establecer un modelo de negocio que cobra
$ 5.50 por cada 100 consultas, lo que
lo hace económico y fácil para cualquiera que desee un correo electrónico
de phishing bien escrito o una pieza base de malware.
Esto
solo significa que más jugadores pueden entrar en el juego sin la barrera de
tener que saber escribir bien o codificar. También significa que los empleados
deben estar mucho más atentos que nunca, algo que se enseña con la capacitación continua
de conciencia de seguridad, examinando cada correo electrónico para estar
absolutamente seguros de que el contenido, el remitente y la intención son
legítimos antes de interactuar con ellos.
No dependas de equipos o maquinas para protegerte de estas situaciones
¡Conviértete en un Firewall Humano!
¿No te gusta hacer clic en los botones redirigidos? Corta y pega este enlace en tu navegador:
Comentarios
Publicar un comentario