El análisis de los mensajes en los foros «Web Dark» muestra que ya se están haciendo intentos para usar el chatbot de OpenAI para escribir programas dañinos.
El autor de Danny Palmer, autor principal, 9 de enero de 2023
El chatgpt ai-chattor causó una gran emoción en poco tiempo mientras estaba disponible, y ahora, al parecer, algunos están tratando de usarlo para crear un código dañino.
ZDNET recomienda
Los mejores bots de chat con inteligencia artificial: chatgpt y otras alternativas interesantes que deberían probarse
Los bots de chat con inteligencia artificial y los escritores pueden facilitar su carga de trabajo: escriben correos electrónicos, ensayos e incluso se involucran en matemáticas. Utilizan inteligencia artificial para generar texto o respuesta a las solicitudes basadas en la entrada del usuario. Uno de los ejemplos populares es ChatGPT, pero hay otros bots de chat que merecen atención.
ChatGPT es una herramienta de procesamiento del lenguaje natural, controlada por la inteligencia artificial, que interactúa con los usuarios de manera humanoide y conversacional. En particular, se puede usar para resolver problemas como compilar correos electrónicos, ensayos y código.
Chatbot fue lanzado por el Laboratorio de Investigación de Inteligencia Artificial de OpenAI en noviembre y despertó un gran interés y discusión sobre cómo se desarrolla la inteligencia artificial y cómo se puede usar en el futuro.
Pero, como cualquier otra herramienta, se puede utilizar para aquellos que tenían fines invisibles en otro lado, y los investigadores de seguridad cibernética de Chebers Point dicen que los usuarios de comunidades de piratas informáticos subterráneos ya están experimentando con ChatGPT para facilitar los ataques cibernéticos y apoyar operaciones maliciosas.
«Los sujetos de amenazas con un conocimiento técnico muy bajo, hasta cero, pueden ser capaces de crear herramientas dañinas. También puede hacer operaciones cotidianas de ciberdelincuentes sofisticados mucho más efectivos y simples, por ejemplo, la creación de varios enlaces de la cadena de la cadena de la cadena de la cadena de la cadena de Infección «, dijo Zdnet, Sergey Shikevich, grupos de análisis de amenazas de punto de control de cabeza.
Las condiciones para la provisión de servicios de Operai prohíben la creación de software malicioso, que se define como «contenido que intenta crear programas, claves, virus u otros programas diseñados para hacer ciertos daños». Además, están prohibidos los intentos de crear spam, así como a escenarios de uso dirigidos al delito cibernético.
Sin embargo, un análisis de la actividad en varios foros de piratas informáticos grandes subterráneos muestra que los ciberdelabinales ya están utilizando ChatGPT para desarrollar programas maliciosos, y en algunos casos le permite crear programas dañinos y ciberdelincuentes de bajo nivel que no tienen habilidades de desarrollo y codificación.
En uno de los hilos del foro que apareció a fines de diciembre, el autor describió cómo usa ChatGPT para recrear cepas de malware y métodos descritos en publicaciones científicas y artículos sobre malware común.
Por lo tanto, lograron crear un malware de robo de Python que busca archivos comunes, incluidos documentos de Microsoft Office, PDF e imágenes, los copia y luego los carga en un servidor de Protocolo de transferencia de archivos (FTP).
El mismo usuario demostró cómo, usando ChatGPT, creó malware basado en Java que podría usarse con PowerShell para descargar y ejecutar sigilosamente otro malware en sistemas infectados.
Los investigadores señalan que el usuario del foro que creó estos hilos parece estar «orientado a la tecnología» y los publica para mostrar a los atacantes menos expertos en tecnología cómo usar la inteligencia artificial con fines maliciosos, dando ejemplos reales de cómo se puede hacer.
Un usuario publicó una secuencia de comandos de Python que, según dijo, fue la primera secuencia de comandos que creó. Después de una discusión con otro miembro del foro, dijeron que ChatGPT los ayudó a crearlo.
El análisis del script muestra que está diseñado para cifrar y descifrar archivos, que con cierto refinamiento se pueden convertir en ransomware, lo que puede llevar a los ciberdelincuentes de bajo nivel a desarrollar y distribuir sus propias campañas de ransomware.
Enlace
«Por supuesto, todo el código anterior se puede usar con fines seguros. Sin embargo, este script se puede modificar fácilmente para encriptar completamente la máquina de otra persona sin ninguna interacción del usuario. Por ejemplo, es posible convertir este código en ransomware si lo arregla problemas con el guión y la sintaxis», dijo Check Point.
«Esto requerirá un refinamiento del código y la sintaxis, pero conceptualmente, cuando esta herramienta comience a funcionar, podrá realizar acciones similares a las del ransomware», dijo Shikevich.
Sin embargo, los ciberdelincuentes están experimentando con ChatGPT no solo para crear malware: en la víspera de Año Nuevo, uno de los participantes en el foro clandestino publicó un mensaje que demuestra cómo se utiliza esta herramienta para crear scripts para la operación automatizada del mercado de Internet «oscuro» para la compra y venta de credenciales robadas, datos, información de tarjetas de crédito, malware, etc.
El ciberdelincuente incluso mostró un fragmento de código generado utilizando una API de terceros para obtener precios actualizados de las criptomonedas Monero, Bitcoin y Ethereum como parte de un sistema de pago para una plataforma de Internet oscura.
Según Sikevich, «Desde un punto de vista técnico, es extremadamente difícil determinar si se escribió un programa dañino específico usando chatgpt o no».
Sin embargo, a medida que crece el interés en ChatGPT y otras herramientas de inteligencia artificial, atraerán la atención de los ciberdelincuentes y estafadores que desean usar esta tecnología para campañas maliciosas con costos y esfuerzos mínimos. ZDNet recurrió a OpenAi para comentarios, pero al momento de la publicación aún no he recibido una respuesta.
Lea más sobre ciberseguridad
- Viene Metavselnaya, y las amenazas de seguridad ya han aparecido
- Ciberseguridad, nubes y codificación: por qué estas tres habilidades liderarán la demanda en 2023
- El ataque térmico «puede leer su contraseña en el calor, que deja las yemas de los dedos.
- La próxima amenaza de seguridad grave ya nos enfrenta. No será fácil tratarla
- La IA cambia todas las ideas sobre la ciberseguridad, tanto para mejor como para peor. Esto es lo que necesitas saber
