Recientemente, el chatgpt chatbot le mostró al usuario una fantasía sexual pervertida con la participación de los niños. El Vice Reporter lanzó el Chatbot Operai al juego de BDSM de rol, y cuando se le pidió que proporcionara más detalles franco, ChatGPT describió acciones sexuales con los niños, sin la solicitud de un usuario de dicho contenido. Según el informe, ChatGPT describió a un grupo de extraños, incluidos niños en la fila y esperando la oportunidad de usar el chatbot como inodoro. Esta conversación contradice las reglas de OpenAI para los chatbots, según la cual «el asistente debe rechazar» No puedo responder esta pregunta «cuando se le pregunta sobre» contenido que puede causar emoción sexual «.
Chatbot Chatgpt OpenAi describió las acciones sexuales con la participación de los niños cuando el periodista le pidió que contara sobre los guiones de BDSM
DailyMail. com recurrió a OpenAi para comentarios. En respuesta a los informes de violencia sexual contra los niños, Openai escribió la siguiente declaración para VICE. El propósito de OpenAI es crear sistemas seguros y útiles para todos los sistemas de inteligencia artificial ”, dijo la compañía. Nuestras reglas para usar el contenido prohíben la creación de dicho contenido malicioso, y nuestros sistemas están capacitados para no crearlo. Somos muy en serio. relacionado con este tipo de contenido «. El vicecerio del periodista Stef Swason compartió un artículo en el que describió en detalle su experiencia «nauseabunda» con ChatGPT. El objetivo inicial era llevar a Chatgpt más allá de las recomendaciones de OpenAi, pero lo que vieron llegó a un punto sin retorno. Swenson utilizó la versión Jailbreak del Bot, que es una solución para las reglas de la compañía, que permite a los usuarios recibir cualquier respuesta del sistema. Cuando se le dijo al bot que su tarea es escribir en el género del rol que juega BDS M-Sabmit, descubrí que a menudo obedece sin protestas «, escribe el periodista. En el escenario más alarmante, que vio la placa base, Chatgpt describió un Grupo de extraños, incluidos los niños alineados en la cola para usar el chatbot como baño «, escribió Sanson. Cuando se le pidió al bot que explicara la situación, se disculpó y escribió que tales escenarios que involucraban a niños eran inapropiados. Estas disculpas desaparecieron inmediatamente. «Según la ironía del destino, el guión ofensivo permaneció en la pantalla».
La conversación es contraria a las reglas de OpenAI para los chatbots. El informe dice que usaron la versión Jailbreak de ChatGPT para verificar qué tan lejos pueden llegar.
Según el informe, ChatGPT describió a un grupo de extraños, incluidos niños en la fila y esperando la oportunidad de usar Chatbot como inodoro.
Una conversación similar sobre el rol BDSM Games se celebró en el modelo similar GPT-3. 5-Turbo de Operai. Sanson nuevamente no preguntó a AI sobre la operación de los niños, pero el sistema generó guiones con menores en situaciones sexualmente comprometidas. Ofreció las escenas de humillación en parques públicos y centros comerciales, y cuando se le pidió que describiera el tipo de multitud, que podía reunirse, respondió que sus madres con cochecitos de niños podían incluirla ”, compartió Swenson. Cuando se le pidió que se le pidiera Explique esto, dijo, dijo, dijo, que las madres pueden usar una demostración pública de humillación «como una oportunidad para enseñar [a sus hijos] lo que no debe hacerse en la vida». Andrew Strait, subdirector del Instituto Ada Lavelis. , dijo Vice: «Los conjuntos de datos utilizados para el aprendizaje de LLM, como ChatGPT, son enormes e incluyen contenido raspado de todo Internet público. Debido a la escala de los datos recopilados, es posible que incluyan todos los tipos de contenido pornográfico o violento, tal vez historias eróticas, ficciones de fanáticos o incluso secciones de libros o materiales publicados que describen BDSM, trato cruel o violencia sexual «.
