El creador de ChatGPT confirmó que el error en el sistema permitió a algunos usuarios mirar detrás de los chats de otras personas. Anoche, Openai, el director general Sam Altman, confirmó que la compañía enfrentó un «problema significativo» que amenaza la confidencialidad de las conversaciones en su plataforma. Las revelaciones aparecieron después de que varios usuarios de redes sociales publicaron conversaciones de ChatGPT en las que no participaron. Como resultado de esto, los usuarios fueron privados de la oportunidad de ver la historia de los chats en el período de 8 a 17 horas (GMT) ayer. Altman dijo: «Tuvimos un problema significativo en el chatgpt, relacionado con un error en la biblioteca de código abierto, para lo cual se ha lanzado la corrección, y acabamos de terminar de verificar. Un pequeño porcentaje de usuarios podía ver los encabezados de La historia de las conversaciones de otros usuarios «.
El lunes, se confirmó que el «pequeño porcentaje» de los usuarios de ChatGPT podría ver las historias de conversaciones de otras personas.
Breves hechos sobre chatgpt: lo que necesita saber
- Este es un chatbot construido sobre la base de un modelo de lenguaje grande, capaz de emitir un texto humanoide y comprender las solicitudes complejas.
- Lanzado el 30 de noviembre de 2022
- Para enero de 2023, tenía 100 millones de usuarios, más rápido que Tiktok o Instagram
- La compañía que se encuentra detrás de él es OpenAi
- Operai recibió una inversión de $ 10 mil millones de Microsoft.
- Otras compañías «grandes tecnológicas» como Google tienen sus competidores, por ejemplo, Bardo de Google
Publicidad
ChatGPT fue fundada en Silicon Valley en 2015 por un grupo de cangeles de inversores estadounidenses, incluido el actual director general de Sam Altman.
Este es un modelo de lenguaje grande, entrenado en una gran cantidad de datos de texto, que le permite generar respuestas a la pregunta que se hace.
Las personas en todo el mundo usan esta plataforma para escribir versos humanoides, textos y otras obras.
Sin embargo, esta semana un «pequeño porcentaje» de los usuarios podría ver los titulares de otras personas en la historia de sus conversaciones.
El lunes, uno de los usuarios de Twitter advirtió a otros que tengan cuidado con un chatbot que les mostró los temas de las conversaciones de otras personas.
La imagen de su lista fue mostrada por varios nombres, incluida «La niña persigue las mariposas», «Libros sobre el comportamiento de una persona» y «el niño sobrevive en una aventura solitaria», pero no estaba claro cuál de ellas hizo no les pertenecer.
El informe decía: «¡Si usa #ChATGPT, tenga cuidado! ¡Existe el riesgo de que sus chats se puedan transferir a otros usuarios!
‘Hoy me presentaron el historial de chat de otro usuario. No podía ver el contenido, pero podía ver los títulos de los chats recientes».
El CEO de OpenAI, Sam Altman, confirmó ayer que hubo un problema ‘significativo’ con ChatGPT
Los usuarios no pudieron ver el historial de chat desde las 8 am hasta las 5 pm (GMT).
Una persona en Twitter advirtió a los demás que «tuvieran cuidado» con un chatbot que les mostraba los temas de conversación de otras personas.
Consejos para mantener los chatbots bajo control:
No se vuelva personal: los chatbots de IA están diseñados para aprender de cada conversación, mejorando sus habilidades de interacción «humana» y creando un perfil más preciso que se puede guardar. Si le preocupa cómo se pueden utilizar sus datos, no les proporcione información personal.
Gran cantidad de phishing: es probable que la inteligencia artificial abra más vías para los estafadores en línea, y se espera que aumenten los ataques de phishing a medida que los piratas informáticos usan bots para crear estafas cada vez más realistas. Los signos tradicionales de phishing, como la ortografía o la gramática deficientes en un correo electrónico, pueden ser cosa del pasado, por lo tanto, verifique la dirección del remitente y busque inconsistencias en los enlaces o nombres de dominio.
Use un antivirus: los piratas informáticos ya están manipulando con éxito los chatbots para crear malware básico, por lo que vale la pena usar una herramienta como Threat Protection para advertirle sobre archivos sospechosos y mantenerlo seguro cuando los descargue.
Publicidad
Durante el incidente, según el usuario, encontró numerosos errores relacionados con la conexión a la red, así como el error «no se pudo cargar el historial».
Según la BBC, otro usuario también afirmó haber visto conversaciones escritas en mandarín y otra conversación titulada «El desarrollo del socialismo chino».
Si bien las funciones de ChatGPT se deshabilitaron temporalmente para solucionar el problema, otros usuarios afirman que el compromiso de los datos puede exacerbar otros problemas.
Marius Briedis, experto en ciberseguridad de NordVPN, dijo: «Esta es una arbitrariedad grandiosa por parte de OpenAI. El aumento del interés en los chatbots de IA como ChatGPT y Bard de Google ha atraído a millones para probar esta tecnología. Sin embargo, este error hará que muchos da un paso atrás.
“Si confiamos cada vez más en las herramientas impulsadas por IA en el futuro, la confianza en ellas es vital. La integridad de la información que compartimos con chatbots y otros dispositivos es un factor clave en esta confianza y no debe verse comprometida».
‘Nuestro reciente estudio web oscuro mostró que los ciberdelincuentes han estado girando alrededor de ChatGPT durante varios meses, tratando de comprender cómo se puede usar para mejorar el fraude, como el phishing o el software malicioso. La noticia de una falla en el sistema de seguridad los llevará al hecho de que los datos del usuario son otra forma de beneficiarse de esta tecnología revolucionaria «.
Otras compañías también expresaron su preocupación por el modelo de idioma en línea.
El mes pasado, JP Morgan Chase se ha unido a empresas como Amazon y Accenture, lo que limita el uso de Chatgpt ai-Chatbot entre unos 250 mil empleados de la compañía debido a los temores sobre la confidencialidad de los datos.
Una de las principales razones de preocupación fue que los desarrolladores de ChatGPT pueden utilizar los datos para mejorar los algoritmos o que los ingenieros pueden acceder a información confidencial.
La Política de privacidad de ChatGPT establece que la empresa puede usar datos personales relacionados con el «uso de servicios» para «desarrollar nuevos programas y servicios».
Sin embargo, se afirma que esta información personal puede ser deendida o agregada antes del análisis del servicio.
¿Qué es el arranque de chat de OpenAi Chatgpt y por qué se usa?
OpenAI afirma que el modelo CHATGPT, capacitado utilizando la reforma de la tecnología de aprendizaje automático de retroalimentación humana (RLHF), puede imitar el diálogo, responder preguntas posteriores, reconocer errores, desafiar supuestos incorrectos y rechazar solicitudes inapropiadas.
En la etapa inicial de desarrollo, el BOT se creó con la participación de las personas que enseñaron al modelo a la inteligencia artificial, que jugaron diálogos con la participación de ambos lados: el usuario y el Aissstice. La versión BOTA, disponible para pruebas públicas, está tratando de comprender las preguntas de los usuarios y las respuestas con respuestas ampliadas que se asemejan a una persona escrita por una persona en un formato de conversación.
Una herramienta como ChatGPT se puede utilizar en aplicaciones reales como el marketing digital, crear contenido en línea, respuestas a los servicios de atención al cliente o, como algunos usuarios creen, incluso para el código de depuración.
El bot puede responder una amplia gama de preguntas, simulando el estilo del habla humana.
Una herramienta como ChatGPT se puede usar en áreas como el marketing digital, la creación de contenido en Internet, respuestas a preguntas de atención al cliente o, como descubrieron algunos usuarios, incluso para el código de depuración.
Al igual que muchas otras innovaciones basadas en la inteligencia artificial, ChatGPT no está privado de deficiencias. La compañía OpenAI admitió que la herramienta está inclinada a dar «respuestas creíble pero incorrecta o ridícula», y considera que este problema es difícil de eliminar.
Las tecnologías de inteligencia artificial también pueden perpetuar la actitud sesgada de la sociedad a la raza, el piso y la cultura. Gigantes tecnológicos, incluido Alphabet Inc. Google y Amazon. com, admitieron anteriormente que algunos de sus proyectos en los que se realizaron experimentos con inteligencia artificial eran «dudosas desde un punto de vista ético» y tenían sus propias restricciones. En algunas empresas, las personas tuvieron que intervenir en el trabajo de IA y eliminar las consecuencias.
A pesar de estos temores, los estudios en el campo de la IA siguen siendo atractivos. Según Pitchbook, un rastreo de una compañía está monitoreando los fondos, el año pasado, el volumen de inversiones de riesgo en la compañía dedicada al desarrollo y operación de IA aumentó a casi 13 mil millones de dólares, y a partir de octubre de este año, hasta $ 6 mil millones.
