La organización estatal requiere OpenAI para proporcionar información detallada sobre cómo se recopilan, usan y protegen los datos del usuario.
La autora de Sabrina Ortis, editora asistente, 14 de julio de 2023
Operai ChatGPT se ha vuelto increíblemente popular desde su lanzamiento, convirtiéndose en la aplicación de crecimiento más rápido para todo el tiempo. Con tales usuarios, surgieron preguntas sobre cómo se recopilan, usan y defienden los datos del usuario, y ahora la Comisión Federal de Comercio (FTC) quiere recibir respuestas.
En el documento de 20 páginas obtenido por el Washington Post, la organización gubernamental le pide a OpenAI que envíe documentación sobre casi todos los aspectos de su modelo de idioma grande, prestando especial atención al procesamiento de datos de usuarios de OpenAI y emitiendo ChatGPT para declaraciones falsas.
Según el documento, la FTC descubre si OpenAI usa «métodos sin escrúpulos o engañosos para proteger la confidencialidad o la seguridad de los datos», y si usó «métodos fraudulentos» que pueden dañar a los consumidores.
FTC requiere explicaciones detalladas de cómo OpenAI recibe datos sobre cómo se utilizan estos datos para enseñar el modelo, así como qué procedimientos se utilizan para evaluar el riesgo y la seguridad.
Además, la FTC requiere OpenAI para informar qué medidas se tomaron para reducir el riesgo de crear LLM «falso, engañoso o humillando la dignidad de las declaraciones sobre personas reales.
Estas investigaciones siguieron a varios incidentes con CHATGPT, lo que causó preocupación e incluso provocaron demandas contra Operai.
Entonces, por ejemplo, el 20 de marzo, se produjo una filtración de datos, como resultado de las cuales se conocieron las conversaciones de los usuarios de ChatGPT e información sobre los pagos de los suscriptores. Esta fuga mostró riesgos potenciales de usar herramientas de inteligencia artificial e incluso obligó a Italia a prohibir el chatgpt en su conjunto, aunque esta prohibición ya se ha levantado.
Entre otros ejemplos se encuentran dos reclamos colectivos presentados contra Operai. Una de las demandas contra OpenAI afirma que la compañía participó en el desarrollo de la inteligencia artificial utilizó los datos robados de los clientes para capacitar y desarrollar sus productos.
Otra demanda se asocia con las alucinaciones de ChatGPT y su capacidad para dar testimonios falsos sobre las personas. En el primer caso, Openai sobre Slander, un presentador de radio de Georgia demandó a OpenAi, descubriendo que ChatGPT supuestamente extiende información falsa sobre él, acusándolo de una pérdida de dinero.
