Amazon advierte a los empleados de la transferencia de información confidencial a ChatGPT después de que los casos se notaron cuando su respuesta «coincide estrechamente con los materiales disponibles» dentro de la empresa

Sobre de icono de correo electrónico. Indica la posibilidad de enviar un correo electrónico.

La flecha curva de «compartir» dirigida a la derecha.
Twitter ícono pájaro estilizado con boca abierta, escribiendo un tweet.

El icono Twitter vincula la palabra «in».

LinkedIn Fliboard Icon Letter Stylized F.

Flipboard Facebook Icon Letter F.

Facebook E-Mail Icon Sobre. Indica la posibilidad de enviar un correo electrónico.

Imagen de icono de enlace de correo electrónico de un enlace de cadena. Simboliza el sitio web de URL del sitio web.

Este artículo está disponible exclusivamente para suscriptores internos. Conviértete en un suscriptor de información privilegiada y comienza a leer ahora mismo.

Comprar ahora

• El abogado de Amazon advirtió a los empleados contra el intercambio de información confidencial de la empresa con ChatGPT.
• Los empleados de Amazon quieren usarlo para el trabajo, ya que aumenta la productividad laboral.
• La compañía OpenAI, la creadora de ChatGPT, según el experto, es opaca sobre cómo utiliza la información confidencial de la compañía.

El mes pasado, el canal interno del canal Slack Amazon estaba lleno de preguntas de los empleados sobre ChatGPT, un instrumento de inteligencia artificial, que desde su salida a fines de noviembre causó una tormenta en el mundo de la tecnología.

Algunos preguntaron si Amazon tiene una guía oficial para ChatGPT en dispositivos de trabajo. Otros se preguntaron si se les permitía usar esta herramienta de inteligencia artificial en el trabajo. Una persona pidió a la división en la nube de Amazon Web Services para publicar su posición sobre el «uso permisible de instrumentos de IA generativos», como ChatGPT.

Pronto el abogado corporativo Amazon se unió a la conversación. Ella advirtió a los empleados contra la provisión de chatgpt «Amazon (incluido el código de Amazon en el que está trabajando)», dijo la captura de pantalla del mensaje recibido por la información privilegiada.

El abogado que es el abogado corporativo principal de Amazon invitó a los empleados a seguir la política existente en la compañía con respecto al conflicto de intereses y confidencialidad, ya que «había casos» en que las respuestas de ChatGPT eran similares a los datos internos de Amazon.

«Esto es importante, ya que sus datos se pueden utilizar como capacitación para la próxima iteración ChatGPT, y no queremos que sus resultados incluyan o se parezcan a nuestra información confidencial (y ya veo casos cuando sus resultados coincidieron estrechamente con los materiales existentes)» – – – – – – – – – escribió el abogado.

Este intercambio de puntos de vista refleja uno de los muchos nuevos problemas éticos que surgieron como resultado de la apariencia repentina de ChatGPT: inteligencia artificial conversacional que puede responder a las solicitudes en forma de respuestas inteligibles e intelectuales. Su distribución rápida puede entregar una serie de industrias, incluidos los medios de comunicación, la ciencia y la atención médica, lo que provocó intentos activos de lidiar con las opciones para usar el chatbot y sus consecuencias.

La cuestión de cómo se transmite la información confidencial de la compañía a ChatGPT y qué OpenAi, el creador de la herramienta de inteligencia artificial, puede convertirse en un problema agudo en el futuro. Para Amazon, esto es especialmente importante porque su principal competidor para Microsoft invierte fondos significativos en OpenAI, incluida otra ronda de financiamiento esta semana, cuyo monto total, según algunos informes, es de $ 10 mil millones.

Operai está lejos de ser transparente con respecto a cómo utiliza los datos, pero si se convierte en datos de capacitación, espero que las corporaciones hagan esta pregunta ”: ¿Después de varios meses de uso amplio, ChatGPT será posible extraer información corporativa privada utilizando consejos astutos? «- dice Emily Bender, maestra de lingüística informática en la Universidad de Washington.

El representante de Amazon no respondió a una solicitud sobre el comentario. El representante de OpenAI señaló la página de preguntas frecuentes de ChatGPT, donde puede encontrar respuestas a cualquier pregunta sobre el procesamiento de datos y la confidencialidad.

Algunos empleados de Amazon ya están utilizando ChatGPT como un «asistente de codificación».

Amazon ha instalado algunas cercas internas para ChatGPT. Por ejemplo, cuando los empleados usan un dispositivo de trabajo para cambiar al sitio web de ChatGPT, hay una advertencia de que van a visitar un tercer servicio parcial que «puede no ser aprobado por el Servicio de Seguridad de Amazon», dijo las capturas recibidas por Insider. .

Los empleados en el canal Slack informaron que lograron transmitir este mensaje, simplemente haciendo clic en la pestaña «Confirmar». Los empleados sugirieron que se realizó una advertencia po p-UP para que los empleados no inserten información confidencial en ChatGPT, especialmente porque aún no existe una política de la compañía para su uso doméstico.

Sin embargo, algunos empleados de Amazon ya están utilizando esta herramienta de inteligencia artificial como una «codificación de asistente», pidiéndole que mejore las líneas internas del código, de la siguiente manera de los mensajes en Slack recibidos por Insider.

«Creo que sería genial poder usarlo en este momento», escribió una persona en el canal Slack.»Entonces cualquier liderazgo sería fantástico».

‘Y aterrador y alegre’

Según otro empleado, compartió algunas entrevistas en Amazon con ChatGPT a una vacante abierta de codificador. Según este empleado en Slack, el modelo dio la solución correcta a varios de estos problemas técnicos.

«A el mismo tiempo, tengo miedo e interesante para ver qué influencia tendrá en cómo realizamos entrevistas de Cudus», escribió este empleado en Slack.

En general, los empleados de Amazon en el canal Slack se inspiraron en el potencial de ChatGPT y se preguntaron si Amazon estaba trabajando en un producto competidor.

Un abogado corporativo que advirtió a los empleados de usar ChatGPT dijo que Amazon está desarrollando ampliamente «tecnologías similares», mencionando al asistente de voz de Alexa y el servicio de compensación Codewhisperer.

Uno de los empleados de AWS escribió que el grupo de apoyo empresarial creó recientemente un pequeño grupo de trabajo para «comprender la influencia de la IA avanzada en los chats en nuestro negocio», de la siguiente manera de los mensajes en Slack. El estudio mostró que ChatGPT «se enfrenta muy bien» a respuestas a los servicios de soporte de AWS, incluidos los complejos como problemas de eliminación con la base de datos de Aurora. También «excelente» se enfrenta a la creación de materiales de capacitación para los exámenes AWS certificado como arquitecto en la nube y «muy bien» se enfrenta a la definición de los objetivos de la empresa del cliente, según los mensajes de los empleados.

‘Lejos de ser transparente’

Según Bender de la Universidad de Washington, la expansión del uso de ChatGPT en el trabajo plantea serias preguntas sobre cómo Operai planea usar materiales obtenidos utilizando esta herramienta de inteligencia artificial.

Las condiciones de servicio de OpenAI requieren consentimiento al hecho de que la empresa puede usar todos los datos de entrada y salida recibidos de los usuarios y ChatGPT. La Compañía también afirma eliminar toda la información personal (PII) de los datos que utiliza.

Según Bender, es difícil imaginar cómo Operai se identifica «a fondo» y elimina la información personal, dada la escala creciente de ChatGPT, una semana después del lanzamiento, excedió los 1 millón de usuarios. Además, la propiedad intelectual de las corporaciones probablemente no se incluye en el concepto de PII, cree Bender.

Los empleados de Amazon parecen preocuparse menos. Según ellos, el uso de un chatbot en el trabajo condujo a un «aumento de 10 veces en el rendimiento», y muchos de ellos expresaron el deseo de unir comandos internos que desarrollen servicios similares.

«Si actualmente hay una iniciativa para crear un servicio similar, estaría interesado en asignar el tiempo para ayudarlo a crearlo, si es necesario», escribió uno de los empleados de Slack.

¿Trabajas en Amazon?¿Hay algún consejo?

Puede comunicarse con el corresponsal EVGeny Kim a través de aplicaciones para el intercambio de mensajes cifrados señal o telegrama ( +1-650-942-3061) o por correo electrónico (ekim@insider. com). Para la comunicación, use un dispositivo que no funcione. Para otros consejos sobre el intercambio seguro de información, consulte el liderazgo interno.