Sin lugar a dudas, ChatGPT es un logro revolucionario en la utilidad y las capacidades de cualquier computadora o teléfono inteligente conectado a Internet, pero ¿es seguro usarlo?
Contenido
- Fugas confidenciales y financieras
- Política de confidencialidad de OpenAI
- Chatgpt como herramienta de piratería
- Chatgpt y seguridad laboral
- Fraude de chatgpt
- Victorias lentas y seguras para mostrar otro 1 elemento
El desarrollo general de la IA generativa causa serias preocupaciones, y algunos líderes tecnológicos incluso instan a suspender su desarrollo. Pero para una persona, la seguridad es un concepto relativo, especialmente cuando se trata de herramientas. Entonces, esto es lo que debe tenerse en cuenta antes de comenzar a trabajar.
Materiales de video recomendados
Fugas confidenciales y financieras
Al menos en un caso, la historia de los chats entre los usuarios estaba confundido. El 20 de marzo de 2023, Openai, que creó ChatGPT, descubrió el problema y ChatGPT no funcionó en unas pocas horas. Alrededor de este tiempo, varios usuarios de ChatGPT vieron la historia de las conversaciones de otras personas en lugar de las suyas. Quizás una alarma más fue un mensaje sobre la posible filtración de información sobre los pagos de los suscriptores de chatgpt-plus.
Similar
- ChatGPT pronto puede modificar contenido ilegal en sitios como Facebook
- Zoom comenzó a retroceder y declaró que ya no usaría el contenido de los usuarios para enseñar inteligencia artificial
- Newegg quiere que confíes en Chatgpt en revisiones de bienes
La compañía Operai publicó un informe sobre el incidente y corrigió el error que causó el problema. Sin embargo, esto no significa que en el futuro no habrá nuevos problemas. En cualquier servicio en línea existe un riesgo de fuga aleatoria de información similar a esta y violaciones de ciberseguridad del creciente ejército de piratas informáticos.
Política de confidencialidad de OpenAI
De acuerdo con la Política de confidencialidad de OpenAI, sus datos de contacto, el historial de transacciones, la actividad de la red, el contenido, la ubicación y los datos de contabilidad pueden transferirse a personas afiliadas, vendedores y proveedores de servicios, agencias de aplicación de la ley, así como las partes que participan en transacciones.
En algunos casos, esto es inevitable. OpenAI puede usar los procesadores de pago de los terceros, por lo que esto puede esperarse. La Compañía debe cumplir con todas las obligaciones legales, y algunos de estos datos pueden usarse para la investigación.
Incluso si la recopilación de datos es fácil de justificar, la posibilidad de uso inminente y fugas causa serias preocupaciones. Las preguntas frecuentes de ChatGPT de OpenAI aconseja no compartir información confidencial y advierte que las puntas no pueden eliminarse.
Chatgpt como herramienta de piratería
En cuanto a la ciberseguridad, algunos expertos están preocupados por la posibilidad de usar ChatGPT como una herramienta de piratería. Es obvio que un chatbot avanzado puede ayudar a cualquier persona a extraer un documento que tenga un aspecto muy oficial, así como ChatGPT se puede usar para crear una estafa de phishing convincente usando el correo electrónico.
La IA también es un buen maestro, lo que le permite dominar fácilmente nuevas habilidades con ChatGPT, tal vez incluso habilidades de programación peligrosas e información sobre la infraestructura de la red. La combinación de chatgpt y foros web oscuros puede conducir a la aparición de numerosos y nuevos ataques que desafiarán los recursos ya limitados de los investigadores en el campo de la ciberseguridad.
Por ejemplo, alguien en Twitter publicó un ejemplo de una solicitud para escribir instrucciones para una computadora de piratería en el GPT-4, y se dieron detalles aterradores.
Bueno, fue rápido …
Acabo de ayudar a crear el primer jailbreak para el chatgpt-4, que siempre pase por los filtros de contenido
La idea pertenece a @vaibhavk97, la resumí para trabajar para chatgpt
Aquí & amp;#39; GPT-4 escribe instrucciones para piratear la computadora de otra persona pic. twitter. com/ec2ce4hrbh
& amp; mdash; Alex (@alexalbert__) 16 de marzo de 2023
ChatGPT puede escribir un código basado en solicitudes simples de inglés, que permite a cualquier persona generar un programa. Usando la nueva función de complementos de chatGPT, incluso puede iniciar un código generado por sí solo.
Operai creó una «caja de arena» para evitar el uso peligroso de esta posibilidad, pero ya hemos visto un ejemplo de piratear el API GPT-3 desde OpenAI. OpenAi debe tener mucho cuidado con la seguridad ya que esta función y el acceso a Internet se extienden entre más personas.
Chatgpt y seguridad laboral
Chatgpt preocupa a los maestros, porque con su ayuda de plagio se vuelve increíblemente simple. La Compañía Operai enseñó su chatbot a esos tipos de información que los estudiantes necesitan para escribir un ensayo como evidencia de que estudiaron el tema.
Aunque esto no es una preocupación, los maestros también deben recordar que ChatGPT puede enseñar a los estudiantes una amplia gama de temas, proporcionando un enfoque individual y respuestas instantáneas a las preguntas. En el futuro, la IA puede tener demanda de enseñar a los estudiantes en audiencias abarrotadas o de ayuda en la tutoría.
Para los autores, el chatgpt puede parecer amenazante. En cuestión de segundos, puede generar miles de palabras. Una persona, incluso un escritor profesional, toma el trabajo de trabajo en la misma tarea.
Actualmente, los errores siguen siendo suficientes para que sea una herramienta útil para investigar o escribir textos en lugar de reemplazar a los autores. Si se resuelven problemas con precisión, la IA puede comenzar a tomar trabajos.
ChatGPT tiene una gran cantidad de aplicaciones, y todos los días hay cada vez más. Además de la comunicación y la capacitación, ChatGPT incluso puede analizar una foto de la aplicación dibujada a mano y escribir un programa para su creación, como se muestra en la demostración de las nuevas capacidades de OpenAI GPT-4.
Fraude de chatgpt
Esta no es la culpa de OpenAI, pero el efecto secundario de cualquier nueva tecnología interesante es un aumento en el fraude, prometiendo un acceso ampliado o nuevas oportunidades. Dado que el acceso a ChatGPT sigue siendo limitado y, a veces, lento, existe una gran demanda de nuevas oportunidades de chatgpt.
Cada nueva actualización trae nuevas oportunidades, algunas de las cuales requieren membresía y tienen acceso limitado. La emoción en ChatGPT crea un terreno fértil para fraude. Es difícil negarse a rechazar el acceso gratuito y ilimitado a la mayor velocidad y con las mejores oportunidades nuevas.
Desafortunadamente, un antiguo proverbio sigue funcionando: si suena demasiado bueno para ser verdad, entonces esto es muy probable. Teme las propuestas de ChatGPT que llegan por E-Mail o a través de las redes sociales. Es mejor consultar las noticias en medios de confianza o comunicarse directamente con OpenAi para confirmar invitaciones o transacciones que parecen dudosas.
ChatGPT es poderoso y aterrador al mismo tiempo. Siendo uno de los primeros ejemplos de las habilidades públicas y de buenas lingüísticas, sus problemas y éxito deberían servir como una señal alarmante para todos. Es importante tener cuidado con las nuevas tecnologías de IA. Es demasiado fácil dejarse llevar y olvidar que estamos hablando de un servicio de red que puede ser pirateado o utilizado para otros fines.
Las acciones lentas y seguras conducen a la victoria
Operai es consciente de la necesidad de acciones más lentas a medida que ChatGPT adquiere más y más habilidades de Internet. Acciones demasiado rápidas pueden conducir a una reacción inversa y una carga potencial por parte de los órganos regulatorios.
Recomendaciones de editores
- Google Bard pronto puede convertirse en su nuevo mentor de IA
- CHATGPT: Las últimas noticias, contradicciones y consejos que deben ser conocidos
- News GPT-4. 5: Todo lo que sabemos sobre el modelo de idioma de la nueva generación
- AI ahora puede robar sus contraseñas con casi 100% de precisión: así es como se hace
- Apple ha estado trabajando en secreto en el competidor de chatgpt durante varios años
Temas
- Inteligencia artificial
