El Director General de Openai dijo que tiene «miedo» de que ChatGPT se puede «utilizar para información errónea a gran escala y ataques cibernéticos ofensivos». Sam Altman habló recientemente con ABC News sobre el chatbot de la compañía y la introducción de la última iteración del modelo de idioma AI, GPT-4. Aunque el chatbot causó preocupaciones sobre la dominación mundial de la IA, Altman considera a las personas la mayor amenaza para esta tecnología. Habrá otras personas que no observen algunas de las restricciones de seguridad que instalamos ”, dijo en una entrevista con ABC News. La compañía, creo, tiene una cantidad limitada de tiempo para comprender cómo responder a esto, cómo regularlo cómo hacer frente a esto «. La semana pasada, Operai lanzó GP T-4, llamándolo más poderoso que su predecesor, para que pueda ser «dañino». El bot acepta la entrada tanto en forma de imágenes como en forma del texto, pero al mismo tiempo da sus respuestas en forma del texto, es decir, puede ofrecer descripciones detalladas de las imágenes. La compañía advierte que el modelo todavía es propenso a «alucinaciones» de hechos inexactos, y puede convencerse de contenido falso o dañino encarcelado.»Sobre todo, trato de advertir a la gente de lo que llamamos el» problema de las alucinaciones «, dijo Altman. El modelo dirá con confianza que estos son hechos que están completamente inventados».
Aunque el chatbot causó preocupaciones sobre la dominación mundial de la IA, Altman considera a las personas la mayor amenaza para esta tecnología.
DailyMail. com recurrió a OpenAi para comentarios. En el curso de la entrevista, Altman admitió que el GPT-4 «no es perfecto», pero puede escribir un código de computadora en la mayoría de los lenguajes de programación y aprobar un solo examen para un abogado a nivel del percentil 90. Sin embargo, Altman cree que el GPT-4 puede convertirse en un no autorizado en manos de personas que usan sus capacidades para el mal.
Ver también: Los líderes del Departamento de Spy GCHQ advierten que Microsoft Chatgpt y otros bots de chat con inteligencia artificial representan una amenaza para la seguridad
En su blog, el Centro Nacional de Ciberseguridad informa que las empresas que operan esta tecnología, como Microsoft y Google, pueden leer preguntas reclutadas por botas de chat.
Publicidad
Me preocupa particularmente que estos modelos puedan usarse para la desinformación generalizada, dijo Altman en una entrevista con ABC NEWS. Ahora que están mejorando en la escritura de código de computadora, [ellos] podrían usarse para ciberataques ofensivos». También se refirió a otro temor que se está extendiendo por todo el mundo: que la IA se hará cargo de los trabajos de las personas. reemplazará algunas profesiones «y cree que esto puede suceder más rápido de lo que pensamos. Creo que en el transcurso de varias generaciones, la humanidad se adaptará perfectamente a los grandes cambios tecnológicos», dijo Altman. Pero si sucede dentro de unos años, entonces algunos de estos cambios… Eso es lo que más me preocupa». GPT-4 ya está disponible para los suscriptores a través de ChatGPT: los usuarios gratuitos todavía usan la versión anterior de GPT-3. 5 Hablando sobre esto en SXSW este mes, el cofundador de OpenAI, Greg Brockman, dijo que los temores de que las herramientas de IA tomen los trabajos de las personas son exagerados, y que la IA liberará a las personas para que se concentren en un trabajo importante: la capacidad de evaluar la situación y saber cuándo profundizar en los detalles «, dijo. En mi opinión, la verdadera historia aquí es que la IA mejora las capacidades humanas».
Nuevas características de GPT-4
Señales visuales Una nueva característica importante de GPT-4 es la capacidad de responder a señales visuales, como la pregunta «¿Qué tiene de divertida esta imagen?». Sugerencias y respuestas más largas GPT-4 ahora puede aceptar sugerencias de hasta 25 000 palabras y generar texto de la misma longitud. El GPT-4 puede aprender un estilo de escritura El GPT-4 puede aprender un estilo de escritura específico, lo que lo convierte en un socio ideal para proyectos creativos. Los puntajes más altos en los exámenes GPT-4 ahora se encuentran en el 10% superior en exámenes como el Examen de barra unificado. GPT-4 tiene un 40 % menos de probabilidades de cometer errores fácticos, aunque continúa cometiéndolos, y un 82 % menos de probabilidades de permitir contenido prohibido. Puede interactuar con enlaces web Ahora se le puede pedir a GPT-4 que interactúe con el contenido de las páginas web.
