La compañía OpenAI, la creadora del popular chatgpt chatbot con inteligencia artificial (IA), cerró la herramienta para detectar contenido, creado no por una persona, sino ai. Según los representantes de Operai, una herramienta llamada clasificador de IA se cerró solo seis meses después del lanzamiento debido a la «baja precisión».
Después de que la popularidad de ChatGPT y los servicios competitivos ha aumentado considerablemente, varios grupos, preocupados por las consecuencias del uso no controlado de la inteligencia artificial, comenzaron a contrarrestar activamente esto. En particular, los maestros están particularmente preocupados por la posibilidad de usar ChatGPT por parte de los estudiantes para escribir ensayos y tareas con la posterior imposición de ellos para los suyos.
El clasificador de IA de OpenAi fue un intento de disipar los temores de estos y otros grupos. La idea era determinar quién fue el texto escrito por una persona o una bota de chat con inteligencia artificial, y dar a las personas un instrumento para una evaluación justa de los estudiantes y la lucha contra la información errónea.
Similar
- ChatGPT pronto podrá moderar el contenido ilegal en sitios como Facebook
- News GPT-4. 5: Todo lo que sabemos sobre el modelo de idioma de la nueva generación
- En la era del chatgpt, las computadoras Mac son atacadas por maliciosas
Sin embargo, desde el principio OpenAi no estaba seguro de su instrumento. En su blog, Operai dijo que «nuestro clasificador no es completamente confiable», señalando que identificó correctamente los textos escritos en el «conjunto de tareas» en solo el 26% de los casos.
Videos recomendados
La decisión de rechazar esta herramienta no causó mucha resonancia, y OpenAI no publicó el mensaje correspondiente en su sitio web. En cambio, la compañía actualizó un mensaje que habló sobre el clasificador de IA, diciendo que «el clasificador de IA ya no está disponible debido a su baja precisión».
La actualización continúa: «Estamos trabajando en contabilizar las revisiones y actualmente estudiando métodos más efectivos para verificar la autenticidad del texto, y también tenemos la obligación de desarrollar e introducir mecanismos que permitan a los usuarios comprender si el audio o el contenido visual es inteligencia artificial «
Se necesitan herramientas más avanzadas
El clasificador de IA no es la única herramienta diseñada para detectar el contenido creado por la IA: los competidores como GPTZero existen y continuarán funcionando, a pesar de la solución OpenAI.
Los intentos pasados de identificar la inteligencia artificial en las obras escritas condujeron a las tristes consecuencias. Por ejemplo, en mayo de 2023, un maestro llenó por error a toda la clase después de recurrir a Chatgpt con una solicitud para identificar el plagio en las obras de los estudiantes. No hace falta decir que Chatgpt fue muy equivocado, como un profesor.
Esta es una preocupación para incluso OpenAI admite que no puede percibir correctamente el plagio creado por su propio chatbot. Esto sucede en el contexto de la creciente ansiedad sobre el potencial destructivo de AI-Chatbots y los llamados para suspender temporalmente los desarrollos en esta área. Si la IA tiene tanta influencia como algunos predicen, entonces el mundo necesitará herramientas más poderosas que el clasificador de IA OpenAI sin éxito.
Recomendaciones de editores
- Google Bard pronto puede convertirse en su nuevo entrenador de IA
- CHATGPT: Las últimas noticias, contradicciones y consejos que deben ser conocidos
- Newegg quiere que confíes en Chatgpt en revisiones de bienes
- Apple ha estado trabajando en secreto en el competidor de chatgpt durante varios años
- Se informa que el competidor del Apple ChatGPT «está significativamente rezagado detrás de los competidores».
Temas
- Inteligencia artificial
- Noticias de tecnología
