ChatGPT es una herramienta maravillosa, pero este servicio de inteligencia artificial avanzado, que puede escribir como experto en casi cualquier tema, tiene un lado oscuro: el plagio. Cuando los estudiantes que deben demostrar su conocimiento y comprensión del tema, trampa, utilizando en secreto ChatGPT, esto cancelará los resultados de las pruebas y la evaluación. Las habilidades de trabajar con inteligencia artificial son maravillosas, pero esta no es la única materia que los estudiantes deben estudiar.
No fue fácil resolver este problema. Dado que ChatGPT fue entrenado en una gran variedad de datos de obras humanas, es casi imposible para el maestro determinar quién fue creado por un ensayo: un estudiante o una máquina. Se crearon varias herramientas que intentaron reconocer las obras creadas por la inteligencia artificial, pero su precisión era demasiado baja para ser útiles.
Materiales de video recomendados
En el contexto de la creciente preocupación de los maestros y las prohibiciones sobre el uso de ChatGPT por parte de los estudiantes, Business Insider informa que OpenAI está trabajando para resolver este problema. En el reciente twit de Tom Goldstein, profesor asistente del departamento de departamento de aprendizaje automático de la Universidad de Maryland, se explica cuán exactamente puede detectar el texto con marcas de agua escritas utilizando ChatGPT.
#Openai planea evitar que los usuarios de #CHATGPT creen bots en las redes sociales y descarten la tarea usando & amp; quot; WaterMarks & amp; quot; en la salida.¿Qué tan bien puede funcionar esto? Aquí hay solo 23 palabras de LLM con marcas de agua que contienen parámetros 1. 3b. Lo encontramos con confianza 99, 99999999994%. Así es como 🧵 pic. twitter. com/pvc9m3qpyq
& amp; mdash; Tom Goldstein (@TomGoldsteincs) 25 de enero de 2023
Cualquier herramienta que pueda determinar el plagio con casi el 100% de precisión permitirá rápidamente esta discusión y aliviará todos los temores. Según Goldstein, una de las soluciones es forzar un modelo de lenguaje grande (LLM) para elegir palabras de un vocabulario limitado, formando una lista de palabras «blancas» que AI puede usar y una lista de palabras «negras» que están prohibidas. Si en la muestra hay una cantidad de palabras antinaturalmente grande de la «lista blanca», esto indicará que fue generado por AI.
Tal enfoque simplificado sería demasiado restrictivo, ya que es difícil predecir qué palabras pueden ser necesarias para la discusión si trabaja una palabra, como lo hace la mayoría de LLM. Goldstein ofrece dar a Chatgpt la capacidad de mirar hacia adelante más de una palabra para que pueda planificar una oración que pueda llenarse con palabras de la lista blanca y al mismo tiempo mantener el significado.
ChatGPT produjo un chapoteo, ingresando a la comunidad de escritores, y puede ser un excelente libro de texto. Es importante introducir inteligencia artificial en las escuelas, ya que en el futuro sin duda se convertirá en una tecnología importante que requiere comprensión, pero hasta que se resuelva el problema del plagio, seguirá siendo controvertido.
Recomendaciones de editores
- Google Bard pronto puede convertirse en su nuevo código de vida con inteligencia artificial
- CHATGPT: Las últimas noticias, contradicciones y consejos que deben ser conocidos
- Newegg quiere que confíe en chatgpt en términos de revisiones de bienes
- En la era del chatgpt, las computadoras Mac son atacadas por maliciosas
- Apple ha estado trabajando en secreto en el competidor de chatgpt durante varios años
Temas
- Inteligencia artificial
- Noticias de tecnología
