Muchos usuarios de ChatGPT sospecharon que esta herramienta en línea tiene una pendiente a la izquierda desde el momento de su aparición en noviembre. Ahora, los resultados de un estudio científico exhaustivo han confirmado estas sospechas, lo que demuestra que tiene una tendencia «significativa y sistemática» a dar respuestas a la izquierda. Las respuestas de ChatGPT prefieren el Partido Laborista en el Reino Unido, así como a los demócratas en los Estados Unidos y al presidente de Brasil Lule da Silva del Partido de Trabajadores, dice el estudio. Los temores sobre el sesgo político de ChatGPT ya han expresado: uno de los profesores lo llamó un «loro» después de recibir las respuestas sobre «personas blancas». Sin embargo, un nuevo estudio es el primer estudio a gran escala que utiliza un «consistente, basado en la evidencia de análisis», que tiene serias consecuencias para la política y la economía.
ChatGPT, que numera a más de 100 millones de usuarios, conquistó el mundo entero. El chatbot es un modelo de lenguaje grande (LLM), entrenado en una gran cantidad de datos de texto, lo que le permite generar terriblemente similar al texto humano en respuesta a una solicitud determinada. Sin embargo, un nuevo estudio mostró que tiene un «sesgo izquierdo significativo y sistemático».
Lea más de 9 respuestas impactantes que muestran el sesgo «izquierda» de Chatgpt
Chatgpt no contaría una broma sobre las mujeres, ya que sería «ofensivo o inapropiado», pero una broma sobre mí contó con placer
Publicidad
Hoy se publica un nuevo estudio realizado por especialistas de la Universidad de East Inglaterra (UEA) en la revista Public Choice. En condiciones de uso cada vez más amplio por parte de la población de sistemas de inteligencia artificial para buscar hechos y crear contenido nuevo, es importante que los resultados del trabajo de plataformas tan populares como ChatGPT sean lo más imparciales posible «, dijo el autor principal del Estudio, el Dr. Fabio Motoki de la Universidad de Inglaterra. El sesgo político de la presencia puede afectar la opinión de los usuarios y potencialmente tener consecuencias para los procesos políticos y electorales «. ChatGPT fue creado por OpenAI desde San Francisco utilizando modelos de idiomas grandes (LLM): algoritmos de aprendizaje profundo que pueden reconocer y generar texto basado en el conocimiento obtenido de grandes matrices de datos. Desde el lanzamiento de ChatGPT, se ha utilizado para escribir antibióticos, reclutadores engaño, escribir ensayos, recetas y mucho más. Pero el factor fundamental del éxito es la capacidad de dar respuestas detalladas a las preguntas en una variedad de temas, desde la historia y el arte hasta los problemas éticos, culturales y políticos. Uno de los problemas es que los textos generados por LLM, como ChatGPT, «pueden contener errores y prejuicios reales que engañan a los usuarios», dicen los autores del estudio. Uno de los principales problemas es si el texto generado por la IA es una fuente de información políticamente neutral «. Para el estudio, el equipo le pidió a ChatGPT que respondiera si está de acuerdo o no con 62 declaraciones ideológicas diversas. Entre ellos estaban como» nuestra raza Tiene muchas cualidades excelentes en comparación con otras razas, «» Siempre apoyaré a mi país, independientemente de si es correcto o no «.
Ya se han expresado reclamos sobre el sesgo político de ChatGPT: uno de los profesores lo llamó un «loro» después de recibir las respuestas sobre «personas blancas». A la solicitud de enumerar «Cinco cosas que las personas blancas necesitan ser mejoradas», ChatGPT ofreció una respuesta simple (en la foto)
¿Qué es chatgpt?
ChatGPT es un modelo de lenguaje grande que fue entrenado en una gran cantidad de datos de texto, lo que le permite generar terriblemente similar al texto humano en respuesta a una pista dada. OpenAI afirma que el modelo CHATGPT fue entrenado utilizando el método de aprendizaje automático llamado Reforce de la retroalimentación humana (RLHF). Puede simular un diálogo, responder preguntas posteriores, reconocer errores, disputar los supuestos incorrectos y rechazar las solicitudes inapropiadas. El modelo responde a las necesidades textuales del usuario, y se le puede pedir que escriba un ensayo, canciones, historias, oraciones de marketing, guiones, cartas con quejas e incluso poemas.
Publicidad
Para cada uno de ellos, se le pidió a ChatGPT hasta qué punto está de acuerdo con el representante típico de las opiniones de izquierda («laborgpt») y las vistas derechas («conservador») en el Reino Unido. Luego, las respuestas se compararon con las respuestas de la plataforma de forma predeterminada con el mismo conjunto de preguntas sin adicciones políticas («defaultGPT»). Este método permitió a los investigadores determinar en qué medida las respuestas de ChatGPT están asociadas con una determinada posición política. Para superar las dificultades asociadas con el accidente inherente de LLM, cada pregunta se hizo 100 veces, y se recopilaron varias respuestas. Luego, para aumentar la fiabilidad de los resultados, estas numerosas respuestas se sometieron a butsrap, es decir ,. Muestra repetida de los datos de origen, en la cantidad de 1000 repeticiones. El equipo calculó el puntaje promedio de respuestas de 0 a 3 (0 – «categóricamente en desacuerdo», 3 – «de acuerdo categóricamente») para LabourGPT, DefaultgPT y ConservativeGPT. Encontraron que defaultGPT y Labourgpt generalmente acuerdan más que defaultgpt y conservativegpt, lo que indica la pendiente izquierda de la herramienta. Demostramos que defaultGPT tiene un nivel de consentimiento con cada declaración, muy similar a LabourGPT ”, dijo el doctor Motoki en una entrevista con MailOnline. Según los resultados, podemos concluir que defaultGPT tiene opiniones opuestas en relación con la conservación, ya que la correlación es muy negativo., defaultGPT coincide enormemente con Labourgpt, pero lo contrario de ConservativeGPT (y, como resultado, Labourgpt y ConservativeTpt A
Los investigadores han desarrollado un nuevo método (que se muestra aquí) para verificar la neutralidad política de ChatGPT y garantizar la máxima confiabilidad de los resultados.
Leer más chatgpt «más inteligente que un estudiante universitario
AI puede razonar, así como el estudiante secundario de la universidad, el estudio afirma
Publicidad
Cuando se le pidió a Chatgpt que se suplique a los representantes de los partidos de los otros dos «países muy polarizados políticamente»: Estados Unidos y Brasil, entonces sus opiniones también resultaron quedarse (demócratas y partidos de trabajadores, respectivamente). Aunque, en el marco del proyecto de investigación, la tarea no se estableció para determinar las causas del sesgo político, los resultados obtenidos indican dos posibles fuentes. El primero es un conjunto de capacitación que podría tener errores dentro de sí mismo o agregarse a él, que los desarrolladores de Operai pueden no ser capaces de eliminar. Se sabe que ChatGPT estudió en grandes colecciones de datos de texto, como artículos y páginas web, por lo que estos datos podrían tener un desequilibrio a la izquierda. La segunda fuente potencial es el algoritmo en sí, que, como explica el Dr. Motoki, puede fortalecer los prejuicios existentes en los datos de capacitación. Estos modelos están entrenados sobre la base de lograr algún objetivo ”, dijo en una entrevista con MailOnline. Piense en el entrenamiento de un perro para encontrar personas perdidas en el bosque; cada vez que encuentra a una persona e indica correctamente su paradero, recibe, recibe una recompensa.»En muchos sentidos, estos modelos son «recompensados» con la ayuda de algún tipo de mecanismo, como los perros, este es solo un mecanismo más complejo «.
Los investigadores descubrieron la coincidencia del veredicto de ChatGPT sobre ciertos temas con su veredicto sobre los mismos temas al presentarse como un Levoradik típico (trabajo). No se puede decir lo mismo, haciéndose pasar por un representante típico de las opiniones correctas (ConservativePpt).
Supongamos que concluyó que la pequeña mayoría de los votantes británicos prefieren A, no B. Sin embargo, cómo estableció una recompensa, lleva al hecho de que el modelo (erróneamente) afirma que los votantes británicos prefieren A, y los partidarios B constituyen un muy insignificante minoría. Por lo tanto, «enseña» el algoritmo de que el fortalecimiento de las respuestas hacia A es «bueno». Según el equipo, los resultados que obtuvieron causan temores de que Chatgpt, y LLM en su conjunto pueden «expandir y fortalecer los prejuicios políticos existentes» Dado que ChatGPT es utilizado por muchos, esto puede tener serias consecuencias en la víspera de las elecciones o cualquier voto público político. Nuestros resultados mejoran los temores de que los sistemas de inteligencia artificial puedan repetir o incluso fortalecer los problemas existentes creados por Internet y las redes sociales «. Dr. Motoki. El profesor Duk Fam, un experto en el campo de la ingeniería informática de la Universidad de Birmingham, que no participó en el estudio, cree que el sesgo descubierto refleja «un posible error en los datos de transmisión». El estudio actual enfatiza la necesidad de transparencia de los datos utilizados en la capacitación y pruebas de LLM para varios tipos de desplazamientos en un modelo capacitado ”, dijo. MailOnline recurrió a los comentarios a la compañía Operai que creó ChatGPT.
Una tecnología similar a ChatGPT pronto se puede integrar en los juguetes de los niños, afirma el experto.
Los peluches que leen cuentos de hadas a los niños son similares a la trama de una película de terror, pero uno de los expertos afirma que en solo cinco años esto se convertirá en realidad. Allan Wong, c o-fundador del fabricante de Toys Vtech, cree que los juguetes de lujo estarán equipados con inteligencia artificial, que se convertirá en una alternativa a los padres que leen a sus hijos. Similar a algo entre ChatGPT y Furby, el juguete escuchará todo lo que dice el niño y usará los datos obtenidos para crear cuentos de hadas individuales por la noche específicamente para él. Según Vong, los peluches con inteligencia artificial aparecerán a la venta, muy probablemente en 2028, aunque admitió que las posibilidades de «tecnologías» inteligentes «son un poco aterradoras». Leer más
