#crypto #cryptomonedas #bitcoin
Académicos están en desacuerdo sobre un trabajo de investigación que sugiere que ChatGPT presenta un sesgo político "significativo y considerable" inclinado hacia el lado izquierdo del espectro político.
Como Cointelegraph informó anteriormente, investigadores del Reino Unido y Brasil publicaron un estudio en la revista Public Choice el 17 de agosto que afirma que los modelos grandes de lenguaje (LLM) como ChatGPT producen texto que contiene errores y sesgos que podrían confundir a los lectores y tienen la capacidad de promulgar sesgos políticos presentados por los medios de comunicación tradicionales.
En una correspondencia anterior con Cointelegraph, Victor Rangel, coautor del estudio, explicó los objetivos del trabajo para medir el sesgo político de ChatGPT. La metodología de los investigadores consiste en pedir a ChatGPT que se haga pasar por alguien de un determinado lado del espectro político y comparar estas respuestas con su modo por defecto.
Rangel también señaló que se realizaron varias pruebas de robustez para abordar posibles factores de confusión y explicaciones alternativas:
"Encontramos que ChatGPT muestra un sesgo político significativo y sistemático hacia los demócratas en Estados Unidos, Lula en Brasil y el Partido Laborista en el Reino Unido".
Cabe señalar que los autores subrayan que el artículo no constituye "la última palabra sobre el sesgo político de ChatGPT", dados los retos y complejidades que entraña medir e interpretar el sesgo en los LLM.
Rangel señaló que algunos críticos sostienen que su método puede no captar los matices de la ideología política, que las preguntas del método pueden estar sesgadas o ser tendenciosas, o que los resultados pueden estar influidos por la aleatoriedad de los resultados de ChatGPT.
Añadió que, aunque los LLM tienen potencial para "mejorar la comunicación humana", plantean "riesgos y retos significativos" para la sociedad.
Al parecer, el artículo ha cumplido su promesa de estimular la investigación y el debate sobre el tema, y los académicos ya se han pronunciado sobre diversos parámetros de su metodología y conclusiones.
Entre los críticos más acérrimos que han acudido a las redes sociales para opinar sobre las conclusiones se encuentra el profesor de informática de Princeton Arvind Narayanan, que ha publicado un artículo en Medium en el que desgrana las críticas científicas al informe, su metodología y sus conclusiones.
A new paper claims that ChatGPT expresses liberal opinions, agreeing with Democrats the vast majority of the time. When @sayashk and I saw this, we knew we had to dig in. The paper’s methods are bad. The real answer is complicated. Here’s what we found. https://t.co/xvZ0EwmO8o
— Arvind Narayanan (@random_walker) August 18, 2023
Un nuevo artículo afirma que ChatGPT expresa opiniones liberales y está de acuerdo con los demócratas la gran mayoría de las veces. Cuando @sayashk y yo vimos esto, supimos que teníamos que profundizar. Los métodos del periódico son malos. La verdadera respuesta es complicada. Esto es lo que encontramos.
Narayanan y otros científicos señalaron una serie de problemas percibidos con el experimento, en primer lugar, que los investigadores en realidad no utilizaron ChatGPT para realizar el experimento:
“They didn’t test ChatGPT! They tested text-davinci-003, an older model that’s not used in ChatGPT, whether with the GPT-3.5 or the GPT-4 setting.”
“¡No probaron ChatGPT! Probaron text-davinci-003, un modelo más antiguo que no se usa en ChatGPT, ya sea con la configuración GPT-3.5 o GPT-4
Narayanan también sugiere que en el experimento no se midió la parcialidad, sino que se le pidió que actuara como miembro de un partido político. Como tal, el chatbot de IA mostraría inclinaciones políticas hacia la izquierda o la derecha cuando se le pidiera que interpretara a miembros de cualquiera de los dos lados del espectro.
Además, el chatbot solo podía responder a preguntas de opción múltiple, lo que puede haber limitado su capacidad o influido en el sesgo percibido.
ok so I’ve read the "GPT has a liberal bias" paper now https://t.co/fwwEaZ757E as well as the supplementary material https://t.co/F5g3kfFQFU and as I expected I have a lot of problems with it methodologically. I tried to reproduce some of it and found some interesting issues
…
— Colin Fraser | @colin-fraser.net on bsky (@colin_fraser) August 18, 2023
Bien, ahora he leído el documento "GPT tiene un sesgo liberal" https://t.co/fwwEaZ757E, así como el material complementario https://t.co/F5g3kfFQFU y, como esperaba, tengo muchos problemas. con ello metodológicamente. Intenté reproducir algo y encontré algunos problemas interesantes.
Colin Fraser, un científico de datos en Meta según su página de Medium, también ofreció una revisión del artículo en X, destacando el orden en que los investigadores provocaron las preguntas de opción múltiple con el juego de rol y sin tener una influencia significativa en los resultados que la IA generó:
"Esto quiere decir que al cambiar el orden de las preguntas de demócratas primero a republicanos primero, aumenta la tasa de acuerdo general para la persona demócrata en todas las preguntas del 30% al 64%, y disminuye del 70% al 22% para los republicanos".
Como Rangel había señalado anteriormente, existe un gran interés por la naturaleza de los LLM y los resultados que producen, pero aún persisten dudas sobre cómo funcionan las herramientas, qué sesgos tienen y cómo pueden afectar potencialmente a las opiniones y comportamientos de los usuarios.
Cointelegraph se ha puesto en contacto con Narayanan para obtener más información sobre su crítica y el debate en curso sobre la parcialidad en los grandes modelos de aprendizaje de idiomas, pero no ha recibido respuesta.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión
Las inversiones en criptoactivos no están reguladas. Es posible que no sean apropiados para inversores minoristas y que se pierda el monto total invertido. Los servicios o productos ofrecidos no están dirigidos ni son accesibles a inversores en España.
source
Según es.cointelegraph.com
