#crypto #cryptomonedas #bitcoin
El 31 de mayo, OpenAI anunció sus esfuerzos por mejorar las capacidades de resolución de problemas matemáticos de ChatGPT, con el objetivo de reducir los casos de alucinaciones de la inteligencia artificial (IA). OpenAI destacó que mitigar las alucinaciones es un paso crucial hacia el desarrollo de una IA alineada.
En marzo, la introducción de la última versión de ChatGPT, ChatGPT-4, impulsó aún más la IA hacia la corriente principal. Sin embargo, los chatbots generativos de IA llevan mucho tiempo luchando con la exactitud de los hechos, generando ocasionalmente información falsa, comúnmente denominada "alucinaciones". Los esfuerzos para reducir estas alucinaciones de la IA se anunciaron a través de un post en el sitio web de OpenAI.
Las alucinaciones de la IA se refieren a casos en los que los sistemas de inteligencia artificial generan resultados incorrectos, engañosos o no respaldados por datos del mundo real. Estas alucinaciones pueden manifestarse de varias formas, como generar información falsa, inventarse sucesos o personas inexistentes o proporcionar detalles inexactos sobre determinados temas.
OpenAI llevó a cabo una investigación para examinar la eficacia de dos tipos de retroalimentación: "supervisión de resultados" y "supervisión de procesos". La supervisión de resultados se basa en el resultado final, mientras que la supervisión de procesos proporciona información sobre cada paso de una cadena de pensamiento. OpenAI evaluó estos modelos mediante problemas matemáticos, generando múltiples soluciones y seleccionando la solución mejor valorada según cada modelo de retroalimentación.
Tras un análisis exhaustivo, el equipo de investigación descubrió que la supervisión de procesos ofrecía un rendimiento superior, pues animaba al modelo a seguir un proceso aprobado por el ser humano. En cambio, la supervisión de resultados resultó más difícil de analizar de forma coherente.
OpenAI reconoció que las implicaciones de la supervisión de procesos van más allá de las matemáticas y que es necesario seguir investigando para comprender sus efectos en distintos ámbitos. Expresó la posibilidad de que si los resultados observados se mantienen en contextos más amplios, la supervisión de procesos podría ofrecer una combinación favorable de rendimiento y alineación en comparación con la supervisión de resultados. Para facilitar la investigación, la empresa hizo público el conjunto completo de datos de la supervisión de procesos, invitando a explorar y estudiar este ámbito.
Aunque OpenAI no proporcionó los casos explícitos que motivaron su investigación sobre las alucinaciones, dos sucesos recientes ejemplificaron el problema en escenarios de la vida real.
En un incidente reciente, el abogado Steven Schwartz en el caso Mata contra Avianca Airlinesreconoció haber confiado en el chatbot como recurso de investigación. Sin embargo, la información proporcionada por ChatGPT resultó ser totalmente falsa, lo que pone de manifiesto el problema.
ChatGPT de OpenAI no es el único ejemplo de sistemas de inteligencia artificial que sufren alucinaciones. Durante una demostración de su tecnología de chatbot en marzo, el chatbot Bing AI de Microsoft examinó informes de ganancias y generó cifras inexactas para empresas como Gap y Lululemon.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión
Las inversiones en criptoactivos no están reguladas. Es posible que no sean apropiados para inversores minoristas y que se pierda el monto total invertido. Los servicios o productos ofrecidos no están dirigidos ni son accesibles a inversores en España.
source
Según es.cointelegraph.com
