Entre sueños y realidad Texto generativo y alucinaciones

Entre sueños y realidad Texto generativo y alucinaciones en el mundo de la belleza y la moda

 

En la era digital, las maravillas de la inteligencia artificial han transformado la forma en que interactuamos, trabajamos e incluso pensamos. 

Desde asistentes de voz que crean nuestras listas de reproducción hasta algoritmos predictivos que pronostican tendencias de mercado, la IA se ha integrado sin problemas en nuestra vida diaria. 

Pero, como ocurre con cualquier avance tecnológico, no está exento de sus giros. 

• OpenAI lidera la Inteligencia Artificial de próxima generación con GPT-4 Turbo
• Los chatbots pueden ‘alucinar’ más a menudo de lo que muchos se dan cuenta
• Pionera de la IA Fei-Fei Li Navegando en el presente y futuro de la IA

Un modelo de lenguaje grande o LLM es un modelo de aprendizaje automático entrenado que genera texto basado en la frase que proporcionaste. Para generar buenas respuestas, los modelos aprovechan todo el conocimiento adquirido durante su fase de entrenamiento. 

Recientemente, los LLM han mostrado habilidades impresionantes y en constante aumento, incluida la generación de respuestas convincentes para cualquier tipo de frase proporcionada por el usuario. 

Sin embargo, aunque los LLM tienen una increíble capacidad para generar texto, es difícil decir si esta generación es precisa o no. 

Y esto es precisamente lo que comúnmente se conoce como alucinaciones. 

Pero, ¿qué son estas alucinaciones y cómo afectan a la confiabilidad y utilidad de la IA?

 

El Enigma de las Alucinaciones de los LLM

 

Los LLM son genios cuando se trata de generar texto, traducciones, contenido creativo y más. 

A pesar de ser herramientas potentes, los LLM presentan algunas limitaciones significativas:

1. Las técnicas de decodificación utilizadas pueden generar resultados poco inspiradores, carentes de coherencia o propensos a caer en repeticiones monótonas.
2. Su base de conocimiento es “estática” en naturaleza, lo que presenta desafíos en las actualizaciones sin problemas.
3. Un problema común es la generación de texto que no tiene sentido o es inexacto.

El último punto se refiere a la alucinación, que es un concepto extendido de la IA a partir de los humanos. 

Para los humanos, las alucinaciones representan experiencias percibidas como reales a pesar de ser imaginarias. Este concepto se extiende a los modelos de IA, donde el texto alucinado parece preciso aunque sea falso.

En el contexto de los LLM, “alucinación” se refiere a un fenómeno en el que el modelo genera texto que es incorrecto, sin sentido o no real. 

  

Los LLM no están diseñados como bases de datos o motores de búsqueda, por lo que no hacen referencia a fuentes o conocimientos específicos en sus respuestas. 

Apostaría a que la mayoría de ustedes se preguntarán… ¿Cómo es posible? 

Bueno… estos modelos producen texto construyendo sobre la frase proporcionada. La respuesta generada no siempre está respaldada directamente por datos de entrenamiento específicos, pero está diseñada para estar en línea con el contexto de la frase.

En términos más simples: 

Pueden afirmar con confianza información que es factualmente incorrecta o simplemente no tiene sentido.

 

Descifrando los Tipos de Alucinaciones

 

Identificar alucinaciones en los seres humanos siempre ha sido un desafío significativo. Esta tarea se vuelve aún más compleja debido a nuestra capacidad limitada para acceder a una línea de base confiable para la comparación. 

Aunque datos detallados como distribuciones de probabilidad de salida de los Grandes Modelos de Lenguaje pueden ayudar en este proceso, dicha información no siempre está disponible, lo que agrega otro nivel de complejidad.

El problema de la detección de alucinaciones sigue sin resolverse y es objeto de investigación en curso. 

1. Las Mentiras Evidentes: Los LLM pueden inventar eventos o figuras que nunca existieron.

2. El Exceso de Precisión: Pueden compartir demasiada información, lo que potencialmente conduce a la divulgación de datos sensibles.

3. El Sin Sentido: A veces, la salida puede ser simplemente ininteligible.

   ¿Por qué Ocurren Estas Alucinaciones?

 

¿Por qué Ocurren Estas Alucinaciones?

 

La causa raíz reside en los datos de entrenamiento. Los LLM aprenden de grandes conjuntos de datos, que a veces pueden ser incompletos, desactualizados o incluso contradictorios. Esta ambigüedad puede desviarlos, haciendo que asocien ciertas palabras o frases con conceptos inexactos.

Además, el volumen de datos es tal que los LLM pueden no tener una “fuente de verdad” clara para verificar la información que generan.

 

Utilizando las alucinaciones a tu favor

 

Curiosamente, estas alucinaciones pueden ser una bendición disfrazada. Si buscas creatividad, querrías que los LLM, como ChatGPT, alucinen. 

  

Imagínate pedir una trama única para una historia fantástica. Querrías una narrativa fresca, no una réplica de una existente. 

De manera similar, al brainstorming, las alucinaciones pueden ofrecer una plétora de ideas diversas.

 

Mitigando el espejismo

 

La conciencia es el primer paso para abordar estas alucinaciones. Aquí tienes algunas estrategias para mantenerlas bajo control:

• Verificaciones de consistencia: Genera múltiples respuestas a la misma indicación y compáralas.
• Verificaciones de similitud semántica: Utiliza herramientas como BERTScore para medir la similitud semántica entre los textos generados.
• Entrenamiento con datos actualizados: Actualiza regularmente los datos de entrenamiento para asegurarte de su relevancia. Incluso puedes ajustar el modelo GPT para mejorar su rendimiento en campos específicos. 
• Conciencia del usuario: Educa a los usuarios sobre las posibles alucinaciones y la importancia de contrastar información.

¡Y el último, pero no menos importante… EXPLORA!

Este artículo ha sentado las bases respecto a las alucinaciones de los LLM, sin embargo, las implicaciones para ti y tu aplicación podrían divergir considerablemente. 

Además, tu interpretación de estos fenómenos puede no corresponder precisamente con la realidad. La clave para comprender y valorar plenamente el impacto de las alucinaciones de los LLM en tus proyectos es a través de una exploración profunda de los LLM.

 

En conclusión

 

El viaje de la IA, especialmente de los LLM, es como navegar en aguas desconocidas. Si bien el vasto océano de posibilidades es emocionante, es esencial estar alerta ante los espejismos que podrían desviarnos. 

Al comprender la naturaleza de estas alucinaciones e implementar estrategias para mitigarlas, podemos continuar aprovechando el poder transformador de la IA, asegurando su precisión y confiabilidad en nuestro siempre cambiante panorama digital.  

[Josep Ferrer](https://www.linkedin.com/in/josep-ferrer-sanchez) es un ingeniero de análisis de Barcelona. Se graduó en ingeniería física y actualmente trabaja en el campo de la ciencia de datos aplicada a la movilidad humana. Es un creador de contenido a tiempo parcial enfocado en la ciencia de datos y la tecnología. Puedes contactarlo en LinkedIn, Twitter o VoAGI.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!