Alucinación

En el contexto de los modelos de lenguaje, una alucinación es un fenómeno en el que el sistema genera información falsa, inventada o carente de fundamento, presentándola como un hecho verídico. Esto ocurre generalmente cuando el modelo intenta completar una respuesta basándose únicamente en su memoria paramétrica, sin acceso a datos externos fiables. El uso de técnicas RAG es la solución principal para mitigar las alucinaciones, al obligar al modelo a basar sus respuestas en documentos o fuentes externas verificables. Para el ecosistema GEO, evitar las alucinaciones es crucial, ya que los motores generativos priorizan fuentes que proporcionan datos precisos y contrastables, reduciendo la probabilidad de que el sistema genere respuestas erróneas que afecten la reputación de la marca o la calidad de la información proporcionada al usuario. Conceptos relacionados: RAG, LLM, Memoria paramétrica.