RAG (Retrieval-Augmented Generation)

A RAG, azaz a kereséssel kiegészített generálás, egy olyan hibrid AI-keretrendszer, amely a nagy nyelvi modellek (LLM) generatív képességeit ötvözi külső, hiteles tudásbázisokból származó információk valós idejű lekérdezésével. A módszer működése során a rendszer a felhasználói kérdést először egy keresőmotoron vagy vektoradatbázison futtatja át, majd a releváns találatokat kontextusként csatolja a nyelvi modellhez, amely ezek alapján fogalmazza meg a választ. A RAG-architektúra legfőbb előnye, hogy minimalizálja a modell hallucinációit és lehetővé teszi a naprakész, vállalatspecifikus vagy zárt adatok biztonságos felhasználását anélkül, hogy a modellt újra kellene tanítani. Ez a technológia kulcsfontosságú a vállalati tudásmenedzsment-rendszerekben, ahol a pontosság és az adatfrissesség kritikus követelmény.