Episode Description
I denne episode af Vabos Podcast dykker værten Kasper Junge og gæsten Emil Jensen ned i Retrieval Augmented Generation (RAG). De diskuterer, hvad RAG er, hvordan det kan anvendes i virksomheder, og hvilke udfordringer der er forbundet med datahåndtering og søgning. Derudover taler de om vigtigheden af at optimere supportartikler og den iterative proces i systemforbedringer. Episoden afsluttes med en diskussion om hukommelse og RAGs fremtidige perspektiver. I denne samtale diskuterer deltagerne emner relateret til AI, semantisk søgning, evaluering af RAG-systemer, fine-tuning og RAG. De udforsker, hvordan uendelige kontekstvinduer kan forbedre søgninger, vigtigheden af feedback loops i systemer, og hvordan man bedst anvender fine-tuning i forhold til RAG. Deltagerne deler også deres erfaringer med forskellige modeller og værktøjer, samt hvordan domæneviden spiller en afgørende rolle i data science.
Find Emil Lykke Jensen og hans projekter her:
- https://www.linkedin.com/in/emillykkejensen/
Chapters
00:00 Introduktion til RAG og gæsternes baggrund
02:31 Hvad er Retrieval Augmented Generation?
05:22 Anvendelse af RAG i virksomheder
08:06 Udfordringer ved datahåndtering og søgning
10:44 Effektivitet i søgning og retrieval
13:39 Optimering af supportartikler med RAG
16:23 Data som en vigtig ressource
18:56 Iterativ forbedring af systemer
22:03 Hukommelse og RAGs rolle
24:42 Fremtidige perspektiver for RAG
35:52 Uendelige kontekstvinduer og semantisk søgning
42:20 Evaluering af racksystemer og feedback loops
47:48 Fine-tuning vs. RAG: Hvornår skal man bruge hvad?
55:03 Praktiske anvendelser og fremtidige perspektiver