RAG
RAG son as siglas de Retrieval-Augmented Generation, que podemos traducir como xeración aumentada mediante recuperación. Esta técnica permite que un modelo de linguaxe utilice información dunha fonte externa para elaborar a resposta.
A limitación dos modelos de linguaxe
Un modelo de linguaxe aprende a partir dos datos utilizados durante o seu adestramento. Polo tanto, ese coñecemento ten unha data de corte: o modelo non recibe automaticamente todo o que sucede despois desa data.
Por exemplo, se lle preguntamos a un modelo por unha noticia publicada esta semana ou polo prezo actual dun produto, non pode saber a resposta unicamente a partir do que aprendeu durante o adestramento.
Algunhas aplicacións de IA solucionan este problema conectando o modelo a un buscador web. O buscador obtén información actualizada e o modelo utilízaa para redactar a resposta. Mais un modelo de linguaxe illado non ten acceso automático á web nin a outras fontes externas.
Información que non está na web
Non toda a información que necesitamos está publicada en Internet. Unha empresa, un centro educativo ou unha aplicación pode gardar os seus datos en:
- documentos internos;
- manuais e procedementos propios;
- informes e arquivos privados;
- unha base de datos da organización.
Esa información non se pode consultar mediante unha busca web normal. Ademais, en moitos casos debe permanecer privada e só estar dispoñible para as persoas autorizadas.
Que achega RAG?
RAG conecta o modelo de linguaxe cunha fonte de información externa. Antes de xerar a resposta, o sistema busca os contidos relacionados coa pregunta e entrégallos ao modelo como contexto.
Podemos resumir o proceso así:
- Facemos unha pregunta ao asistente. Por exemplo: «Cal é o procedemento para solicitar un permiso?».
- O sistema busca a resposta nos documentos do centro. Atopa o documento onde se explica ese procedemento.
- O sistema dálle esa información ao modelo. O modelo recibe a pregunta e o texto atopado no documento.
- O modelo redacta a resposta. Explica o procedemento baseándose nese documento.
Por exemplo, podemos crear un asistente para o persoal dun centro educativo. Se lle preguntamos cal é o procedemento para solicitar un permiso, o sistema buscará esa información nos documentos internos do centro. O modelo non ten que inventar o procedemento nin depender do seu coñecemento xeral: utiliza a fonte que lle proporcionamos.
RAG non cambia o coñecemento aprendido polo modelo. É como deixar que consulte unha biblioteca antes de responder: proporciónalle información adicional no momento de responder.