AI · SaaS
Chat RAG – Assistente AI per Documenti
Un chatbot RAG che consente di caricare documenti, fare domande e ottenere risposte con citazioni delle fonti.
- Vector Ricerca
- Streaming Risposte
Il progetto
Chat RAG rende interrogabili documenti e knowledge base aziendali. L’assistente combina ricerca semantica, conversazione e riferimenti alle fonti per aiutare team e clienti a trovare risposte affidabili senza cercare manualmente nei file.
Funzionalità principali
- Caricamento ed elaborazione dei documenti — PDF e file di testo vengono suddivisi in blocchi, convertiti in embedding e indicizzati in automatico
- Ricerca semantica con pgvector — trova i passaggi rilevanti dei documenti per similarità vettoriale
- Citazioni delle fonti — ogni risposta dell’AI rimanda alle sezioni specifiche dei documenti utilizzate
- Chat multiutente — ogni utente ha la propria libreria di documenti e la propria cronologia delle conversazioni
- Streaming in tempo reale — le risposte dell’AI arrivano token per token via WebSocket
- Accesso basato sui ruoli — il superadmin gestisce tutti i documenti, gli utenti gestiscono i propri
Note tecniche
Rails 8.1 con PostgreSQL e l’estensione pgvector per l’archiviazione vettoriale e la ricerca per similarità. RubyLLM per l’orchestrazione degli LLM (OpenAI, OpenRouter). tiktoken_ruby per un conteggio accurato dei token. Elaborazione dei documenti in background con Solid Queue. Streaming in tempo reale con Turbo Streams.