Výzkumný tým Alquist z pražského ČVUT CIIRC zveřejnil jako open source platformu Alquist Insight – kompletní řešení pro RAG chatboty, které běží výhradně na vlastní infrastruktuře firmy nebo instituce. Nasazení je možné jednokrokově na počítače Nvidia Spark.
Alquist Insight představuje Jan Šedivý, který projekt Alquist se studenty vyvíjí, jako kompletní platformu pro chatboty s umělou inteligencí, kterou si může uživatel sám hostovat a která je postavena na jeho znalostní bázi. Po nahrání dokumentů a konfiguraci projektu se má stát asistentem, který rozumí kontextu a běží výhradně na infrastruktuře uživatele.
Platforma nabízí dvě rozhraní. Admin Console slouží ke správě dokumentů, organizaci znalostních bází podle projektů a sledování provozu včetně počtu sezení. Client App je pak uživatelský chatbot, který odpovědi zakládá na nahraných dokumentech a ke každé odpovědi zobrazuje zdrojové stránky, z nichž čerpal.
Alquist Insight je postaven jako monorepo a zahrnuje moduly Kronos pro správu znalostních bází, Ragnarok zajišťující RAG pipeline a vyhledávání v dokumentech, orchestrační vrstvu Maestro a modul FSM pro řízení dialogu přes konečné automaty. Součástí je nasazení přes Docker Compose a integrace s vLLM pro provoz lokálních modelů.
Platforma je šířena pod licencí MIT. „Věříme, že skvělé AI nástroje by neměly zůstávat za zavřenými dveřmi,“ říká Šedivý. Projekt vítá příspěvky a feedback od komunity.
Alquist vznikl jako studentský projekt na ČVUT. Tým je roky úspěšný v soutěži Amazon Alexa Prize a naposledy obsadil 2. příčku v Amazon Nova Trusted AI Challenge 2025. Insight je platforma, kterou tým při této cestě vybudoval.
ČLÁNKY DO MAILU