Českou společností BottleCap AI upravený model umělé inteligence už zaznamenal přes 300 tisíc stažení na platformě Hugging Face. Jde o před pár dny vydaný velký jazykový model ThinkingCap, který vznikl fine tuningem otevřeného modelu Qwen (verze 3.6–27B) od společnosti Alibaba. Češi se zaměřili na redukci tokenů (až o 46 procent), nižší odezvy a nižší náklady na inferenci, což ve světě vyvolalo značnou pozornost.
Meta 300 tisíc stažení na Hugging Face byla překonána už desátého července. Jde o stažení ve formátu GGUF, což je binární formát ukládající potřebná data pro rychlé a jednoduché spouštění AI modelů.
Autoři zároveň přidávají další možnosti. ThinkingCap vyšel ve verzi FP8, která je zároveň nově k dispozici v rámci služby Requesty skrze API.
Model je nadále možné stahovat zdarma a používat na vlastní infrastruktuře, a to pod licencí Apache 2.0. BottleCap AI nabízí i placené služby pro implementaci a další optimalizaci. Odkaz na stránku na Hugging Face je k dispozici zde.