Nedávno založený český startup BottleCap AI zaznamenal první úspěch ve vývoji algoritmu, který by měl výrazně zefektivnit velké jazykové modely (LLM), jenž jsou základem současného boomu v umělé inteligenci. Firma chce dosáhnout toho, aby budoucí modely nebyly tak náročné na výpočetní kapacity či spotřebu energie. Dnes vyžadují velké množství velmi “žravých” GPU čipů typu Nvidia.
“Podařilo se nám dosáhnout výrazného zrychlení při pretrainingu LLM modelů – aktuálně až o 50 procent, a to díky novému algoritmu, který jsme interně vyvinuli. Naším dlouhodobým cílem je stonásobné zrychlení. Aktuální výsledek bereme jako první krok správným směrem,” řekl Lupě David Herel, spoluzakladatel a šéf vývoje v BottleCap AI.
Startup zatím nezveřejňuje technické detaily, jde o chráněné interní know-how. Firma bude v budoucnu zveřejňovat různé materiály na svém GitHubu. “Zatím tam máme otevřený test pro všechny, které zajímá zrychlování modelů. Můžou si zkusit navrhnout vlastní řešení a buď nám ho poslat, nebo ho případně rovnou nasdílet na GitHub,” nastínil Herel.
“Trénink špičkového velkého jazykového modelu může stát desítky milionů dolarů. S naším novým přístupem může tato částka klesnout téměř o polovinu. Slibný začátek,” doplnil Jaroslav Beck, spoluzakladatel a výkonný ředitel BottleCapu.
Beck je zároveň investorem firmy, vloží do ní 10 milionů dolarů. Dříve působil ve firmě Beat Games, která vyvinula Beat Saber a která je nyní součástí Mety.
Vědeckou část má ve firmě na starost Tomáš Mikolov, známý český AI vědec, který nedávno po komplikované situaci odešel z ČVUT. Téma jsme rozebírali zde.
ČLÁNKY DO MAILU