Student ČVUT Erol Medenčević vyvinul nástroj, který ukazuje „myšlenkové procesy“ umělé inteligence – jak plánuje a rozhoduje se v nepředvídatelném prostředí. Jeho projekt PANSim vizualizuje myšlenkové procesy AI agentů v situacích, kdy musí počítat s vnějšími faktory, jež nemohou ovlivnit, ale musejí s nimi počítat. Tyto „zásahy přírody“ dnes představují jednu z klíčových výzev robotiky a automatizace. Nástroj pomáhá laické veřejnosti pochopit, co se za rozhodováním AI skrývá, a vývojářům usnadňuje odhalování chyb a ladění agentů. Medenčević se svou prací na toto téma uspěl na mezinárodní konferenci AAAI v Singapuru, když byl výsledný projekt PANSim prezentován v rámci demo tracku akce, která je jednou z nejlépe hodnocených v oblasti umělé inteligence
Ani pro samotné AI vývojáře není lehké rozhodovací procesy AI vyčíst pouze z dostupných logů. V současnosti nástroj podporuje dva scénáře; simulaci inspirovanou klasickou hrou Perestroika a operace podmořských dronů mezi loděmi. V obou případech musí agent najít garantovaně bezpečnou cestu k cíli navzdory překážkám způsobeným vnějšími faktory. Technicky projekt integruje herní engine Unity pro grafickou část a netriviální počet programů, kde probíhají veškeré výpočty a logické plánování, přičemž každý z těchto programů je zcela odlišný a napsaný v jiném programovacím jazyce.
Do demo tracku AAAI bylo letos přijato pouze 28 % podaných příspěvků. Do budoucna chce Medenčević PANSim zinteraktivnit, uživatelé by si mohli sami vyzkoušet řešení konkrétního problému a porovnat výsledek s tím, jak si poradil počítač. Dlouhodobým cílem je doménově nezávislý nástroj pro libovolné scénáře. Zdrojový kód i vědecký článek jsou dostupné v repozitáři na GitLab.
ČLÁNKY DO MAILU