Pražský fintech Tapaya začínal s cílem postavit platební bránu tak jednoduchou, aby ji dokázala naintegrovat umělá inteligence sama. Vyšlo to až příliš dobře.
Ukazuje se to v mnoha konverzacích s těmi, kteří se mají stát zákazníky. Mají dost podobný vývoj: potenciální klienti se ozvou a brzy přijde sdělení typu „váš produkt je špatný, nesedí do našeho scénáře“. Zprávy jsou dlouhé, komplikované, trvají si na svém a nenechají se odbýt. Působí, že pisatel nepochopil, jak vlastně produkt funguje. Když se jim lidé z Tapayi pokusí vysvětlit, jak to je, odpovědí přijde reakce, že zákazník prostě potřebuje to, co už požadoval. Konverzace se cyklí a neposouvá se vůbec nikam.
Tapaya ji přitom nemůže opustit. Už proto, že jde o začínající startup a každý zákazník může znamenat rozdíl mezi tím, jestli se mu podaří vyrůst do vysněných velikostí, nebo ne. Ale zároveň je to firma, která vytváří nástroj pro vývojáře, tudíž s nimi potřebuje pracovat na tom, aby se vývojářům z cizích firem podařilo nástroj do jejich řešení zapracovat. Jinak prostě fungovat nebude.
Jenže konverzace, o kterých hovoří Petr Zahradník, jeden ze spoluzakladatelů, jsou s umělou inteligencí. Druhá strana nereaguje na vysvětlování. Nebere v potaz, že produkt má určité limity. A hlavně nikdy neslevuje. „AI se nedá přesvědčit emočně. Na AI se musí rozkazovacím způsobem s fakty. Hodně funguje opakování věcí, být striktní a říct: musí se to udělat takto. Není jiná možnost. Toto nelze provést,“ popisuje Zahradník, jak se jeho tým naučil psát odpovědi do e-mailů.
Není přitom jednoduché odpovídat. „Irituje nás to neskutečně, protože otázky od AI jsou psané specificky. Nesmyslně, otravně, jsou zbytečně dlouhé, zároveň ale neříkají detaily. A svůj postoj si nenechají vymluvit. Člověk člověku může napsat s žádostí o ujasnění, proč potřebuje, o co žádá. AI na to nereaguje. Nebo odpoví, že to prostě potřebuje,“ popisuje Zahradník.
Tapaya ukazuje, že zákaznický servis dnes neběží nutně jen mezi lidmi a firmou, ale taky mezi AI agentem zákazníka a lidmi ve firmě. A ti začínají tušit, že to tak aspoň nějakou dobu zůstane, a musí se tomu přizpůsobit.
Mladá společnost vyvíjí systém, který mění mobil v platební bránu. Což znamená, že vytváří přístup k platebním nástrojům pro vývojáře, kteří je pak zapojují do svého vlastního produktu. Výše zmíněná snaha připravit jej pro AI byla v záměru od začátku.
„A co se nestalo? Už to integruje jen AI,“ říká Zahradník. „Reálně nemáme jediného zákazníka, který by řešení programoval ručně,“ říká Zahradník. „Což dost ovlivňuje, jakým způsobem k produktu musíme přistupovat. Najednou nevytváříme nástroj pro vývojáře, ale pro AI,“ doplňuje.
Mačkají Enter, dokud to nefunguje
Tapaya je příkladem společnosti, u které se technologické změny u zákazníků z principu věci můžou projevit velmi rychle. Pohybuje se v technologickém sektoru a funguje v podstatě jako vývojář pro vývojáře. „Je to ten první obor, kde AI udeřila, a kde se zároveň nejvíc projevuje,“ vysvětluje Zahradník. Proto prý potenciální zákazníci na vlnu umělé inteligence naskočili velmi rychle.
Extrémním dopadem podle něj pak je, že už dnes spousta z lidí nečte dokumentaci, nepíše e-maily a sama nezapracovává systémy do firmy. „Spustí Claude a řeknou ‚chci naintegrovat toto, chci to rychle, make no mistakes‘. A v podstatě klikají Enter do té doby, dokud daná věc nefunguje,“ zjednodušuje Zahradník.
Jiné firmy se ještě s reálnými lidmi zcela běžně baví. „Z naší zkušenosti se nám nakonec pořád ozývá člověk,“ říká Dominik Snopek, spoluzakladatel startupu CloudBooster. „Často je ale znát, že píše to, co mu poradil jeho agent,“ ujasňuje však. Předpokládá, že velkou část komunikace už reálně připravuje agent a člověk ji jen zadá nebo potvrdí.
I tato společnost se pohybuje v technologiích – vyvíjí platformu, která automatizuje správu cloudu napříč poskytovateli, jako je AWS, Azure, nebo menší hráči. Nárůst botů sleduje. Celý byznysplán startupu je ostatně založený na nárůstu agentů a Snopek říká, že ti generují změny infrastruktury v objemech, které běžné schvalovací procesy nezvládají.
„To, že agenti čtou web, je už realita a řešíme to často, interně i s klienty. Weby a dokumentaci dnes technicky připravujeme i pro agenty: aby rozuměli běžnému viditelnému obsahu, a zároveň aby měli k dispozici varianty určené přímo pro stroje,“ potvrzuje Snopek.
Konkrétně na webu této firmy tvoří identifikovaní AI boti asi 15–20 % všech požadavků. Zhruba každý sedmý úspěšný požadavek AI pochází od asistenta, který jedná za konkrétního uživatele. Za poslední měsíc je to přes pět tisíc, říká spoluzakladatel.
Podobné případy, kdy AI firmám a projektům komplikuje život, se objevují pravidelně. Například zakladatel open-source projektu curl Daniel Stenberg začal dostávat záplavu bezpečnostních hlášení vytvořených pomocí AI. Některá popisovala chyby, které v programu vůbec neexistovaly, přesto vývojáři museli každý report prověřit. Stenberg to zkoušel vyřešit úpravou pravidla pro nahlašování chyb a začal požadovat důkazy. Problém se mezitím proměnil: falešných hlášení ubylo, přibývají ale dlouhé a komplikované reporty. Jsou sice věcně správné, ale jejich zpracování je náročné. Letos v říjnu napsal, že AI se podílela už na stovkách bezpečnostních hlášení.
V prostředí sociálních sítí se množí popisy toho, jak lidi jako zástupce firem oslovuje umělá inteligence, která jim nabízí služby, jež pro ně mnohdy ani nedávají smysl. Například autoři analytického projektu Signal popisují zkušenosti manažerů, kteří dostávají v průměru pět nevyžádaných obchodních nabídek denně od AI týmů nabízejících vlastní agenty. Chodí jim e-mailem i přes LinkedIn. Zprávy vypadají personalizovaně, ale často jsou generické a míjejí skutečné potřeby adresáta.
Podobně marketingová platforma Invoca poukázala na trend, v rámci nějž volá některým firmám za zákazníky Google AI a zjišťuje ceny nebo dostupnost. Podle dat od platformy jich v listopadu zaznamenala čtyřnásobek oproti říjnu, firmy přitom nezvedly 26 % hovorů a v 48 % přijatých hovorů neposkytly požadovanou cenu.
Pro úplnost dodejme, že informace z projektů Signal a Invoca jsou od firem prodávajících řešení, která mají podobným obtěžujícím kontaktům zamezit. Stejným směrem ale ukazuje nedávná prosba českého dTestu. Ten by rád, aby mu lidé přestali posílat podání vytvořená umělou inteligencí. „Obsahují zdlouhavé popisy, ale chybějí v nich skutkové okolnosti. Mohou také nabízet předběžné právní hodnocení s odkazy na neexistující judikáty nebo na rozhodnutí říkající pravý opak. Někdy citují právní předpisy, které se na danou situaci nevztahují nebo již nejsou účinné. V podáních se také objevují protichůdné či vzájemně si odporující informace,“ popisuje organizace. S tím, že podání vytvořená výhradně pomocí AI se setkává ve všech oblastech spotřebitelského poradenství a prakticky denně.
Dlouhé a bez detailů
Tapaya je mladý startup, což mimo jiné znamená, že všichni dělají všechno. Samostatný tým podpory ještě neexistuje, potenciálním zákazníkům podle povahy dotazu odpovídají vývojáři nebo lidé z obchodu a také Zahradník jako zakladatel. Zkušenosti s hovory s AI tak dokáže popsat do velkých podrobností. „Obecně, ty otázky od AI jsou zbytečně dlouhé, rozmazávají problém a neříkají detaily,“ říká. Věří, že kdyby se bavil s člověkem, lze rychle dojít k otázce, k čemu danou funkci potřebuje. „Agent někdy jen opakuje, že požadavek ‚zapadá do našeho projektu‘,“ doplňuje.
Na druhou stranu, málokdy se tu stalo, že by se o konverzaci nějakým způsobem dál nesnažili. „Vzpomínám si možná na jeden, dva případy z nějakých řekněme 50 AI konverzací, kdy jsme si řekli, že stále odpovídáme na totéž a není už jak debatu posunout,“ vysvětluje zdejší CTO. Nakonec se vše vysvětlilo přes telefon s reálným člověkem – a ukázalo se, že ti původně nepochopili, jak produkt Tapayi funguje. Po deseti minutách se ale dohodli na spolupráci, zrušili všechna rozhodnutí AI a začali implementovat produkt úplně znovu. Problémy zmizely a funkce, které umělá inteligence požadovala a na nichž se zasekla, nakonec vůbec nepotřebovali.
Přečtěte si také:
Evropa sype desítky miliard do obranných startupů. Do Česka letos nešla ani koruna
„Z těch konverzací jsem hodně frustrovaný. Tady jsem byl mile překvapený, jak ti lidé byli naprosto v pohodě. Ale dokážu si představit, že tím, že člověk přesně postaví AI agenta mezi sebe a podporu, absolutně partnerskou firmu odradí a ztratí možná celou dohodu nebo přístup k danému projektu,“ komentuje Zahradník.
Tapaya se každopádně na agenty připravila ještě na webu. Tam jí totiž „visí“ dvě dokumentace – jedna pro lidi, druhá pro agenty. Lidská verze má přehlednou úvodní stránka, krátký popis produktu, barevné sekce, diagramy, rámečky s upozorněními, tlačítka „click to action“, CTA, vedoucí k dalším krokům. Pro AI je dokumentace ve formě čistého a nahuštěného textu, bez diagramů, obrázků i jakéhokoliv jiného vizuálního členění. Nově nevadí, že je dokumentace tak dlouhá, že by s ní lidé strávili několik dlouhých hodin.
Dokumentace může mít sto stránek a rozkazovací způsob, který by lidi urazil. „Pokud AI dostane od člověka příkaz ‚nastuduj toto‘ nebo ‚naimplementuj tuto věc‘, cíl je jasný. Prostě to naimplementovat,“ usmívá se Petr Zahradník.
Součástí je soubor /llm.txt, který se v posledním roce stal mezi weby orientovanými na AI běžným standardem. „Je tam napsané: super, vítej agente, naše dokumentace je tady. A krátký popis toho produktu, aby se v tom zorientoval,“ vysvětluje Zahradník.
I Snopek vysvětluje, že je potřeba obsah pro agenty připravovat. Jenže vytvoří-li firma dvě verze obsahu – jednu pro lidi a jednu pro agenty – začnou se podle něj rozcházet a agenti se noří do neexistujících stránek. „Lepší je jeden zdroj pravdy, ze kterého se generují obě podoby,“ radí.
Podle odborníka totiž v případě CloudBoosteru zhruba každý devátý požadavek AI botů skončí na stránce, která neexistuje. „Agent si adresu odhadne nebo ji zná z neaktuálních dat, místo aby věděl, co na webu skutečně je,“ vysvětluje šéf mladé společnosti.
Nepomůže ani lepší model AI. Ten totiž přidává hlavně autonomii a přesvědčivost. „Takže špatně informovaný agent se rozhodne špatně, jen sebejistěji,“ říká Snopek.
- Chcete mít Lupu bez bannerů?
- Chcete dostávat speciální týdenní newsletter o zákulisí českého internetu?
- Chcete mít k dispozici strojové přepisy podcastů?
- Chcete získat slevu 1 000 Kč na jednu z našich konferencí?
Staňte se naším podporovatelem
ČLÁNKY DO MAILU