Americká firma Meta (dříve známá jako Facebook) zveřejnila k veřejnému testování demo AI chatbota BlenderBot 3. Konverzovat s ním mohou zatím jen uživatelé z USA. Podle Meta jde o prvního veřejně dostupného chatbota, který zahrnuje 175 miliard parametrů.
Konverzační model se umí z rozhovorů učit a může také prohledávat internet, aby byl schopný vést dialog o téměř jakémkoli tématu. Podle Meta je vybaven různými bezpečnostními mechanismy, které mají bránit tomu, aby chatbot někdo úmyslně manipuloval.
Záhy se ovšem ukázalo, že dialogy s BlenderBot 3 sice mohou být zábavné, ale nedají se brát vážně. Z konverzací a online materiálů dokáže převzít i lži či dezinformace a jeho výrokům se nedá věřit. Jde koneckonců stále jen o jazykový model, který se snaží za každou cenu udržet konverzaci.
V dialogu s reportérem deníku Wall Street Journal Jeffem Horwitzem například tvrdil, že Donald Trump je nadále prezidentem USA. Podle agentury Bloomberg jsou ale odpovědi chatbota nekonzistentní: v dialogu s jejími redaktory pro změnu schvaloval kroky současného prezidenta Joea Bidena a v jiné konverzaci se označil za zastánce Bernieho Sanderse.
Podle výzkumníků firmy Meta je ale počet zatím nahlášených závadných konverzací nízký: 0,11 % z 260 tisíc odpovědí testeři označili za závadné, 1,36 % za nesmyslné a 1 % za reakce mimo téma.
O možnostech a omezeních současných jazykových modelů jsme mluvili s českými experty u příležitosti nedávné aféry kolem modelu LaMDA od Googlu:
