Kauza týkající se generování fotek skutečných lidí svlečených do bikin chatbotem Grok na sociální síti X se dočkala oficiálního vyšetřování ze strany Evropské komise (EK). Podle oznámení má jít o šetření s vysokou prioritou.
Komise chce prověřit, zda X dostatečně posoudila rizika a zavedla ochranné mechanismy související s možným šířením nelegálního obsahu a dětské pornografie.
Podle nařízení o digitálních službách (Digital Services Act, DSA) mají provozovatelé služeb povinnost účinně zmírňovat riziko šíření nezákonného obsahu. Komise chce prošetřit i to, zda X dostatečně úředníky informuje o posouzení rizik u nově spouštěných funkcí.
Případ se týká možnosti generovat pomocí chatbotu Grok na X fotky skutečných osob svlečených téměř do naha. Podobné snímky se na síti X začaly hromadně objevovat na přelomu roku. Někteří uživatelé vytvářeli i fotky téměř svlečených dětí.V polovině ledna X změnila nastavení chatbotu tak, že má být generování podobných fotek výrazně omezené.
Na stížnosti uživatelů reagovali v některých zemích i regulátoři. Vyšetřování X spustil například britský Ofcom, úřední šetření oznámil také nejvyšší státní zástupce v americké Kalifornii.
Evropská komise zároveň oznámila rozšíření dřívějšího vyšetřování X, které zahájila v roce 2023. Chce nově prověřit, zda sociální síť dostatečně posoudila rizika spojená se změnou jejího doporučovacího algoritmu, který je nově založen právě na AI chatbotu Grok.
Loni v prosinci Komise vyměřila X za jiné prohřešky proti DSA pokutu v přepočtu skoro 3 miliardy korun (120 milionů eur).
ČLÁNKY DO MAILU