AI chatbot ChatGPT začíná automaticky omezovat zobrazování určitého obsahu uživatelům mladším 18 let. Věk přitom bude odhadovat na základě signálů, mezi které patří doba existence účtu, obvyklé časy, kdy je uživatel aktivní, nebo témata, o která se zajímá. OpenAI zapíná nové opatření celosvětově, do EU ale má přijít s několikatýdenním zpožděním.
Pokud systém usoudí, že je uživatel mladší 18 let, zapne mu automaticky sadu omezení. Chatbot mu nemá zobrazovat násilný obsah, virální výzvy, které zahrnují rizikové chování, sexuální obsah a obsah týkající se sebepoškozování, body shamingu, nezdravých dietních praktik či extrémních standardů krásy.
Pokud uživatel nebude s automatickým odhadem souhlasit, může svůj věk ověřit pořízením fotografie sama sebe v reálném čase nebo nahráním fotky průkazu totožnosti. Tuto službu pro OpenAI vykonává americká firma Persona, která se na ověřování věku specializuje.
Firma rodičům začala na podzim nabízet také nástroje pro rodičovskou kontrolu. Dospělí mohou v nastavení propojit účet svého dítěte se svým a poté nezletilému nastavit různá omezení – například hodiny, kdy nesmí chatbot používat, mohou mu vypnout možnost generovat obrázky nebo zakázat OpenAI využívání dat z konverzací k trénování jejích modelů.
Firma zavádí opatření několik měsíců poté, co se stala terčem kritiky kvůli nedostatečné ochraně nezletilých uživatelů. V USA také čelí nejméně dvěma žalobám týkajícím se sebevražd mladíků, ke kterým podle jejich rodin chatbot přispěl.
Tlaky na zavedení ověřování věku uživatelů sílí i v rámci EU. Povinné ověřování je součástí návrhu nařízení tzv. chat control, které momentálně prochází tzv. trialogem (tedy jednáním Evropské komise, parlamentu a Rady EU o jeho finální podobě). Prosazovat ověřování věku chce také Irsko, které bude EU předsedat od poloviny letošního roku.
ČLÁNKY DO MAILU