Stížnosti uživatelů na sociálních sítích přiměly Google k dočasnému omezení jedné z funkcí jeho AI chatbotu Gemini. Firma oznámila, že pozastavuje možnost generovat obrázky lidí, dokud nevyřeší „nepřesnosti v některých vygenerovaných obrázcích týkajících se historie“.
Reagovala tak na protesty některých uživatelů na sociálních sítích, kteří si stěžovali, že se Gemini na fotkách týkajících se konkrétních historických období snaží zobrazovat lidi různé barvy kůže, i když to odporuje tehdejší realitě.
Podle deníku Wall Street Journal generátor také odmítal zadání, která výslovně požadovala vygenerování lidí bílé barvy kůže a zdůvodňoval to obavami ze šíření rasových stereotypů.
Těmi generátory obrázků skutečně často trpí. Popsal to loni mimo jiné deník Washington Post, podle kterého obrázkové AI generátory například na zadání „produktivní osoba“ zobrazovaly téměř výlučně lidi s bílou barvou kůže a na zadání „uživatel sociálních dávek“ zase naopak téměř výhradně lidi s jinou barvou kůže.
Google původně na aktuální stížnosti reagoval prohlášením, že je obecně správně, že Gemini generuje obrázky širokého spektra lidí, protože nástroj používají lidé po celém světě. „V tomto případě ale chybuje,“ dodala firma. O den později oznámila, že pracuje na řešení problému a než bude vyřešen, generování obrázků lidí pozastaví.
Generování obrázků v Gemini nabízí Google teprve několik týdnů. Funguje jen v anglické jazykové verzi a není zatím vůbec dostupné v Evropské unii.
