Názory k článku
Nevymahatelné nařízení EU: Neviditelná razítka v AI nebudou fungovat, stačí změnit pár slov

Nějak se mi na mysl dere otřepaná věta: Mysleli jsme to dobře, ale dopadlo to jako dycky.

Reálně to spíše bude zhoršovat výstup bych řekl, protože se model bude přiklánět nejspíše k méně pravděpodobné variantě, co mu lépe zapadá do otisku... aspoň tak to chápu.

Tohle razítkování má i opačný problém: pokud se trefíte do razítkovacího dialektu, klidně to označí wetwarem stvořený text jako AI - a nic s tím nenaděláte.
A stačí málo.

Razítka v textu, zajímavá myšlenka. Tato technika ovšem logicky nikdy nemůže fungovat na 100%. První co člověka napadne je že úspěšnost této technologie se bude zvyšovat s délkou textu, do krátkých textů bude problematické jakékoliv razítko vložit. Pak také záleží na charakteru textu, do odpovědi na zadání "zobraz mi přesné znění paragrafu 12 zákona xyz" těžko vložíte nějaké razítko ;-) A nevím jak by šlo razítko vložit do básně nebo textu písně. No a u dlouhých textů - když takový text nechám přeložit do jiného jazyka a pak v jiném překladači ho zase přeložím zpět tak počítám že veškerá razítka budou pryč.

s statistikou, procenty a detektory je sranda.

Zkouším do detektorů dávat svoje texty vzniklé před 2015 a není výjimka, že detektor odhaduje, že jsou na 80 % AI texty.

To není jen můj problém, i ostatní zkouší dávat starou literatoru do detektorů a výsledky jsou opět dost nejjednoznačné. Přitom bych čekal, že tvůrci detektorů se zaměří právě na minimalizace false positive.

No a s obrázky a videem to bude podobné. Stačí pár úprav a razítko je fuč.

Kvalitu výstupu to zhoršuje, ale skoro neznatelně. Na benchmarcích se to projevuje zhoršením do 1 % skóre.
https://openai.com/cs-CZ/index/eu-text-provenance/

Na tohle jsem už také narazil.
Nejspíše to má začátek v tom, že se AI učila na starších textech (někdy mnohem starších), pročež občas používá starší dialekt. Tohle se následně naučily detekovat ony detektory, čili -zcela pochopitelně - na starších textech dávají false positive výsledek.