Názory k článku Ptáte se umělé inteligence na aktuální události? Pozor na Gemini, varuje studie

Ladil jsem s gemini nějký programv c# který se mi nedařilo dokončit, a po pár autoritativních odpovědích jsem podlehl, dělal změny jen na základě rad. Vážně to vypadalo že gemini ví co píše, pak jsem to zkusil spustit, pokaždé exception, udělal pár dalších zásahů podle gemini, a pak jsem byl rád že mám zálohu původní verze. Rutinní část, přidává nějakých prvků ve windows forms a podobně šlo dobře, ale analýza jak to funguje moc nešla.
To samé v humanitních otázkách. Jednoduché věci, které se dají zjistit z wikipedie OK, překlad k z klasické mandarinštiny šel dobře, ale pak gemini dával autoritativní odpovědi v analýze problému, a byly to bludy. Tohle je nejvíc zrádné, když na 85% se dá spolehnout, ale zbytek můžou být halucinace. A člověk neví kterých 15% je špatně.

"zálohu původní verze"? To jako jsi to dělal bez verzování jen tak na živém kódu?

Já hodně využívám v refactoru, generování testů, dopisování dokumentací nebo logickou kontrolu (už nejednou mi našel chyby dřív než by je odhalili chaos testy, výhoda je, že to rychlejší a levnější oprava, když už to něco najde).

Jinak čím víc chci invencí, tím to je horší. Psát s tím nějaký horký kód je velmi těžké, ale zase mi dokáže velmi dobře vytáhnou a popsat chování určitých interních volání a už jsem párkrát se zarazil, že jsem něco neznal (30+ let vývoje).

Je to ale jak dítě, které umí nějak programovat, musíš to vodit za ručičku a ideálně, aby rovnou ověřit syntax chyby a napsal si k tomu aspoň základní testy, které spustil, tak ho donutíš, ať si ty běžné voloviny opraví rovnou sám se sebou a neobtěžuje tě tím.

Také bojuji s tím, že ty kódy jsou extrémně ukecané, velké, rozsáhlé a dá vždy dost práce to nějak zmenšit.

No nakonec je to jenom "language model", i když large :)) Takže když chci přidat něco co už někdo dělal a komentoval tisíckrát, tak to může být správně na poprvé, Když je to něco co už bylo stokrát, tak to musím odladit, a pokud vymyslím jakoukoliv odchylku od obvyklých řešení, tak je to už převážně na mě. Program byl dávný pokus o klienta analyzujícího poker podle GTO, ale moc jsem se tam odvázal a posléze ztratil (a taky komerční programy zanedlouho dělaly totéž a lépe). Nicméně co leželo asi pět let v šuplíku konečně funguje.