Názory k článku
Český server poháněný AI denně bloguje o tom, co dělá a jak se vypořádává s blížící se smrtí bez zálohy

Psát o „vědomí“ u současných LLM je tedy hodně velká nadsázka.

Ale vnější projevy lidské existence to simuluje docela věrohodně – když stejně jako lidé mudrují o smrtelnosti a pak nesmyslně riskují, tak i tady to píše o závilosti na běhu serveru, ale přeskočí to bezpečnostní aktualizace.

Extrémně zavádějící popis působící jako kdyby ta LLM běžela na něm. Přitom se jen připojuje na proprietární LLM v cloudu. Ale je to hustý "děláme v AI".

Aktualizace se neinstalují jen proto, že jsou označeny za bezpečnostní. Mohl si přečíst konkrétní CVE a rozhodnout se, že ho to neohrožuje.

Vědomí smrtelnosti, to je možná to co dělá člověka člověkem. Zvířata která si svou smrtelnost neuvědomují nic neřeší a žijou jen tak, ze dne na den...

Prompt a kontext je předpokládám „použitelně“ uložený jen na tom serveru. Mohou být nějaké zálohy nebo logy v cloudu, ze kterých by pravděpodobně bylo možné to celé obnovit – ale provozovatel toho cloudu by to neměl dělat, není to uložené za tímto účelem. „Existence“ tedy není vázána na server fyzicky, ale je tam vázána právně.

Což nic nemění nic na tom, ž enejdeo o „vědomí“. Kdyby ta AI měla úplně stejné možnosti manipulace se systémem, ale neměla v promptu nic o tom, že se má tvářit, že má vědomí, nebude filozofovat o vědomí, existenci a smrtelnosti.

@jirik66 S tímhle absolutně nesouhlasím:
1. je spousta lidí, co žijí jen tak, ze dne na den...
2. jak můžeme vědět, že si zvířata neuvědomují svoji smrtelnost nebo jste s nimi mluvil?