Více než dvě stovky společností a organizací z USA a částečně z Evropy koncem července vydaly otevřený dopis, který vyjádřil podporu rozvoje velkých jazykových modelů s takzvanými otevřenými váhami (open weights). Jde mimo jiné o reakci na snahy americké vlády uzavírat technologii umělé inteligenci dalším hráčům a o reakci na provozovatele AI, kteří si své technologie chrání. Byť je výzva hodně americko-centrická, je užitečná i pro nás.
USA v dopise naznačují, jak v rozvoji AI a byznysu kolem zůstat napřed. Podobně jako v minulosti je třeba vytvářet standardy a otevřený přístup a na tom stavět. Navíc se dá vyvážit rostoucí vliv otevřených čínských modelů dostupných zdarma, které díky tomuto přístupu získávají velkou popularitu.
Výzvu podepsal i česko-americký startup E2B. Ten se řadí mezi přední poskytovatele infrastruktury pro AI. Jak jsme na Lupě psali, E2B umožňuje provoz malých a rychlých sandboxů pro spouštění AI agentů.
“E2B jsme vybudovali jako open source ze stejného důvodu, proč věříme, že musí existovat modely s otevřenými váhami: firmy by měly mít možnost vlastnit kritickou infrastrukturu, která pohání jejich AI technologie,” shrnul Václav Mlejnský, výkonný ředitel E2B.
“Prozíravé podniky si vybírají takovou infrastrukturu, která jim dává suverenitu. AI systém, který je otevřený, nikoli jako černá skříňka, a poskytuje jim dostatečnou kontrolu nad jejich daty a bezpečností. Věříme, že vítězná AI infrastruktura bude z velké části otevřená. Aby USA vyhrály závod v oblasti AI, musí vést svět v oblasti open source modelů,” doplnil Mlejnský.
Výzvu firem a organizací jako AMD, Amazon, Google, Microsoft, Nvidia, The Linux Foundation, Nebius, Nokia, Mistral a mnoha dalších publikujeme níže v českém překladu.
Otevřené váhy a americké prvenství v oblasti AI
V 80. letech 20. století zpochybnili první průkopníci open source softwaru převládající přesvědčení, že software se bude rozvíjet pouze tehdy, pokud nad ním firmy budou držet přísnou kontrolu. Toto hnutí prosazovalo transparentní ekosystém, v němž by vývojáři po celém světě mohli software zkoumat, upravovat a zlepšovat.
Software vyvinutý komunitou open source dnes pohání většinu internetu a tvoří základ systémů používaných největšími světovými technologickými společnostmi, stejně jako americkou armádou a federálními úřady provádějícími vědecký výzkum, kybernetickou bezpečnost a další klíčové úkoly. Open source dokázal víc než jen snížit náklady na software. Vytvořil sdílený základ znalostí, na němž generace amerických inženýrů a podnikatelů vybudovaly svou institucionální suverenitu.
Spojené státy nyní čelí podobné volbě v oblasti umělé inteligence. Naše prvenství v oblasti AI nebude posuzováno podle jednoho pokročilého (frontier) modelu AI, ale podle toho, zda Spojené státy vybudují silný, otevřený ekosystém, který pronikne do každého odvětví. To je klíčové pro vytváření příležitostí k inovaci a prosperitě po celé zemi. Vyžaduje to rozšíření přístupu k AI, podporu hospodářské soutěže, robustní aplikační vrstvy a poskytnutí větší kontroly Američanům nad technologií, na kterou spoléhají. Modely s otevřenými váhami (open weight models) – modely AI, které si může kdokoli stáhnout, zkontrolovat, upravit a spustit na vlastní infrastruktuře – jsou důležitou součástí tohoto základu, protože činí pokročilou AI dostupnější, přizpůsobitelnější a šířeji využitelnou.
Otevřené váhy rozšiřují přístup k ekonomice AI. Startupy, zavedené podniky, univerzity i veřejné instituce mohou stavět na pokročilých modelech, aniž by musely trénovat vlastní model od nuly nebo platit vysoké ceny pokročilých modelů za každý úkol. Otevřené váhy umožňují každé organizaci přiřadit správný model ke správné práci při odpovídajících nákladech – kapacity nejvyšší úrovně tak zůstávají vyhrazeny pro skutečně komplexní problémy, zatímco všude jinde běží efektivní, specializované modely. Tato disciplína je tím, co zajistí ekonomickou udržitelnost AI, až se její používání rozšíří do miliard každodenních úkolů. Amerika zvítězí v éře AI tím, že ji začlení do pracovních postupů v továrnách, nemocnicích, na farmách, ve třídách i v běžných podnicích.
Otevřené váhy také posilují hospodářskou soutěž – a právě soutěž zajišťuje, že přínosy AI budou široce sdíleny, a nikoli soustředěny v rukou několika málo subjektů. Tím, že umožňují mnoha organizacím stavět, přizpůsobovat a nasazovat pokročilé modely, vytvářejí otevřené váhy konkurenční prostředí nejen mezi vývojáři modelů, ale napříč cloudovými čipy, aplikacemi a službami. Tato soutěž podněcuje inovace, sráží náklady a široce rozděluje výhody AI napříč naší ekonomikou.
Otevřené váhy dávají zákazníkům také větší kontrolu. Jak organizace investují do AI, chtějí mít jistotu, že nezůstanou závislé na jediném poskytovateli ani neztratí znalosti a schopnosti, které si postupně vybudují. Modely s otevřenými váhami tuto jistotu pomáhají zajistit tím, že organizacím umožňují spravovat vlastní data, vyhodnocovat a přizpůsobovat modely vlastním potřebám a nasazovat je tam, kde to vyžadují jejich obchodní požadavky. A jakmile organizace pomocí AI vytvářejí hodnoty, otevřené váhy jim umožňují tuto hodnotu vlastnit – prostřednictvím samouzdravujících a zdokonalujících se modelů, specializovaných schopností a nahromaděných znalostí, které podporují americkou suverenitu a prosperitu.
Je samozřejmé, že otevřené váhy nenesou jen výhody, ale i reálná a specifická rizika. Jakmile jsou váhy zveřejněny, vymykají se kontrole původního vývojáře a upravené verze je obtížné dohledat nebo vrátit zpět. Správnou reakcí na toto riziko však není zákaz otevřených vah. Ve světě, kde útočníci v kybernetickém prostoru používají pokročilou AI, potřebují obránci přístup k modelům se srovnatelnými schopnostmi, aby mohli odhalovat, simulovat a reagovat na nové hrozby. Otevřené modely rozšiřují obranné kapacity, zvyšují transparentnost a umožňují mnoha týmům odhalovat a odstraňovat zranitelnosti.
Otevřenost může být ve skutečnosti jednou z nejvýznamnějších cest k bezpečnosti a zabezpečení AI. Spoléhat se výhradně na uzavřené modely není samo o sobě bezpečné: mohou být napadeny, zneužity nebo selhat způsoby, které lidé zvenčí nedokážou odhalit. A soustředění pokročilých schopností AI do malého počtu uzavřených modelů tato rizika ještě umocňuje. Vytváří se tím malý počet kritických míst selhání (single points of failure), oslabuje se hospodářská soutěž a klíčové technologie zůstávají v rukou hrstky poskytovatelů.
Modely s otevřenými váhami naopak umožňují široké komunitě výzkumníků a vývojářů zkoumat jejich chování, identifikovat zranitelná místa, vyvíjet ochranná opatření a postupem času je vylepšovat. Stejně jako open source software dokázal, že transparentnost může být bezpečnější než utajení, může bezpečnost AI záviset na tom, že dáme více lidem možnost testovat a posilovat modely, na které společnost spoléhá. To umožňuje přísné srovnávání a vyhodnocování (benchmarking), testování odolnosti (red teaming) a ochranu vázanou na reálné a prokázané škody, namísto automatického předpokladu, že uzavřené systémy jsou výchozím stavem bezpečnější.
Silný ekosystém AI není samozřejmostí. Zákonodárci a tvůrci politik mají významnou příležitost jednat. To zahrnuje rozšiřování přístupu k výpočetnímu výkonu pro startupy a výzkumníky, investice do sdílených tréninkových prostředků (datové sady, nástroje, rámce pro vyhodnocování) a udržování rozmanitosti na špici vývoje tím, že se vyhnou předčasným omezením otevřených modelů, která by potlačila soutěž nebo odvedla inovace do zahraničí. Tato opatření se musí zaměřit také na to, jak mohou silné aplikační vrstvy rozšířit suverénní využití AI napříč ekonomikou.
Při utváření tohoto ekosystému by si tvůrci politik měli dát pozor, aby nezaměňovali legitimní techniky vývoje modelů s neoprávněným přivlastněním. Distilace (distillation), tedy praxe využívání výstupů jednoho modelu k trénování nebo vylepšování druhého, je široce používaná technika pro zdokonalování, vyhodnocování a validaci modelů. Odráží dlouhou tradici učení se z existujících technologií, stavění na nich a jejich vylepšování – tradici, která pomáhá hnaným inovacím již od vzniku hnutí za open source software.
Naproti tomu nezákonné snahy o získání hodnoty z uzavřených modelů vyvolávají legitimní obavy. Tyto obavy by však měly být řešeny prostřednictvím cílených právních a komerčních rámců, nikoli plošnými restrikcemi technik, které hrají v inovacích AI důležitou roli.
Věk umělé inteligence může být věkem prosperity. Při správných rozhodnutích může AI s otevřenými váhami rozšířit příležitosti, posílit hospodářskou soutěž, rozšířit americké technologické prvenství, zmírnit rizika a zajistit, že výhody této mimořádné technologie budou široce sdíleny napříč naší ekonomikou. Takovou budoucnost se vyplatí budovat a Spojené státy by měly jít v jejím budování příkladem.
- Chcete mít Lupu bez bannerů?
- Chcete dostávat speciální týdenní newsletter o zákulisí českého internetu?
- Chcete mít k dispozici strojové přepisy podcastů?
- Chcete získat slevu 1 000 Kč na jednu z našich konferencí?
Staňte se naším podporovatelem
ČLÁNKY DO MAILU