Cloudová platforma Amazon Web Services (AWS) dává vývojářům k dispozici čtyři inovace, jak tvořit aplikace s využitím generativní umělé inteligence (AI). Firma to oznámila v tiskové zprávě. Mezi představené novinky patří služba Amazon Bedrock pro budování a škálování generativních AI aplikací.
Do této kategorie patří aplikace, které dokáží generovat text, obrázky, zvuk nebo syntetická data v reakci na uživatelskou výzvu. Vývojáři mohou použít službu Bedrock k vylepšení svého softwaru pomocí systému umělé inteligence schopné generovat text. Bedrock poskytuje přístup k nejmodernějším jazykovým modelům od Anthropic a AI21, dvou startupů vyvíjejících jazykové modely. AWS také nabízí přístup ke službě Stable Diffusion, což je model umělé inteligence pro generování snímků. Stojí za ním startup Stability AI. AWS má k dispozici dva generativní jazykové modely. Titan Text generuje texty na základě výzvy, zatímco Text Embeddings generuje matematickou reprezentaci textu, kterou lze použít pro úkoly jako je vyhledávání nebo překlad.
Služba Bedrock uživatelům umožní používat své modely bez rizika úniku jejich informací. Nehrozí tak, že se uživatelská data dostanou do širšího fondu dat sloužících k tréninku tohoto druhu aplikací. Jde o elegantní řešení jednoho z klíčových problémů, které firmy při vytváření vlastních produktů na bázi generativního AI mají. Zejména společnosti pracující s citlivými klientskými informacemi, jako jsou banky nebo poskytovatelé zdravotní péče, mají obavy o bezpečnost svých dat. Při interakci uživatelů s modelem je někdy možné, že citlivé informace jako finanční zprávy nebo obchodní plány proniknou do školicích dat modelu a budou sdíleny s dalšími zákazníky. Služba Bedrock toto riziko odstranila.
Další novinkou jsou čipy AWS Inferentia 2. Ty slibují snížení nákladů na provoz generativního AI. Rozsáhlé modely pro strojové učení totiž vyžadují pro svůj provoz masivní výpočetní výkon. Čipy AWS Inferentia mají nejvyšší energetickou účinnost a nejnižší provozní náklady pro chod náročných procesů souvisejících s generativním AI, jako je spouštění modelů a odpovídání na dotazy ve výrobě.
Modely AI je také třeba trénovat, aby nabízely správnou odpověď, obrázek, náhled nebo jiné zaměření, které daný model řeší. Nové instance založené na vlastních čipech AWS Trainium nabízí masivní síťové možnosti, které jsou klíčové pro rychlé a nákladově efektivní trénování těchto modelů. S Trainium tak vývojáři mohou provádět trénink modelů rychleji a s nižšími náklady, což v konečném důsledku povede k většímu počtu nasazených služeb.
Poslední novinkou je služba Amazon CodeWhisperer. Ta pomáhá s kódováním v reálném čase. Každý softwarový vývojář tak bude moci využít toto generativní AI a díky tomu svým uživatelům může poskytovat návrhy kódu v reálném čase na základě komentářů uživatele a jeho předchozího kódu. Nezávislí vývojáři mají přístup ke službě Amazon CodeWhisperer zdarma, bez jakýchkoliv omezení využití (placené úrovně jsou k dispozici také pro profesionální použití s funkcemi, jako je přidané zabezpečení na podnikové úrovni a možnosti správy).
