OpenAI spouští vývojářskou platformu známou jako Foundry, která zákazníkům umožňuje spouštět velké pracovní zátěže umělé inteligence založené na jejích modelech.
„Foundry umožňuje vyvozování v měřítku s plnou kontrolou nad konfigurací modelu a profilem výkonu,“ uvádějí dokumenty zveřejněné na Twitteru.
Jeho cílem je poskytovat „statické přidělování“ výpočetní kapacity, které je „navrženo pro špičkové zákazníky provozující větší pracovní zátěže“.
Zákazníci budou moci monitorovat své instance pomocí stejných nástrojů a panelů, jaké OpenAI používá pro svou vlastní práci, včetně ChatGPT, Dall E a GPR3.
„OpenAI již brzy nabídne robustnější možnosti jemného doladění pro naše nejnovější modely,“ uvádí dokument. „Foundry bude platformou pro obsluhu těchto modelů.”
Služba nabízí smlouvy SLA pro 99,5% dostupnost a technickou podporu na zavolání.
Provoz odlehčené verze GPT-3.5 bude stát 26 000 dolarů měsíčně při tříměsíčním závazku nebo 264 000 dolarů při ročním závazku.
Model instance DV (8K max. obsah) bude stát 78 000 dolarů měsíčně po dobu tří měsíců nebo 792 000 dolarů za celý rok.
I když dokument nezveřejňuje, kde bude tento výpočet hostován, je to pravděpodobně v Microsoft Azure.
Microsoft do společnosti investoval více než 10 miliard dolarů a je jejím primárním poskytovatelem cloudu. Pro OpenAI také vybudovala specializované systémy na míru.
Tento krok přichází poté, co Amazon Web Services uvedla, že integruje centrum vývoje softwaru AI společnosti Hugging Face do svého cloudu.
Zdroj: datacenterdynamics.com
Obrázek: DCD/DALL·E 2
