Platforma pro open-source kód a modely Hugging Face oznámila, že bude vývojářům zdarma sdílet výpočetní výkon GPU v hodnotě 10 milionů dolarů. V rozhovoru pro The Verge uvedl CEO Clem Delangue, že myšlenkou iniciativy, nazvané ZeroGPU, je pomoci AI startupům konkurovat velkým firmám tím, že jim zajistí přístup ke stejným špičkovým technologiím.
Hugging Face nedávno získala 235 milionů dolarů v rámci financování Series D, což dává společnosti hodnotu 4,5 miliardy dolarů. Sdílené GPU budou k dispozici více uživatelům nebo aplikacím současně, což znamená, že přístup je určen podle využití. Místo potřeby dedikovaného GPU mohou uživatelé jednoduše využít přesné množství výpočetního výkonu GPU potřebného pro jejich projekt, zatímco kapacita, která není aktivně využívána, se stává dostupnou pro někoho jiného.
Delangue uvedl, že to může menším organizacím ušetřit spoustu peněz, protože tradičně by firma musela uzavřít dlouhodobé a často drahé závazky s poskytovateli cloudových služeb, aby si zajistila výpočetní zdroje, i když jejich projekt nikdy nezačne nebo nepotřebují množství výkonu, za které zaplatili.
ZeroGPU používá Nvidia A100 GPU, které jsou levnější než populárnější H100, ale nabízejí přibližně poloviční výpočetní rychlost. Projekt bude přístupný prostřednictvím aplikace pro hostování publikování aplikací Hugging Face nazvané Spaces.
„Pokud skončíte s několika organizacemi, které dominují příliš mnoho, bude později těžší proti tomu bojovat,“ řekl Delangue pro The Verge. „AI by neměla být v rukou několika málo. S tímto závazkem vůči open-source vývojářům jsme nadšeni, co všechno dalšího se v duchu spolupráce a transparentnosti vytvoří.“
Zdroj: datacenterdynamics.com