AI modely se posouvají od jednoduchých odpovědí k vícekrokovému uvažování a používání nástrojů, což zvyšuje počet generovaných tokenů na jeden dotaz. Právě inference, tedy samotný provoz modelů, se podle dostupných informací stává jedním z hlavních motorů nákladů na výpočetní výkon a současně i klíčovým bodem, kde se v praxi vytváří hodnota. Do hry vstupuje nezávislý benchmark InferenceMAX v1 od SemiAnalysis, který má měřit celkové náklady napříč reálnými scénáři a porovnávat více platforem na běžných modelech a pracovních zátěžích. Výsledky v podkladu staví platformu NVIDIA Blackwell do pozice lídra kombinací výkonu…
ČÍST DÁLE...Proč se z provozu AI stává byznys
