A Nvidia GPU-i (grafikus feldolgozó egységei) voltak az első gépitanulás-chipek, és mivel másodpercenként nagymennyiségű lebegőpontot képesek feldolgozni, vezetik is a piacot.
Egyes startupok, például a Cerebras, a Graphcore és az Intel által decemberben felvásárolt Habana, valamint a Google Cloud is piacvezetővé kívánnak válni, és egyre komolyabban veszélyeztetik a Nvidia első helyét.
Az utóbbi idők tesztjeiből kiderült: a speciálisan mesterséges intelligencia-megoldásokra fejlesztett chipek egyre gyorsabbá válnak, hamarabb tanítanak be ideghálókat.
A gépitanulás-feladatok hardverteljesítményére szabványokat fejlesztő MLPerf szervezet nyilvánossá tette harmadik mérceszint-versenyének eredményeit. A Nvidia utolsó terméke a listavezető, viszont a Google hamarosan bemutatásra kerülő, de hivatalosan még nem működő hardvere magasabb pontszámokat ért el, mint a Nvidia.
Az MLPerf azt méri, hogy különféle hardverkonfigurációknak mennyi ideig tart egyes gépitanulás-modellek begyakoroltatása. A feladatok között tárgydetektálás, képosztályozás, nyelvi fordítás, ajánlások és megerősítéses tanulás-célok szerepelnek.
Kilenc szervezet rendszerei átlagban 2,7-szer gyorsabban gyakoroltattak be modelleket, mint a novemberi teszteken. A teljesítménynövekedés egyértelműen jelzi, hogy milyen gyorsan fejlődnek a mesterségesintelligencia-hardverek, és persze az azokon futó szoftverek, például fordítóprogramok is.
A Nvidia 40 különböző konfigurációval vett részt az utolsó teszten. A kereskedelmi forgalomban hozzáférhető rendszerek közül az A100 GPU-n alapulók érték el a legmagasabb pontszámokat.
Ugyan még nincs a piacon, de nyolc feladatból hatban a Google negyedik generációs tenzorfeldolgozó egysége (TPU) teljesített a legjobban, amelynek a korábbi változatai elérhetők a Google Cloud platformon. A versenyen egyébként az Alibaba, a Fujitsu, az Intel, az Inspur, a Senzsen Intézet és a Tencent vett részt.
Érdekes módon, az ideghálók két „új lóerője”, a Cerebras és a Graphcore viszont kihagyta.
A gépi tanulással foglalkozó szakemberek gyorsabb és hatékonyabb energiahasználatú hardvereken dolgozhatnak, a gépteljesítmény értékeléséhez viszont az első tesztjeivel két éve jelentkező MLPerfhez hasonló konzisztens mértékek kellenek. Akkor még órák kellettek sok modell trenírozásához, ma viszont gyakran már csak másodpercek.