Hirdetés
. Hirdetés

MultiRay: a Meta AI új platformot hozott létre a nagyméretű MI modellek sima futtatására

|

Ez felgyorsította a nagy magmodellek hozzáférhetőségét azáltal, hogy a számításokat különleges hardverekre tereli.

Hirdetés

A Meta AI kifejlesztette a MultiRay-t, egy új platformot a legmodernebb mesterséges intelligencia modellek nagy léptékű futtatására, hogy az MI-rendszerek produktívabbá váljanak. A MultiRay segítségével számtalan MI-modell oszthatja meg ugyanazt a bemenetet.

Minden egyes modellhez csak a feldolgozási idő és az erőforrások töredékét használják fel, így minimalizálják az ilyen MI-alapú műveletek összköltségét. Azáltal, hogy a vállalkozás számítási erőforrásait egyetlen modellben központosítják, az MI-gyorsítók könnyen telepíthetők és stratégiailag kereskedhetnek a számítási erőforrások és az adattárolás között.

A MultiRay univerzális modelljeit úgy hangolták, hogy a legkülönbözőbb alkalmazásokban jeleskedjenek. A különböző felhasználási célokra, például a posztok tárgymegjelölésére és a gyűlöletbeszéd felismerésére szolgáló gépi tanulási modelleket a Meta AI csapatai a MultiRay segítségével fejleszthetik és finomíthatják. Ezzel a módszerrel több időt és energiát takaríthatnak meg, mintha több csapat egymástól függetlenül hatalmas, végponttól végpontig terjedő modelleket építene.

Hirdetés

A MultiRay felgyorsította a Meta nagy magmodellejeinek hozzáférhetőségét azáltal, hogy a számításokat különleges hardverekre, például grafikus feldolgozóegységekre (GPU) terheli, és a gyakran használt adatok memóriában (gyorsítótárban) tartásával csökkenti az újraszámításra fordított időt és energiát. A MultiRay jelenleg több mint 125 felhasználási esetet kezel a Meta egész területén, több mint 20 millió lekérdezést támogat másodpercenként (QPS) összesen 800 milliárd lekérdezést naponta.

A MultiRay óriási, megalapozott MI-modelleket alkalmaz, amelyekben egy beágyazás reprezentálja a bemenetet, amely jobban befogadható a gépi tanulás számára. A feladatspecifikus modellek feldolgozásának egyszerűsítése érdekében a MultiRay biztosítja a bemeneti adatok (például szöveg és képek) beágyazását, amely könnyebben befogadható, mint a nyers bemenet. A MultiRay alapmodelljeit úgy tanították be, hogy jól teljesítsenek különböző feladatokban, beleértve a hasonlóságot és az osztályozást. A további információk közvetítésének szükségessége miatt beágyazások nagyok (több kilobájt méretűek) - közölte a Meta.

Hardverek, szoftverek, tesztek, érdekességek és színes hírek az IT világából ide kattintva!

Hirdetés
0 mp. múlva automatikusan bezár Tovább az oldalra »

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Engedélyezi, hogy a https://computerworld.hu értesítéseket küldjön Önnek a kiemelt hírekről? Az értesítések bármikor kikapcsolhatók a böngésző beállításaiban.