A Meta AI kifejlesztette a MultiRay-t, egy új platformot a legmodernebb mesterséges intelligencia modellek nagy léptékű futtatására, hogy az MI-rendszerek produktívabbá váljanak. A MultiRay segítségével számtalan MI-modell oszthatja meg ugyanazt a bemenetet.
Minden egyes modellhez csak a feldolgozási idő és az erőforrások töredékét használják fel, így minimalizálják az ilyen MI-alapú műveletek összköltségét. Azáltal, hogy a vállalkozás számítási erőforrásait egyetlen modellben központosítják, az MI-gyorsítók könnyen telepíthetők és stratégiailag kereskedhetnek a számítási erőforrások és az adattárolás között.
A MultiRay univerzális modelljeit úgy hangolták, hogy a legkülönbözőbb alkalmazásokban jeleskedjenek. A különböző felhasználási célokra, például a posztok tárgymegjelölésére és a gyűlöletbeszéd felismerésére szolgáló gépi tanulási modelleket a Meta AI csapatai a MultiRay segítségével fejleszthetik és finomíthatják. Ezzel a módszerrel több időt és energiát takaríthatnak meg, mintha több csapat egymástól függetlenül hatalmas, végponttól végpontig terjedő modelleket építene.
A MultiRay felgyorsította a Meta nagy magmodellejeinek hozzáférhetőségét azáltal, hogy a számításokat különleges hardverekre, például grafikus feldolgozóegységekre (GPU) terheli, és a gyakran használt adatok memóriában (gyorsítótárban) tartásával csökkenti az újraszámításra fordított időt és energiát. A MultiRay jelenleg több mint 125 felhasználási esetet kezel a Meta egész területén, több mint 20 millió lekérdezést támogat másodpercenként (QPS) összesen 800 milliárd lekérdezést naponta.
A MultiRay óriási, megalapozott MI-modelleket alkalmaz, amelyekben egy beágyazás reprezentálja a bemenetet, amely jobban befogadható a gépi tanulás számára. A feladatspecifikus modellek feldolgozásának egyszerűsítése érdekében a MultiRay biztosítja a bemeneti adatok (például szöveg és képek) beágyazását, amely könnyebben befogadható, mint a nyers bemenet. A MultiRay alapmodelljeit úgy tanították be, hogy jól teljesítsenek különböző feladatokban, beleértve a hasonlóságot és az osztályozást. A további információk közvetítésének szükségessége miatt beágyazások nagyok (több kilobájt méretűek) - közölte a Meta.
