Ismerd meg a Beam modellt: Mi teszi azt kiemelkedővé?

Beam modell bemutatása - kiemelt kép - forrás https://reflection.ai/blog/introducing-beam

A Reflection Beam bemutatása: egy új nyílt súlyú versenyző

A Reflection bejelentette Beam modellt, egy 501 milliárd paraméterű sűrűsített keverék-kiválasztású (MoE) modellt, amely 23 milliárd aktív paraméterrel rendelkezik. Az architektúra csak a teljes súlyok egy részét aktiválja minden előrehaladás során, így az inferencia hatékonyságát célozza anélkül, hogy veszítené a sűrű frontier modellekkel társított kapacitást.

A cég a Beam modellt közvetlen versenyzőként helyezi el a vezető kínai nyílt súlyú kiadásokhoz, kiemelve a tanítás és üzembe helyezés alacsonyabb számítási igényét. A Reflection a kódolást, a bonyolult érzelmi folyamatokat és az ügynökök munkafolyamatait említi legfontosabb használati esetekként, területeken, ahol a hagyományos sűrűsített MoE tervek nehezen tudtak egyezni a sűrű modellek megbízhatóságával.

Ezek a képességek előkészítik a modell technikai alapjainak mélyebb vizsgálatát.

Műszaki architektúra és tréningi innovációk

Beam Benchmarks, source: https://reflection.ai/blog/introducing-beam
Beam Benchmarks, source: https://reflection.ai/blog/introducing-beam

A Beam 23,8 billió tokennel végzett előzetes tréninget, majd egy 10 500 csomópontos NVIDIA GB300 GPU klaszteren futó erőteljesképzési fázisba lépett, amely során több mint 100 millió rolloutot generált. A mérnökök aszinkron politika-gradiens módszert vezettek be, hogy a tömegzetes flottát szinkronizálási állás nélkül használják, amelyek általában ez a méretű futtatásoknál szűk keresztmetszeteket okoznak.

A vezérelhető érzelmi erőfedezési paraméter lehetővé teszi a fejlesztők számára, hogy az inferenciaidőben a modell számítási költségét fel- vagy leállítsanak, késleltetést cserélve a gondolatok mélységére egy-egy kérés alapján. A megosztott nevet ellenére a modell nem kapcsolódik az Apache Beam unified programozási modelljéhez, amelyet kötegelt és folyamatos adatfeldolgozáshoz használnak.

Ezek az architekturális döntések helyett most már összefoglalhatjuk a modell kulcs-specifikációit.

Fő tények: Beam modell egy pillantásra

  • Architektúra: Sűrűsített keverék-kiválasztású (MoE) 501 milliárd összeparaméterrel és 23 milliárd aktív paraméterrel minden előrehaladás során
  • Tréningi számítás: 23,8 billió tokennel előzetes tréning; erőteljesképzési fázis egy 10 500 csomópontos NVIDIA GB300 GPU klaszteren futott, 100M+ rolloutot generálva
  • Benchmarksorolás: GLM-5.2, Qwen 3.8-Max és Kimi K3 párhuzamosságát célozza kódolás, bonyolult érzelmi folyamatok és ügynökök munkafolyamatai terén
  • Hatékonysági állítások: Aszinkron politika-gradiens módszer csökkenti a szinkronizálási terhelést; a vezérelhető érzelmi erőfedezési paraméter dinamikusan állítja be az inferencia számítását
  • Licencelés: Apache 2.0 licenc alatt kereskedelmi és kutatási célokra kiadva
  • Ökörnyezeti kontextus: Más nyílt súlyú előrelépésekkel érkezik együtt, például a Qwen Image Edit segítségével bővítve a multimodális és nyelvi feladatokhoz használt nyílt modell-eszköztárat

Az alapvető attribútumok ismertetése után a következő lépés a Reflection útvonaltervét és köszöntő kiadásait vizsgálni.

Mi a következő a Reflection nyílt intelligencia útvonaltervében

A Reflection tervei szerint a Beam teljes súlyait a meglévő Apache 2.0 licenc alatt a következő negyedév alatt adja ki, egy részletes modellkártyával, amely dokumentálja a tanítási adatok összetételét, a számítási költségvetést és a ismert korlátozásokat. A cég aláírta a terjesztési szerződéseket a Hugging Face, AWS Marketplace és Azure AI Model Cataloggal, hogy biztosítsa az egy kattintásos telepítést a fő felhőplatformokon, miközben a vLLM, SGLang és TensorRT-LLM natív integrációs javításai már felülvizsgálaton vannak a forrásban.

Az AI Security Institute által végzett harmadik fél biztonsági értékelése a súlyok mellett fog megjelenni, beleértve a vissautasítási arányokat, a jailbreak ellenállást, valamint a kémiai, biológiai, radiológiai és nukleáris kockázati vektorokhoz kapcsolódó képességhatárokat. A Reflection állítja, hogy a Beam egy többéves kötelezettség első köve a nyílt határ előrehaladásában, amelynek egy 1 billió paraméteres örököse már korai előzetes tréningben van, javított hosszú távú ügynökség és multimodal gondolkodás céljával.

Gyakran Ismételt Kérdések

Hogyan hasonlít Beam inferencia hatékonysága a GLM-5.2‑hez valós világú telepítésekben?

Beam egy sűrűsített keverék-kiválasztású (MoE) architektúrát használ, amely csak 23 B paramétert aktivál az 501 B összeparaméterből minden előrehaladás során, így csökkenti a számítást és a késleltetést a sűrűsített GLM-5.2‑hez képest. Az aszinkron politika-gradiens tréning és a vezérelhető érzelmi erőfedezési paraméter tovább csökkenti az inferencia költségét, lehetővé téve, hogy Beam egyezzen vagy túllépje a GLM-5.2 teljesítményét kódolás és érzelmi folyamatok terén kevesebb hardver használatával.

Milyen hardver- és szoftverstack szükséges a Beam hatékony futtatásához inferencia időben?

A Beam GPU klaszterekre van optimalizálva; a referenciabeállítás NVIDIA GB300 GPU-kat használ, de a modell bármely legújabb A100-osztályú vagy H100 GPU-n futtatható, ha elegendő VRAM rendelkezésre áll az aktív 23 B paraméter tárolásához. A vLLM, SGLang és TensorRT‑LLM integrációs javításai jelenleg felülvizsgálaton vannak, lehetővé téve a késleltetésmentes szervízt a népszerű inferencia keretrendszereken.

Hogyan befolyásolja a vezérelhető érzelmi erőfedezési paraméter Beam kimeneti minőségét és késleltetését?

A vezérelhető érzelmi erőfedezési paraméter lehetővé teszi a fejlesztők számára, hogy a kérelemhez rendelt számítás mennyiségét skálázzák, késleltetést cserélve mélyebb, pontosabb érzelmi folyamatért. A magasabb beállítások több expertet és hosszabb tokengenerálást aktiválnak, javítva a komplex problémamegoldást, míg a alacsonyabb beállítások gyorsabb válaszokat eredményeznek, csak egy moderált csökkenéssel a válasz mélységében.

Laszlo Szabo / NowadAIs

Laszlo Szabo is an AI technology analyst with 6+ years covering artificial intelligence developments. Specializing in large language models, ML benchmarking, and Artificial Intelligence industry analysis

Categories

Follow us on Facebook!

How Meta Muse AI Assistant Builds Relationship Profiles: What You Need to Know
Previous Story

How Meta Muse AI Assistant Builds Relationship Profiles: What You Need to Know

Latest from Blog

Go toTop