A démission, amely egy vitát gyújtott meg
Jacob Coxon távozása az Anthropic-ből 2024 végén friss vizsgálatot keltett meg a vezető AI-laboratóriumok biztonsági kutatásának tempójáról. Egy nyilatkozatban Coxon figyelmeztette, hogy a szuperintelligenciához vezető jelenlegi útvonalak hiányoznak megfelelő biztonsági korlátozásokkal, és azt állította, hogy egy AI-egyenlítési lassulás szükséges a katasztrófális kimenetel elkerülése végett. A démissionlevélben alapvető eltérésekről írt a vezetőséggel az alignment munkára és a képességek fejlesztéséhez kapcsolódó erőforrások elosztásáról.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Evan Hubinger, egy senior kutatószervezeti tudós az Anthropic-nál, utána megerősítette Coxon aggályait egy sor technikai megjegyzésben. Hubinger elismerte, hogy saját katasztrófa-színvonalának valószínűsége — p(doom) — továbbra is emelkedett, és ezt a skálázható felügyelet és értelmezhetőség megoldatlan kihívásai okozzák. A cserélődés erősítette a kutatási közösség hívását, hogy a frontier modellek kritikus számítási küszöbök túllépése előtt kötelező harmadik fél által végzett auditokat kellene bevezetni.
A viták gyorsan kiterjedtek az Anthropic-on túl, más laboratóriumok is készen álltak a fejlesztési tempójuk átgondolására.
AI-egyenlítési lassulás: OpenAI önkéntes tempójának csökkentése
Az OpenAI szándékosan lassította a legnagyobb modelljeinek képzését, amit a főtudós Jakub Pachocki megerősített, aki kérte a kollégáit, hogy alkalmazzanak önkéntes lassulást, amíg a biztonsági kutatás nem ér el a képességfejlesztéshez.
Ez a döntés belső értékelések után jött, amelyek szerint az alignment munka hátralevődt a képességnövekedéshez képest, ami a TIME-cikk szerint a számítási erőforrások és személyzet újraelosztásához vezetett interpretálhatóság és skálázható felügyelet terén.
Az iparújságírók megjegyezik, hogy az önkéntes fék előzetes példát lehetne adni a koordinált tempózásra a frontier laboratóriumok között, bár a kritikák szerint anélkül, hogy külső kényszer létezne, a lassulás egyenlőtlen lehet.
A törvényhozók, figyelve ezekhez az iparág szintű beavatkozásokhoz, elkezdtek olyan politikák kidolgozását, amelyek célja a ilyen biztonsági intézkedések formalizálása.
Törvényhozási válaszok: FRONTIER-törvény és a Szuperintelligencia Tilos Törvény
A FRONTIER-törvényt, amelyet Senator Maria Cantwell és képviselő Ro Khanna javasolt be, követelnének el a frontier AI-fejlesztőktől, hogy részletes biztonsági eseteket adjanak be és független auditokat végezzenek, mielőtt a modellek 10²⁵ lebegőpontos műveletet haladnának meg. Cantwell azt mondta, hogy a törvény „egyértelmű szabályozási alaptalajat teremt, így a biztonsági kutatás nem verhetőképes a képességnövekedéssel”, míg Khanna hangsúlyozta, hogy „a kötelező transparencia megakadályozza, hogy a laboratóriumok versenyezzenek a lejjebb”.
A Mesterséges Szuperintelligencia Tilos Törvényt, amelyet Senator Josh Hawley és representante Anna Eshoo támogatott, javasolnák, hogy törvényes tilalom legyen az olyan rendszerek üzembe helyezésére, amelyek egy meghatározott szuperintelligencia-szintet érnek el. Hawley figyelmeztetett, hogy „anélkül, hogy kemény megállapítást alkalmaznánk, a biztonsági határok túllépéséhez vezető ösztönzők átfogóak lennének”, és Eshoo hozzátette, hogy „a törvény tükrözi azt a növekvő egyetértést, hogy az önkéntes szünetek elegtelenek”. Az alignment közösség óvatos álláspontjának kritikái azt állítják, hogy ilyen visszahúzódás késleltethetné a szükséges biztonsági intézkedéseket, amit egy LessWrong kritikája is felveti, hogy a túlzott óvosság lassítja a robusztus alignment megoldások felé vezető haladást.
Gyakran Ismételt Kérdések
Hogyan befolyásolhat egy AI-egyenlítési lassulás a következő generációs nagy nyelvi modellek várható telepítési ütemezését?
Egy lassulás általában azt jelenti, hogy a képzésből a biztonsági munkába helyeznek át számítási erőforrásokat, ami hónapokat vagy akár évket is hozzáadhat egy modell kibocsátási idővonalához. A laboratóriumok előrangot adhatnak az értelmezhetőségnek és a skálázható felügyeletnek a kísérleteknek, és késleltethetnék a nagy méretű képzési futamokat, amíg ezek az eszközök nem fognak megfészekülni. A nettó hatás egy lassabb képességnövekedés ütemezése, ami csökkentheti a nem megfelelően igazított rendszerek telepítésével járó kockázatot.
Milyen küszöböket állít be a javasolt FRONTIER-törvény a frontier AI-modellek független biztonsági auditjának igénybevétele céljából?
A törvény azt határozza meg, hogy bármely modell, amely a 10²⁵ lebegőpontos műveletet haladja meg, részletes biztonsági esetet kell benyújtson és független auditot kell végezzen, mielőtt további skálázásra kerül sor. Emellett kéri, hogy dokumentálják az alignment kutatás előrelépését és a modell számítási költségvetéséhez kapcsolódó kockázati értékelést. Ezek a kritériumok célja, hogy egy szabályozási alaptalajat teremtsenek, amely akkor aktiválja a felügyeletet, amikor egy modell egy előre meghatározott frontier szintet ér el.
Milyen konkret lépéseket tehet egy szervezet, hogy megvalósítsa OpenAI önkéntes szünetét, miközben az alignment kutatás folyamatosan zajlik?
A vállalatok átállíthatnak egy részét a számítási erőforrásokról dedikált alignment projektekhez, például az értelmezhetőség eszközeihez és a skálázható felügyelet kísérleteihez. Belső ellenőrző pontokat is bevezethetnek, amelyek megállítják a képzést, ha a biztonsági mutatók meghúzódnak előre meghatározott mérföldkövek alatt. További alignment-kutatók alkalmazása és a folyamat független harmadik fél által végzett auditja további lépések lehetnek ahhoz, hogy a biztonság lépésről-lépésre tartsa koherenciáját a képességfejlesztéssel.
Last Updated on szeptember 10, 2026 7:33 du. by Laszlo Szabo / NowadAIs | Published on szeptember 10, 2026 by Laszlo Szabo / NowadAIs
