Jacob Coxon mesterséges intelligencia-fejlesztő felmondott az Anthropicnál, és felelőtlenséggel vádolta meg a céget, valamint annak legfőbb riválisát, az OpenAI-t. Szerinte mindkét cég az életünkkel játszik, a mesterséges intelligenciát fejlesztők szerinte hisznek abban, hogy a technológia mindannyiunkat elpusztíthat. Egymással versengve rohannak az önmagát fejlesztő szuperintelligencia felé.
Jacob Coxon, aki mindkét vállalatnál dolgozott kutatóként, az X-en közzétett bejegyzésben közölte, hogy
azért mondott le, mert aggódik amiatt, hogy az Anthropic és az OpenAI „az életünkkel kaszinózik”. Elmondása szerint az MI-t építő emberek
őszintén hiszik, hogy a technológia az évtized végére mindannyiunkat elpusztíthat.
Ne becsüljétek alá e technológia erejét
írta Coxon.
Ezek hamarosan olyan emberfeletti rendszerek lesznek, amelyek bármit képesek feltörni, egyetlen éjszaka alatt forradalmasíthatnak bármilyen területet, valamint valódi hatalomra és erőforrásokra tehetnek szert.
Coxon bejegyzése, amelyet már 153 millióan tekintettek meg, a Szilícium-völgyben régóta zajló vitát tükrözi arról, hogy az MI biztonságosan fejleszthető és szabályozható-e – íjra a CNBC.
Miközben az Anthropic és az OpenAI egyaránt a történelmi jelentőségű tőzsdére lépés (IPO) felé száguld, és egyre fejlettebb modelleket bocsát ki, sok kutató a folyamat összehangolt lassítását sürgeti.
Az OpenAI vezető kutatója, Jakub Pachocki közzétett egy blogbejegyzést, amelyben arra figyelmeztetett: egyetlen MI-cég sem „oldotta meg a rendszerek igazítását és felügyeletét olyan mértékben, hogy még sokáig felelősségteljesen folytatni lehessen a maximális sebességű skálázást”.
Az MI-iparban az igazítás azokra a fejlesztői erőfeszítésekre utal, amelyek biztosítják, hogy a rendszer az emberi értékeknek és szándékoknak megfelelően működjön.
Számítok rá és remélem, hogy a önkéntes lassítások megszokottá válnak, amíg közös biztonsági szinteket nem rögzítünk
írta Pachocki.
A jövőbeli MI-fejlesztések nemzetközi koordinációjának a világ kormányai számára kiemelt prioritássá kell válnia.
Coxon szerint
Egyik cég sem jár el felelősségteljesen. Egymással versengve rohannak az önfejlesztő szuperintelligencia felé.
Evan Hubinger, az Anthropic igazításért felelős vezetője X-bejegyzéslben visszhangozta Coxon szavait.
Jacobnak igaza van ebben – mi tényleg őszintén hisszük, hogy az MI minden embert megölhet! Én személy szerint úgy gondolom, hogy ennek esélye >10% a következő évtizedben
írta Hubinger.
Úgy gondolom, az Anthropic megteszi a tőle telhetőt, de még nincs tervünk a szuperintelligencia igazításának megoldására, és láthatóan nem is jó úton haladunk efelé.
A szuperintelligencia kifejlődésétől való félelem nem újkeletű.
2023-ban kiemelkedő MI-kutatók és cégvezetők – köztük Sam Altman, az OpenAI vezérigazgatója és Dario Amodei, az Anthropic vezérigazgatója – aláírtak egy nyilatkozatot, amely szerint: „Az MI jelentette kihalási kockázat csökkentése olyan globális prioritás kell legyen, mint amilyen a pandémia és a atomháború.”
Az Anthropicnál dolgozó Hubinger egyike volt annak a mintegy 1400 MI-kutatónak, akik júliusban aláírták a „Pacing the Frontier” (Az élvonal ütemezése) című nyílt levelet. A kezdeményezés arra sürgette az amerikai kormányt, hogy hozza létre a szükséges eszközöket az automatizált MI-fejlesztések tudatos, kontrollált mederben tartásához.
