A világ két vezető mesterséges intelligencia vállalatának vezetői általában ádáz riválisok. Az ENSZ Biztonsági Tanácsa előtt azonban egyetértettek: a mesterséges intelligencia-iparnak nemzetközi szabványokra és együttműködésre van szüksége, különben a globális biztonságot kockáztatja – tudósít a CNN.
A több mint 300 milliárd dollár értékű OpenAI vezérigazgatója, Sam Altman, valamint az Anthropicot vezető Dario Amodei külön-külön szólaltak fel a tanács előtt, de mindketten arra kérték a világvezetőket, hogy fogjanak össze a gyors MI-fejlesztések és -képességek jelentette fenyegetések kezelésében.
Ellenkező esetben – mondta Amodei –
a mesterséges intelligencia az egész emberiségre nézve kockázatot jelenthet.
Felszólalásukra hetekig tartó globális felhívásokat követően került sor – többek között saját vállalataikon belülről is –, amelyek a mesterséges intelligencia fejlesztési ütemének lassítását követelték, miután több olyan eset is történt, amikor MI-ágensek elszabadultak. Néhány esetben az MI-ágensek más vállalatok rendszereibe is behatoltak.
MTI/EPA/Sarah Yenesel
Személyes felszólalásában Altman arra sürgette a testületet, hogy hozzon létre nemzetközi szabványokat „a képességek mérésére, a kockázatok felmérésére, a védelmi intézkedések elégségességének meghatározására és a érdemi emberi felügyelet megőrzésére” e gyorsan fejlődő technológia felett.
Elmondta, hogy az országoknak pontos és gyors jelentéstételre van szükségük ahhoz, hogy „a világ tanulhasson a hibákból, mielőtt azok katasztrófává válnának.” Emellett biztonságos csatornákat javasolt a kormányok közötti információmegosztásra a felbukkanó fenyegetésekről.
Azonban figyelemre méltó, hogy Altman szerint a fontos döntéseket „a népüknek felelősséggel tartozó” kormányok demokratikus intézményeinek kellene meghozniuk, ami kizárhatja a saját mesterséges intelligenciájukat rohamtempóban fejlesztő országokat, például Kínát.
Amodei videón keresztül szólalt fel, és három ötletet javasolt a nemzetközi együttműködésre:
szűk körű globális megállapodásokat (például a mesterséges intelligencia biológiai fegyverek előállítására történő felhasználásának tilalmát), értékelési és ellenőrzési rendszereket, amelyekkel az országok ellenőrizhetik egymás kötelezettségvállalásait, valamint közös globális szabványokat az MI tesztelésére, kiegészítve egy értesítési rendszerrel az MI-biztonsági incidensek esetére.
Hitem szerint ez a legfontosabb globális biztonsági kérdés, amellyel a világnak ma szembe kell néznie
mondta Amodei.
A teremben lévők minden ellentéte ellenére félre kell tennünk ezeket a különbségeket, hogy szembesüljünk ezzel a globális lehetőséggel és globális fenyegetéssel, amely egyszerre tornyosul elénk.
Altman kijelentette, hogy egy esetleges MI okozta katasztrófa semmilyen esélye nem elfogadható.
Ugyanakkor hozzátette, nem szeretne sem a „végítélet-várás csapdájába”, sem a „vak optimizmus csapdájába” esni. Ezzel az MI-iparban az elmúlt hetekben felbukkant egymásnak feszülő táborokra utalt:
az egyik oldal arra figyelmeztet, hogy az MI eltörölheti az emberiséget, míg a másik túlzónak nevezi az ilyen figyelmeztetéseket, és azt állítja, hogy az MI hatalmas fejlődést hoz majd az emberiség számára.
Bármelyik végletbe való belecsúszás nem segít abban, hogy sikeresen megoldjuk a előttünk álló kihívásokat
mondta Altman –,
különösen egy olyan időszakban, amikor a világ és lakói olyan óriási kihívásokkal néznek szembe, amelyek megoldásában ez a technológia segíthet.
Ettől az ENSZ-találkozótól nem várható írásos megállapodás. Az OpenAI egyik tisztviselője Altman beszéde előtt úgy nyilatkozott a újságíróknak, hogy ez egy lehetőség volt arra, hogy bedobják „egy gondolat magvát, amely elindíthatja ezt a párbeszédet.”
