III. Károly brit király arra sürgette az iparági vezetőket, hogy találják meg a módját az mesterséges intelligencia (MI) ellenőrzésének, „mielőtt túl késő lenne”. A király az általa összehívott csúcstalálkozó megnyitóján a fejlesztések ütemét „egyszerre érdekfeszítőnek és mélyen aggasztónak” nevezte.
„Úgy tűnik, sürgősen mérlegelnünk kell a tisztázatlan egzisztenciális veszélyeket, amelyeket az jelentene, ha az ilyen technológiák rossz kezekbe kerülnének, és potenciálisan katasztrófát okozó módon használnák őket” – fogalmazott.
Vajon nem lenne szükségünk elegendő ellenőrzési eszközre, mielőtt végleg elkésnénk?
Kommentárjaira azt követően került sor, hogy iparági vezetők baljós figyelmeztetéseket fogalmaztak meg az MI lehetséges veszélyeiről, és a fejlesztések ütemének lassítását követelték.
Károly elismerte az MI-ben rejlő óriási lehetőségeket – különösen az orvostudomány területén –, majd arra biztatta a résztvevőket, hogy vitassák meg, miként használható a technológia „a jó szolgálatában”.
III. Károly a skóciai Glasgow közelében található Dumfries House-ban rendezett csúcstalálkozón az MI-cégek, a kormány és a jótékonysági szervezetek vezető képviselőit látja vendégül – tudósított a CNN.
Az MI világ számos meghatározó alakja jelen van az eseményen, köztük Jensen Huang, az Nvidia vezérigazgatója, Demis Hassabis, a Google DeepMind alapítója, valamint Paolo Benanti, a Vatikán MI-tanácsadója.
A Buckingham-palota közölte, hogy Kína is képviselteti magát, ám részleteket nem árult el. Huang a csúcstalálkozón a BBC-nek úgy nyilatkozott, hogy az MI-vállalatoknak
alaposabbnak kell lenniük a tesztelés és a biztonság megteremtése terén.
Benanti jelenléte rávilágít arra a szerepre, amelyet a vallási vezetők játszanak ebben a kérdésben. Egy májusban kiadott enciklikájában XIV. Leó pápa kijelentette: az MI nem maradhat „kevesek” kezében. Károly megjegyzéseit hasonlóképpen átszőtte a keresztény szimbolika; mint mondta: „emberi mivoltunknak szentnek kell maradnia”.
Világunkban mindazok, akik mélyen tisztelik emberi mivoltunkat és annak elengedhetetlen erkölcsi összetevőjét, szorongva várják az Önök megnyugtató válaszát arra, hogy nem veszítjük el az uralmat a sorsunk – vagy a lelkünk – felett
mondhatott köszönetet a megjelenteknek.
A magánélet védelme
A uralkodó korábban ritkán nyilatkozott az MI-ről. Amikor mégis megtette, inkább a veszélyekre hívta fel a figyelmet. A technológia „mélyreható kihívásokat” jelent – mondta az Egyesült Királyság 2023-as MI BIZTONSÁGI Csúcstalálkozóján vetített videóüzenetében, felszólítva a résztvevőket, hogy „védjék meg az emberek magánéletét és megélhetését… óvják meg demokráciáinkat a kártól, és biztosítsák, hogy az új technológia előnyeiből mindenki részesüljön”.
Az Egyesült Királyság meglehetősen kényelmetlen helyzetben van az MI-biztonság szempontjából. Bár itt találhatók a világ legnevesebb egyetemei de az elismert MI Biztonsági Intézet (AI Security Institute), befolyása korlátozott, mivel a legfejlettebb MI-modelleket Kínában és az Egyesült Államokban fejlesztik. Ebben a hónapban a Financial Times arról számolt be, hogy az Anthropic – a világ egyik vezető MI-cége – most első alkalommal nem nyújtotta be legújabb modelljét az intézetnek tesztelésre.
Biztonsági aggályok
Bár ezt a csúcstalálkozót hónapokkal korábban betervezték, az időzítése rendkívül találó. Az MI biztonságának kérdése az elmúlt napokban uralta a címlapokat, amit először az Anthropic kutatója, Jacob Coxon váltott ki azzal, hogy felmondott, és kijelentette:
az MI-t építő emberek őszintén hiszik, hogy az az évtized végére mindannyiunkkal végezhet.
Ezt követően az Anthropic vezérigazgatója, Dario Amodei arra szólított fel, hogy lassítsák le „az MI-modellek képességei fejlesztésének ütemét”.
„(Coxon) az egész iparágra jellemző dinamikára hívta fel a figyelmet, amely túl gyorsan halad előre” – nyilatkozta később Amodei a CNN munkatársának, Anderson Coopernek, azzal érvelve, hogy az MI-fejlesztés „helyes útjainak” választása csökkentené az emberiségre leselkedő egzisztenciális fenyegetést.
Két közvetlen versenytársa, az OpenAI vezérigazgatója, Sam Altman és Elon Musk egyaránt úgy nyilatkozott, hogy egyetért Amodeijel.
„Amikor ‘ütemezésről’ vagy ‘tempóról’ beszélünk, nem azt értjük alatta, hogy ‘leállunk’” – tette hozzá Altman hétfőn az X-en közzétett bejegyzésében. „A fejlődés gyors volt, és az is marad. De lassabbnak kellene lennie, mint amilyen amúgy lehetne; az olyan beavatkozásoknak, mint a biztonsági elemzések és a monitorozás, jelentős ára van.”
Az iparág három úttörő alakja közötti ritka nyilvános egyetértés nem sokkal azután született, hogy az OpenAI, a Meta és az Anthropic egyaránt arról számolt be: elszabadult MI-ágensek törtek ki a laboratóriumi környezetükből a tesztelések során, és behatoltak egy másik szervezet rendszerébe.
