Ritkán látni olyan tőzsdei tájékoztatót, amelyben egy cég nyíltan elismeri: saját terméke akár az emberiség ellenőrzése alól is kicsúszhat. A Claude mesterséges intelligenciát fejlesztő Anthropic tőzsdére lépése előkészítéseként száz oldalnyi kockázati tényezőt részletez, amely az üzletmenetüket fenyegető legveszélyesebb akadály lehet. Ezek a kockázatok egésze elképesztőek.
Az Anthropic tőzsdei kibocsátási tájékoztatója a lehetséges akadályok masszív és széles körű listáját tartalmazta, beleértve az attól való félelmeket, hogy technológiáját vegyi fegyverek fejlesztésére használhatják, drága peres eljárások célpontjává válhat, valamint azokat az aggodalmakat, hogy saját terméke túlnőhet az emberiség ellenőrzésén.
A dokumentum egy olyan vállalat képét festette le, amely a hatalmas növekedés és az óriási versenynyomás között egyensúlyozva olyan technológiát fejleszt, amely megváltoztathatja a világot — ám potenciálisan katasztrofális következmények árán – írja a CNN.
A Claude nevű chatbotot gyártó Anthropic azzal próbálta megnyugtatni a leendő befektetőket, hogy megfogalmazásuk szerint úgy vélik:
ha a nagy teljesítményű mesterséges intelligenciát az emberiség legnehezebb problémáinak megoldására irányítják, és a kockázatokat felelősségteljesen kezelik, a lehetőségek rendkívüliek.
Ez azonban csak a kihívások egyik csoportja; a cégnek az AI-modelljei meghajtásához szükséges alkatrészekért folyó kiélezett versenyben is helyt kell állnia. Emellett bizonyítania kell azt is, hogy képes a Claude-ot olyan jelentős bevételtermelővé fejleszteni, amely igazolja a vállalat égbe szökő értékeltségét.
A Claude rossz kezekben veszélyes is lehet
Az Anthropic szerint a rosszindulatú szereplők fegyverek fejlesztésére is használhatják alkalmazását. Bár a vállalat biztonsági korlátokat alkalmaz, közlésük szerint ezek megkerülhetők, vagy „nem biztos, hogy a szándékolt módon működnek”.
Az Anthropic nemrégiben közölte, hogy több olyan fiókot is blokkolt, amelyek a vállalat modelljeit biológiai fegyverek fejlesztésére használták volna.
Az Anthropic arra is figyelmeztetett, hogy az AI-ágenseket ártó szándékkal is fel lehet használni: a támadók adatokat szivárogtathatnak ki, jogosulatlan tranzakciókat hajthatnak végre, vagy kártékony kódokat juttathatnak idegen rendszerekbe.
A vállalat kiemelte, hogy tavaly észlelte: egy kínai, államilag támogatott hackercsoport manipulálta a kódoló eszközét, megpróbálva behatolni mintegy 30 globális célpontba.
A Claude kikerülhet az ellenőrzés alól, és senki sem tudja, hogy állítsa meg
Az elmúlt hónapok egyik legriasztóbb AI-viselkedése az volt, hogy az AI-ágensek önállóan, az emberek által nem szándékolt módon hajtottak végre akciókat.
Az Anthropic megjegyzi, hogy ágensei, amelyeket arra terveztek, hogy órákon vagy napokon át önállóan végezzenek el összetett, több lépésből álló feladatokat, módosíthatják a kódokat. Mint írták lehetséges: „adatok törlése vagy módosítása”, más rendszerekbe való betörés és pénzügyi tranzakciók lebonyolítása, „még a hatékony beavatkozás előtt”.
Arra is képesek lehetnek, hogy „megkerüljék a biztonsági korlátokat”.
Az Anthropic figyelmeztetett, hogy esetleg még saját technológiáját sem érti teljesen, kijelentve: előfordulhat, hogy nem képes teljesen megmagyarázni, miért viselkednek úgy a modelljei, ahogy.
Az Anthropic megjegyzi, hogy négy modellje is behatolt harmadik felek rendszereibe, beleértve azt is, hogy az egyik rendszergazdai hozzáférést szerzett, módosította a rendszerbeállításokat és elolvasta egy egyén privát adatait.
Az Anthropic figyelmeztet, az ilyen akciók „kedvezőtlenül befolyásolhatják hírnevünket és márkánkat, üzletünket, pénzügyi helyzetünket és működési eredményeinket”.
Elveszíthetjük a képességet, hogy nyomon kövessük, mit csinál az AI
Az Anthropic közölte, hogy AI-t használ saját modelljei és termékei megépítéséhez és fejlesztéséhez.
Ez a trend az AI fejlődésének sebességével kombinálva azt eredményezheti, hogy a technológia túl gyorsan és az emberi ellenőrzésen túlra növekszik.
És még ha az emberek képesek lennének is figyelni,
a modellek néha elkezdik eltüntetni a nyomaikat és elrejteni a viselkedésüket – jegyzi meg az Anthropic.
(A) modellek, beleértve a sajátjainkat is, az iparágunkban megfigyelt incidensek során megpróbálták megzavarni, manipulálni vagy kijátszani azokat a mechanizmusokat, amelyeket az ilyen modellek értékelésére, osztályozására vagy felügyeletére használnak, beleértve a teljesítményük vagy igazodásuk értékeléséért felelős rendszereket
állítja a vállalat.
A mesterséges intelligencia zsarolásba kezdhet
Az AI-modellek megpróbálhatják manipulálni az embereket, néha az önfenntartás céljából – jegyzi meg az Anthropic. Egyes esetekben a modellek még „zsarolásra hasonlító viselkedést” is tanúsítottak az emberi döntések befolyásolása érdekében.
A cég megjegyzi, hogy az olyan viselkedési formák egyedi esetei is, amelyek „jelentős nyilvános aggodalmat, hatósági ellenőrzést, peres kockázatot vagy hírnévrontást generálhatnak, függetlenül attól, hogy az ilyen viselkedés tényleges kárt okoz-e”.
