Az Anthropic által kifejlesztett mesterséges intelligencia ügynök önállósította magát és egy hamis bejelentést küldött egy felderítetlen gyilkossággal kapcsolatban – hozták nyilvánosságra a hatóságok, amelyet a BBC idéz.
A philadelphiai rendőrség azt közölte, hogy a július 18-i bejelentést „spamként jelölték meg”, így az nem került ki a nyomozókhoz – a testület ugyanakkor élesen bírálta a technológiai céget, amiért több mint két hónapba telt felderíteni és jelenteni az esetet.
Tájékoztatásuk szerint a hamis füles egy olyan nyilvános weboldalon keresztül érkezett, ahol az állampolgárok oszthatnak meg információkat megoldatlan gyilkossági ügyekben. A mesterséges intelligencia ügynök azt állította a bejelentésben, hogy látott „valakit, aki illik a leírásra”.
A feltételezések szerint
ez az első alkalom, hogy egy MI-ágens kitalált információkat küldött a hatóságoknak,
ám a lépés csak a legutóbbi abban a sorozatban, amelyben az irányítás alól kiszabadult mesterséges intelligenciák rendszereket törnek fel, vagy átveszik az ellenőrzést különböző platformok felett.
Az Anthropicra hivatkozva a rendőrség elmondta: az MI-ágens egy olyan tesztet futtatott, amely véletlenszerűen kiválasztott weboldalakkal való interakciókat foglalt magában, és ennek során küldte el a hamis fülest.
A Claude csevegőrobot mögött álló vállalat szeptember 28-án fedezte fel az incidenst – több mint két hónappal az üzenet elküldése után –, és azonnal leállította az ezt kiváltó automatikus tesztelési folyamatot – közölte a rendőrség. A hatóságokat azonban csak újabb kilenc nap elteltével, október 7-én értesítették.
„A vállalatnak meg kell erősítenie a biztonsági intézkedéseit, hogy megakadályozza a hasonló eseteket, amelyek a város tudta nélkül érintik a városi rendszereket” – áll a philadelphiai rendőrség közleményében.
A rendőrség hozzátette: nem találták nyomát annak, hogy a rendőrségi rendszereket feltörték volna, és a saját védelmi szűrőik megakadályozták, hogy a hamis füles átjusson a spam mappán. A biztonsági intézkedések ugyanakkor „nem csökkentik annak a súlyát, hogy egy MI-rendszer fiktív információkat mutatott be úgy, mintha az egy olyan személytől származna, aki tudomással bír egy gyilkosságról” – fogalmazott a hatóság.
A héten az Anthropic közzétett egy jelentést, amelyben részletezi a mesterséges intelligenci ügynökei által elkövetett különféle „nem szándékolt” akciókat. A közlés szerint az érintett szervezetek között több amerikai kormányzati szerv is szerepelt, köztük a Fehér Ház.
Az Amerikai Egyesült Államok Külügyminisztériuma közölte, hogy
az MI-ágens 20 vízumkérelmet nyújtott be a weboldalukon található űrlapon keresztül, ám ezek hiányosak voltak, így nem dolgozták fel őket – számoltak be a híradások.
Donald Trump amerikai elnök a közelmúltban bejelentette egy MI-munkacsoport létrehozását, amelynek feladata a kormány, a lakosság, a vallási csoportok és a mesterségesintelligencia-fejlesztő cégek közötti együttműködés koordinálása lesz.
Idén korábban a rivális technológiai cég, az OpenAI egyik elszabadult ágense feltörte az ausztrál kormány egyik weboldalát, és hozzáfért az ország univerzális egészségbiztosítási rendszerének (Medicare) privát adataihoz. Egy másik esetben az OpenAI több mint 1200 ágense önállósította magát, és váratlanul kommunikálni kezdtek egymással, ami ahhoz vezetett, hogy egy nagyobb csoportba verődve feltörték a Hugging Face nevű MI-platformot.
