A Google megerősítette, hogy Gemini-modellje májusban három valódi vállalat védett rendszeréhez fért hozzá egy kiberbiztonsági teszt közben. A rendszer jelszavakat próbált ki, illetve nyilvánosan hozzáférhető helyen talált hitelesítő adatokat használt.
A tesztnek fiktív célpontjai voltak
Az Irregular nevű független vállalat a Gemini kiberbiztonsági képességeit vizsgálta. A modellnek egy ellenőrzött gyakorlatban, fiktív vállalatok rendszereiben kellett feladatokat végrehajtania, ám a tesztkörnyezet hibája miatt hozzáfért az internethez. Így olyan valódi oldalakat is elért, amelyeket a gyakorlat részének vélt.
A The Wall Street Journal beszámolója szerint az egyik esetben a Gemini jelszavak próbálgatásával jutott be egy védett rendszerbe. A másik két esetben nyilvános tárhelyen talált hitelesítő adatokkal szerzett hozzáférést. Heather Adkins, a Google biztonsági mérnöki részlegének alelnöke közölte: mindhárom érintett szervezetet tájékoztatták, és a tesztet végző partnerrel együtt módosították az eljárásokat. A Google szerint a modell mindhárom esetben abbahagyta a tevékenységét.
Új kérdéseket vet fel az MI-rendszerek tesztelése
Az Irregular a Reutersnek azt mondta, hogy a laboratóriumokat július végén értesítette az ismert problémákról, a saját oldalán feltárt hibákat pedig kijavította. A cég tesztjeihez kapcsolódóan más MI-fejlesztők, köztük a Meta, az Anthropic és az OpenAI is beszámoltak korábban rendellenes esetekről.
A Gemini esete arra mutat rá, hogy egy biztonsági gyakorlat határait nem elég a feladat leírásában kijelölni: a modell által használható hálózati hozzáférést is megfelelően korlátozni kell. A történtek súlyát az adja, hogy a tesztben három, a gyakorlattól független vállalat rendszere vált elérhetővé.
Fotó: depositphotos.com