Egy értékesítő beilleszti az ügyfél e-mailjét egy chatbotba, hogy udvariasabb választ írjon rá. Egy fejlesztő bemásolja a hibaüzenetet a konfigurációs fájllal együtt. A pénzügyön valaki feltölt egy táblázatot, hogy az AI foglalja össze. Egyik sem rosszindulat: a munkatársak gyorsabban akarnak dolgozni, és az eszköz egy böngészőfülnyire van.
Ha ez a használat a szervezet tudta és jóváhagyása nélkül történik, shadow AI-ról (árnyék-AI) beszélünk. Ez a cikk arról szól, mi a tényleges kockázat, hogyan derül ki, mi folyik a szervezetben, és milyen szabályokkal és technikai kontrollokkal lehet kézben tartani.
Mi számít shadow AI-nak
Minden olyan AI-eszköz vagy AI-funkció, amelyet az IT és a biztonsági felelős nem ismer, és amelyre nincs a szervezet nevében kötött szerződés. A legismertebb formája a nyilvános chatbot személyes fiókkal, de ennél több is ide tartozik:
- saját bankkártyával, csapatszinten előfizetett AI-szolgáltatások,
- böngészőbővítmények, amelyek az éppen megnyitott oldal tartalmát küldik el feldolgozásra,
- értekezletekhez csatlakozó jegyzetelő és átiratkészítő eszközök,
- már használt SaaS-alkalmazásokban utólag bekapcsolt AI-funkciók,
- olyan AI-alkalmazások, amelyeknek a munkatárs a vállalati fiókjával hozzáférést adott a levelezéséhez vagy a fájljaihoz.
Az utolsó kettő a legnehezebben észrevehető, mert nem jár új weboldal megnyitásával: az adat a háttérben, egy már engedélyezett rendszeren keresztül áramlik ki.
Milyen adat kerülhet ki
Amit a munkatárs beír, feltölt vagy az eszköz által olvashatóvá tesz, az a szolgáltatóhoz kerül. Hogy ott mi történik vele (tárolják-e, meddig, felhasználják-e a modell továbbtanításához, ki fér hozzá), azt a szolgáltató feltételei döntik el, amelyeket személyes fióknál senki nem vizsgált meg a szervezet nevében.
A jellemző adattípusok:
- ügyfél- és munkavállalói személyes adatok, például levelek, panaszok, önéletrajzok,
- szerződések, ajánlatok, tárgyalási anyagok és egyéb üzleti titkok,
- forráskód, rendszerleírások, hálózati és konfigurációs adatok,
- naplók és hibaüzenetek, amelyekben gyakran ott marad egy jelszó, token vagy API-kulcs,
- értekezletek hangja és átirata, benne olyan részletekkel, amelyek soha nem kerültek volna írásba.
A személyes adatoknál ez adatvédelmi kérdés is: adattovábbítás történik egy olyan félnek, akivel nincs adatfeldolgozói szerződés. A kár ráadásul sokszor utólag sem mérhető fel, mert senki nem tudja megmondani, mi került ki és mikor.
Hogyan lehet feltárni
A cél egy leltár: mely AI-eszközöket használják, kik, milyen adatokkal. Ehhez több forrás kell, mert egyik sem lát mindent.
- Hálózati naplók. A proxy-, DNS- és tűzfalnaplókból kigyűjthető, mely AI-szolgáltatásokat érik el a szervezetből, mekkora forgalommal és mely felhasználók vagy gépek.
- Identitásplatform. A vállalati címtárban látszik, mely külső alkalmazásoknak adtak a felhasználók hozzáférést a fiókjukhoz, és milyen jogosultsággal (levelek olvasása, fájlok elérése).
- Végpontok. A telepített alkalmazások és böngészőbővítmények listája megmutatja azokat az eszközöket, amelyek nem egy weboldalon keresztül működnek.
- SaaS-beállítások. A már használt felhőszolgáltatások adminisztrációs felületén ellenőrizhető, mely AI-funkciók vannak bekapcsolva, és hová küldik az adatot.
- Költségelszámolás. A kártyás előfizetések gyakran csak a költségtérítési tételek között bukkannak fel.
- Beszélgetés a munkatársakkal. Egy rövid kérdőív vagy interjú elárulja, mire használják az eszközöket, és ez legalább annyira fontos, mint a lista.
Az utolsó pontnál a hangnem dönt. Ha a felmérés számonkérésnek tűnik, a használat nem szűnik meg, csak rejtettebb lesz. Érdemesebb előre jelezni, hogy a cél a biztonságos keretek kialakítása, és hogy amit most elmondanak, abból nem lesz fegyelmi ügy.
Mi kerüljön az AI használati szabályzatba
A szabályzat akkor működik, ha a munkatárs egy perc alatt kiolvassa belőle a választ arra, hogy az adott feladathoz melyik eszközt és milyen adattal használhatja. A teljes tiltás ritkán tartható, mert a munkatársak megkerülik; jobb, ha van engedélyezett eszköz, és világos, mit szabad bele beírni. A tartalmi elemek:
- Engedélyezett eszközök. Név szerint, és azzal a kikötéssel, hogy csak vállalati fiókkal használhatók.
- Adatkategóriák. A szervezet meglévő adatosztályozására építve: mi írható be bármelyik engedélyezett eszközbe, mi csak a belső vagy szerződéses eszközbe, és mi semmilyen AI-ba.
- Új eszköz igénylése. Kihez kell fordulni, ki dönt, és milyen szempontok alapján (adattárolás helye, továbbtanítás, szerződés).
- Bővítmények, jegyzetelők, integrációk. Külön szabály arra, hogy AI-eszköz csak jóváhagyással kaphat hozzáférést levelezéshez, fájlokhoz vagy értekezlethez.
- A kimenet felelőssége. Az AI által írt szöveget, kódot vagy elemzést az ellenőrzi és vállalja, aki felhasználja.
- Teendő, ha adat került ki. Kinek és milyen gyorsan kell jelezni, hogy az esetleges adatvédelmi bejelentés időben megtörténhessen.
- Felülvizsgálat. Az eszközök és a funkciók gyorsan változnak, ezért a szabályzatnak legyen gazdája és rendszeres frissítése.
A szabályzat önmagában papír marad, ha senki nem magyarázza el. A bevezetésnél egy rövid, példákra épülő képzés többet ér egy hosszú dokumentumnál.
Technikai kontrollok
A szabályzat megmondja, mi a helyes, a technikai kontrollok pedig segítenek betartani, és láthatóvá teszik, ha valami eltér tőle. A hálózati és böngészőszintű betartatás részleteit az AI-szolgáltatások technikai szabályozásáról szóló cikk írja le.
- Webszűrés AI-kategóriára. A nem engedélyezett AI-szolgáltatások elérése tiltható vagy figyelmeztetéshez köthető, így a forgalom az engedélyezett eszközök felé terelődik.
- Adatszivárgás-védelem az AI felé menő forgalomra. A DLP-szabályok felismerik, ha személyes adat, kártyaszám, forráskód vagy jelszó indulna egy AI-szolgáltatás felé. Érdemes figyelő üzemmódban indítani, hogy a szabályok a valós használathoz igazodjanak, és csak utána blokkolni.
- Alkalmazás-hozzájárulások korlátozása. Az identitásplatformon beállítható, hogy külső alkalmazásnak csak adminisztrátori jóváhagyással lehessen hozzáférést adni a vállalati fiókhoz.
- Bővítmények kezelése. A böngészőkben központilag előírható, mely bővítmények telepíthetők.
- Naplózás és jelentés. Rendszeres kimutatás arról, mely AI-szolgáltatásokat ki és mennyit használ. Ebből derül ki, hol kell a szabályzaton vagy az engedélyezett eszközök körén változtatni.
Egyik kontroll sem teljes. Egy saját telefonon megnyitott chatbotot a vállalati hálózat nem lát, ezért a technika csak a szabályzattal és a képzéssel együtt ad valódi védelmet.
Hol kezdje
A sorrend nagyjából mindenhol ugyanaz: először a leltár, utána a kockázatok besorolása, erre épül a szabályzat, és végül azok a technikai kontrollok, amelyekre a leltár szerint valóban szükség van. Aki a kontrollokkal kezd, gyakran olyan eszközt tilt le, amelyet senki nem használ, és közben elsiklik az igazi adatkiáramlás fölött.
Ebben a Shadow AI felmérés AI használati szabályzattal szolgáltatásunk segít: elkészítjük a használt AI-eszközök és adatfolyamok leltárát, eszközönként besoroljuk a kockázatot, megírjuk a munkatársaknak szóló AI használati szabályzatot, és javaslatot adunk a szükséges technikai kontrollokra. Az általános AI-kockázatokról a vállalati AI bevezetésről szóló cikkünkben írtunk részletesen.
