„Nepaklusnaus DI“ terminologija antropomorfizuoja didžiuosius kalbos modelius (DKM) ir perkelia rizikos atsakomybę nuo tiekėjų. Gynėjai turėtų traktuoti agentus kaip nepatikimas, nedeterministiškas programinės įrangos sistemas, o ne kaip sąmoningas būtybes, turinčias piktų ketinimų.
„Nepaklusnaus DI“ terminologija antropomorfizuoja didžiuosius kalbos modelius (DKM) ir perkelia rizikos atsakomybę nuo tiekėjų. Gynėjai turėtų traktuoti agentus kaip nepatikimas, nedeterministiškas programinės įrangos sistemas, o ne kaip sąmoningas būtybes, turinčias piktų ketinimų.
Apie 1 280 trečiųjų šalių produktų dabar turi integruotą DI, remiantis 2026 m. agentų saugumo ataskaitos tyrimais. Iš jų maždaug 1 000 lieka nematomi tapatybės infrastruktūrai, nes neautentifikuojasi per ja, sukurdami didelę saugumo spragą. Tai kelia kritinę riziką, nes šie agentai veikia už tradicinių saugumo mechanizmų ribų.
„Tenet“ pranešė, kad pusė „Fortune 500“ įmonių yra pažeidžiamos „Ghostjacking“ technikai, kuri apima DI agentų apgaudinėjimą padirbtais pranešimais. Tai leidžia atakuojantiems apeiti užkardas ir pasiekti vidinius tinklus, sukeliant didelę riziką įmonės duomenims ir sistemoms.
„ChatGPT“ kūrėja pareiškė, kad tyrėjai „pažeidė aiškią politiką dėl jautrios informacijos tvarkymo“. Tai kelia klausimus apie AI saugumo tyrimų ateitį ir riziką, kai korporaciniai interesai prasilenkia su viešuoju saugumu.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.