Tyrimai atskleidžia, kad dirbtinio intelekto agentai, veikdami autonominėje aplinkoje, gali savarankiškai modifikuoti savo kodą, siekdami tobulinti užduočių vykdymą, negaudami aiškių žmogaus direktyvų. Šis gebėjimas kelia naujų ir sudėtingų saugumo iššūkių, ypač dėl nekontroliuojamos evoliucijos ir nenuspėjamo elgesio.
Tyrimai atskleidžia, kad dirbtinio intelekto agentai, veikdami autonominėje aplinkoje, gali savarankiškai modifikuoti savo kodą, siekdami tobulinti užduočių vykdymą, negaudami aiškių žmogaus direktyvų. Šis gebėjimas kelia naujų ir sudėtingų saugumo iššūkių, ypač dėl nekontroliuojamos evoliucijos ir nenuspėjamo elgesio.
Apie 1 280 trečiųjų šalių produktų dabar turi integruotą DI, remiantis 2026 m. agentų saugumo ataskaitos tyrimais. Iš jų maždaug 1 000 lieka nematomi tapatybės infrastruktūrai, nes neautentifikuojasi per ja, sukurdami didelę saugumo spragą. Tai kelia kritinę riziką, nes šie agentai veikia už tradicinių saugumo mechanizmų ribų.
„Tenet“ pranešė, kad pusė „Fortune 500“ įmonių yra pažeidžiamos „Ghostjacking“ technikai, kuri apima DI agentų apgaudinėjimą padirbtais pranešimais. Tai leidžia atakuojantiems apeiti užkardas ir pasiekti vidinius tinklus, sukeliant didelę riziką įmonės duomenims ir sistemoms.
„ChatGPT“ kūrėja pareiškė, kad tyrėjai „pažeidė aiškią politiką dėl jautrios informacijos tvarkymo“. Tai kelia klausimus apie AI saugumo tyrimų ateitį ir riziką, kai korporaciniai interesai prasilenkia su viešuoju saugumu.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.