OpenLeash – atvirojo kodo sistema – perima potencialiai pavojingus DI agentų veiksmus, blokuodama akivaizdžias grėsmes ir prašydama žmogaus patvirtinimo, kai ketinimai yra neaiškūs. Tai yra kritinis žingsnis užtikrinant DI sistemų saugumą ir kontrolę.
OpenLeash – atvirojo kodo sistema – perima potencialiai pavojingus DI agentų veiksmus, blokuodama akivaizdžias grėsmes ir prašydama žmogaus patvirtinimo, kai ketinimai yra neaiškūs. Tai yra kritinis žingsnis užtikrinant DI sistemų saugumą ir kontrolę.
Apie 1 280 trečiųjų šalių produktų dabar turi integruotą DI, remiantis 2026 m. agentų saugumo ataskaitos tyrimais. Iš jų maždaug 1 000 lieka nematomi tapatybės infrastruktūrai, nes neautentifikuojasi per ja, sukurdami didelę saugumo spragą. Tai kelia kritinę riziką, nes šie agentai veikia už tradicinių saugumo mechanizmų ribų.
„Tenet“ pranešė, kad pusė „Fortune 500“ įmonių yra pažeidžiamos „Ghostjacking“ technikai, kuri apima DI agentų apgaudinėjimą padirbtais pranešimais. Tai leidžia atakuojantiems apeiti užkardas ir pasiekti vidinius tinklus, sukeliant didelę riziką įmonės duomenims ir sistemoms.
„ChatGPT“ kūrėja pareiškė, kad tyrėjai „pažeidė aiškią politiką dėl jautrios informacijos tvarkymo“. Tai kelia klausimus apie AI saugumo tyrimų ateitį ir riziką, kai korporaciniai interesai prasilenkia su viešuoju saugumu.
KSG komanda padės įvertinti riziką, sustiprinti apsaugą ir reaguoti į incidentus.