AI-rendszerek és AI-ágensek biztonsága
Szolgáltató:
DE
Részvétel formája:
Személyes részvétel
Online részvétel
A képzés célja, hogy a résztvevők megismerjék a mesterséges intelligencián alapuló rendszerek és autonóm AI-ágensek alkalmazásához kapcsolódó legfontosabb kiberbiztonsági kockázatokat, sérülékenységeket, valamint azok felismerésének és kezelésének lehetőségeit.
A képzés során elsajított ismeretek:
- AI-rendszerek és nagy nyelvi modellek biztonsági alapelvei:
A mesterséges intelligencián alapuló rendszerek és AI-ágensek működési alapelveinek, jellemző architektúráinak és legfontosabb biztonsági kockázatainak bemutatása. Az adatkezelés, a modellhozzáférés, a rendszerintegráció és a külső szolgáltatások igénybevételének biztonsági vonatkozásai - AI-rendszereket érintő támadási módszerek és sérülékenységek:
A prompt injection, a közvetett utasításbefecskendezés, az érzékeny adatok kiszivárgása, a jogosulatlan API-használat és a nem megfelelő hozzáférés-kezelés kockázatainak ismertetése. A támadási lehetőségek és lehetséges következményeik szemléltetése gyakorlati példákon keresztül. - Autonóm AI-ágensek és eszközkapcsolatok biztonsága:
Az AI-ágensek eszközhasználatából, külső szolgáltatásokhoz és belső informatikai rendszerekhez történő hozzáféréséből eredő kockázatok bemutatása. A Model Context Protocol (MCP) biztonsági vonatkozásai, a jogosultságkorlátozás, a sandboxing és az elkülönített végrehajtási környezetek szerepe. Az AI-ágensek biztonságos működtetését támogató megoldások, például az OpenShell és a NemoClaw alapelveinek ismertetése. - AI-rendszerek biztonsági felügyelete és incidenskezelése:
Az AI-rendszerek és autonóm ágensek tevékenységének naplózása, monitorozása és ellenőrzése. A rendellenes működés, a jogosulatlan eszközhasználat és az adatszivárgásra utaló események felismerése. A biztonsági kockázatok értékelése, a szükséges védelmi intézkedések meghatározása, valamint az AI-rendszerekkel kapcsolatos biztonsági incidensek kezelésének alapelvei.