Security, AI governance i EU AI Act jako wymagania dla IT
Security, AI Governance and EU AI Act as Requirements for IT Systems
O przedmiocie
Przedmiot traktuje bezpieczeństwo, governance i regulacje jako konkretne wymagania dla architektury i procesów IT. Jest przeznaczony dla osoby, która ma poprowadzić wdrożenie AI — kierownika projektu, architekta, analityka, product ownera albo menedżera IT — bez samodzielnego implementowania zabezpieczeń.
Uczestnicy poznają zagrożenia specyficzne dla rozwiązań opartych na dużych modelach językowych: prompt injection bezpośredni i pośredni, ujawnienie danych wrażliwych, nadmierne uprawnienia agentów, ryzyka łańcucha dostaw AI i shadow AI. EU AI Act omawiamy jako zestaw realnych obowiązków, z aktualnym harmonogramem po Digital Omnibus i polską ustawą o systemach AI, a RODO od strony przepływu danych w systemie AI. Governance jest obecne od pierwszych zajęć: właściciel i rejestr systemu, role i bramki decyzyjne, akceptacja ryzyka, polityka użycia AI, zarządzanie zmianą i reagowanie na incydenty.
Każde zajęcia łączą blok pojęć z rozbiorem rzeczywistego, publicznie udokumentowanego przypadku, a potem z ćwiczeniem na projekcie grupy. Z zajęć na zajęcia grupa buduje teczkę: mapę ryzyk, katalog kontrolek i minimalny model governance dla wybranego systemu AI, z uwzględnieniem EU AI Act i RODO. Uczestnicy uczą się rozpoznawać ryzyko, dobierać klasę zabezpieczenia, trafnie eskalować do IOD, prawnika, zespołu bezpieczeństwa lub zakupów i zostawiać ślad decyzji. Nie wykonują testów penetracyjnych ani nie implementują zabezpieczeń. Przedmiot trwa dwa semestry, po 5 zajęć.
Wymagania wstępne: Architektura aplikacji GenAI (przedmiot 02) — rozumienie architektury systemów AI podlegających ocenie: RAG, agenci, tool use.
Integracja systemów AI z architekturą enterprise (przedmiot 03) — kontekst organizacyjny i governance inicjatyw AI.
Oba przedmioty biegną równolegle; potrzebne pojęcia przypominamy na zajęciach w skrócie. Wiedza prawnicza ani doświadczenie w bezpieczeństwie nie są wymagane.
Wykłady i materiały
Wykłady i materiały są dostępne po zalogowaniu — tylko dla słuchaczy i prowadzących.
Zaloguj sięPlan zajęć
Kryteria zaliczenia
Wykład: Zaliczenie z oceną, wspólne dla wykładu i warsztatów, liczone osobno w każdym semestrze (5 zajęć). Warunek: obecność na co najmniej 80% zajęć, czyli na 4 z 5. Punkty: 1 pkt za każde zajęcia, na których uczestnik był, i 1 pkt za każdą pracę domową oddaną do następnych zajęć — maksymalnie 10 pkt. Ocena: 5 pkt — dostateczna, 6 — dostateczna plus, 7 — dobra, 8 — dobra plus, 9 — bardzo dobra. Praca domowa to uzupełnienie kolejnego punktu teczki na projekcie grupy. Teczka, czyli mapa ryzyk, katalog kontrolek i model governance dla wybranego systemu AI, jest sumą prac domowych. Po zaj. 1 pracą domową jest zgłoszenie projektu, do 19.11.2026. Pracę z ostatnich zajęć semestru oddaje się w terminie zamknięcia teczki. Praca domowa jest pracą grupy, więc punkt dostaje każdy członek grupy, która oddała ją w terminie. Formularze są na architekturaai.pl, prace oddaje się na kanale przedmiot-8-security-ai-governance-i-eu-ai-act serwera Discord „Architektura AI” (zaproszenie na architekturaai.pl). Rozbiory przypadków, mini-ćwiczenia i ćwiczenie sztabowe nie są punktowane.
Warsztaty: Te same zasady co dla wykładu — jedno zaliczenie z oceną, wspólne dla wykładu i warsztatów