Security, AI governance i EU AI Act jako wymagania dla IT

Przedmiot traktuje bezpieczeństwo, governance i regulacje jako konkretne wymagania dla architektury i procesów IT. Uczestnicy poznają zagrożenia specyficzne dla systemów AI (prompt injection, data poisoning, model inversion), EU AI Act jako zestaw realnych obowiązków dla architekta i managera IT, katalog kontrolek bezpieczeństwa, proces planowania akceptacji ryzyka oraz wymagania GDPR w kontekście danych osobowych przetwarzanych przez systemy AI. Istotnym elementem jest governance AI w organizacji: jak wdrożyć je praktycznie — role, procesy, bramki decyzyjne, minimalny model komitetu AI. Przedmiot jest prowadzony przez analizę przypadków i ćwiczenia projektowe. Uczestnicy rozumieją ryzyka i wymagania, przekładają je na decyzje architektoniczne — nie wykonują testów penetracyjnych.

Wymagania wstępne: Architektura aplikacji GenAI (przedmiot 02) Rozumienie architektury systemów AI podlegających ocenie Integracja systemów AI z architekturą enterprise (przedmiot 03) Kontekst organizacyjny i governance inicjatyw AI

Wykład: Zaliczenie na podstawie projektu: mapa ryzyk, katalog kontrolek i model governance dla wybranego systemu AI — z uzasadnieniem decyzji.

Warsztaty: Ocena aktywności analitycznych: trafność klasyfikacji ryzyk, dobór kontrolek i jakość modelu governance dla dostarczonego scenariusza.