Fundamenty LLM dla architektów IT
LLM Fundamentals for IT Architects
O przedmiocie
Przedmiot buduje rozumienie tego, jak działają duże modele językowe — od podstaw sieci neuronowych, przez mechanizm uwagi i przestrzeń embeddingową, do pełnego przepływu generowania tekstu. Uczestnicy poznają, czym różni się LLM od prostych modeli warstwowych, jak działa tokenizacja i attention, oraz co naprawdę dzieje się w modelu, gdy generuje kolejny token. Zjawiska takie jak halucynacje i niepewność są omawiane jako właściwości przestrzeni embeddingowej — nie jako losowe błędy. Część zajęć poświęcona jest promptowaniu rozumianemu mechanistycznie: dlaczego dobór słów i struktura instrukcji wpływają na wynik i jak to powiązać z tym, czego model szuka w przestrzeni reprezentacji.
Wymagania wstępne: Podstawowa wiedza o systemach IT. Rozumienie i umiejetnosc korzystania z terminala. Posiadanie wlasnego laptopa z MacOS lub Linuxem lub Windowsem z zainstalowanym WSL2 (ubuntu). Posiadaniej jednej subskrypcji w Anthropic, OpenAi, lub Google.
Wykłady i materiały
Wykłady i materiały są dostępne po zalogowaniu — tylko dla słuchaczy i prowadzących.
Zaloguj sięKryteria zaliczenia
Wykład: ## Semestr 1: test plus punkty za aktywność
* Test — na koniec semestru, 30 pkt.
* Aktywność — punkty za wypowiedzi na zjazdach, dodawane do wyniku testu.
* Obecność — co najmniej 80% zajęć.