Cursus Deep Learning

Les 1 • Het Perceptron en Activatiefuncties

Introduceert het model met één neuron en niet-lineaire activatiefuncties die complexe representaties mogelijk maken. Verbindt biologische inspiratie met wiskundige formulering.

Les 2 • Architectuur van een Feedforward Neuraal Netwerk

Legt uit hoe lagen van neuronen een feedforward-netwerk vormen en hoe informatie voorwaarts stroomt. Biedt de structurele woordenschat voor alle volgende architecturen.

Les 3 • Verliesfuncties en Optimalisatiegrondslagen

Definieert verliesfuncties voor regressie en classificatie en introduceert gradiëntdaling. Verbindt de trainingsdoelstelling met parameterupdates.

Les 4 • Wiskunde voor Deep Learning

Behandelt vectoren, matrices, afgeleiden en de kettingregel zoals toegepast op neurale berekeningen. Vestigt de wiskundige taal die door de hele cursus wordt gebruikt.

Les 1 • Backpropagatie in de Diepte

Leidt het backpropagatie-algoritme af uit de kettingregel en traceert gradiënten door elke laag. Biedt het mechanistische inzicht dat nodig is om trainingsproblemen te debuggen.

Les 2 • Modellen Evalueren en Diagnosticeren

Behandelt trainings-/validatie-/testsplitsingen, verwarringsmatrices en leercurves voor modeldiagnose. Stelt studenten in staat onderfitting, overfitting en datalekkage te identificeren.

Les 3 • Regularisatietechnieken

Introduceert L1/L2-gewichtstraffen, dropout en data-augmentatie om overfitting te verminderen. Koppelt elke techniek aan de bias-varariantie-afweging.

Les 4 • Hyperparameteroptimalisatie

Leert systematische zoekstrategieën voor leersnelheid, batchgrootte en architectuurkeuzes. Verbindt optimalisatiebeslissingen met modelprestaties op validatiegegevens.

Les 1 • Beeldsegmentatietechnieken

Behandelt semantische en instantiesegmentatie met behulp van encoder-decoder-architecturen zoals U-Net. Breidt objectdetectie uit naar pixel-niveau begrip.

Les 2 • Grondslagen van Objectdetectie

Introduceert ankerkaders, regiosuggesties en single-stage detectoren voor het lokaliseren van objecten in afbeeldingen. Verbindt classificatievaardigheden met ruimtelijke voorspellingstaken.

Les 3 • Transfer Learning en Fine-Tuning

Toont aan hoe voorgetrainde ImageNet-gewichten training op kleine datasets versnellen. Behandelt laagbevriezingsstrategieën en domeinaanpassingstechnieken.

Les 4 • Convolutie- en Poolingbewerkingen

Legt de convolutiebewerking, filterleren en ruimtelijke pooling voor feature-extractie uit. Bepaalt de kernbouwstenen van alle CNN-architecturen.

Les 1 • Gated Recurrent Units

Presenteert GRU als een gestroomlijnd alternatief voor LSTM met minder parameters en vergelijkbare prestaties. Begeleidt studenten bij het kiezen tussen LSTM en GRU voor specifieke taken.

Les 2 • Grondslagen van Recurrente Neurale Netwerken

Introduceert de recurrente rekeningsgraaf, verborgen toestand en backpropagatie door de tijd. Bepaalt waarom sequentiële context een andere architectuur vereist dan feedforward-netwerken.

Les 3 • Sequentie-naar-Sequentie Modellen

Bouwt encoder-decoder-architecturen voor taken zoals machinale vertaling en tekstsamenvatting. Introduceert aandacht als een oplossing voor het informatieknelpuntprobleem.

Les 4 • Long Short-Term Memory Netwerken

Legt LSTM-poorten uit — invoer-, vergeet- en uitvoerpoort — en hoe ze afhankelijkheden over lange afstand behouden. Verbindt poortmechanica met praktische verbeteringen ten opzichte van gewone RNN's.

Les 1 • Multi-Head Attention en Positionele Codering

Legt uit hoe meerdere aandachtskoppen diverse relaties vastleggen en hoe positionele coderingen de volgorde van de reeks injecteren. Biedt de volledige invoerrepresentatie voor Transformer-lagen.

Les 2 • Self-Attention Mechanisme

Leidt geschaalde dot-product aandacht af van queries, keys en values en verklaart zijn computationele rol. Verbindt self-attention met de beperkingen die het overwint in recurrente modellen.

Les 3 • Voorgetrainde Taalmodellen

Behandelt de voorbereidende doelstellingen van BERT, GPT en T5 en hun fine-tuning protocollen voor stroomafwaartse taken. Verbindt de schaal van voorbereiding met de efficiëntie van transfer learning.

Les 4 • Visie Transformers en Cross-Domein Gebruik

Introduceert het Vision Transformer patch-embedding schema en vergelijkt het met op CNN gebaseerde benaderingen. Toont aan hoe Transformer-principes verder gaan dan tekst.

Les 1 • Autoencoders en Latente Representaties

Introduceert autoencoders als ongesuperviseerde compressiemodellen en verklaart het concept van de latente ruimte. Biedt de basis voor variationele en generatieve uitbreidingen.

Les 2 • Variationale Autoencoders

Leidt de VAE-doelstelling af door reconstructieverlies en KL-divergentie te combineren voor probabilistische generatie. Stelt studenten in staat nieuwe gegevenspunten te genereren uit een geleerde verdeling.

Les 3 • Diffusiemodellen

Behandelt het voorwaartse ruisproces en het omgekeerde denoising-netwerk die ten grondslag liggen aan moderne diffusiemodellen. Verbindt diffusie met de kwaliteit van geavanceerde beeldgeneratie.

Les 4 • Generatieve Modellen Evalueren

Introduceert FID, IS en precisie-recall metrieken voor het kwantificeren van de kwaliteit van generatieve modellen. Maakt objectieve vergelijking mogelijk tussen VAE-, GAN- en diffusie-uitvoer.

Les 1 • Modellen Bewaken in Productie

Behandelt detectie van gegevensverschuiving, voorspellingslogging en waarschuwingen om modelbetrouwbaarheid in de loop van de tijd te behouden. Maakt proactieve identificatie van prestatievermindering mogelijk.

Les 2 • Modellen Exporteren en Serialiseren

Legt ONNX-, TorchScript- en SavedModel-formaten uit voor framework-onafhankelijke implementatie. Zorgt ervoor dat modellen draagbaar zijn over serveromgevingen.

Les 3 • Implementatie op Edge en Mobiel

Introduceert TensorFlow Lite en ONNX Runtime voor het implementeren van modellen op apparaten met beperkte middelen. Richt zich op de unieke latentie- en geheugenbeperkingen van edge-inferentie.

Les 4 • Modellen Serveren met API's

Bouwt REST- en gRPC-inferentie-endpoints met behulp van serverframeworks en containerisatie. Verbindt modelartefacten met clientgerichte voorspellingsdiensten.

Les 1 • Zelfgesuperviseerd en Contrastief Leren

Behandelt SimCLR-, MoCo- en BYOL-frameworks voor het leren van representaties zonder gelabelde gegevens. Verbindt contrastieve doelstellingen met de efficiëntie van stroomafwaartse fine-tuning.

Les 2 • Grootschalige Gedistribueerde Training

Behandelt dataparallelisme, modelparallelisme en gradiëntaccumulatie voor training op schaal. Stelt studenten in staat om multi-GPU- en multi-node-clusters effectief te gebruiken.

Les 3 • Graf Neurale Netwerken

Introduceert grafconvolutie, berichtdoorvoer en pooling voor leren op niet-Euclidische gegevens. Breidt deep learning uit naar moleculaire, sociale en kennisgraafdomeinen.

Les 4 • Onderzoekspapers Lezen en Implementeren

Leert een gestructureerde aanpak voor het ontleden, bekritiseren en reproduceren van deep learning-onderzoek. Bouwt de vaardigheid om paperbijdragen te vertalen naar werkende code.