Automated Machine Learning (AutoML) Course

Lektion 1 • Arten von AutoML-Systemen

Unterscheidet Full-Pipeline-AutoML, Neural Architecture Search und Meta-Learning-Systeme. Hilft den Lernenden, den Systemtyp den Problemstellungen zuzuordnen.

Lektion 2 • Was AutoML ist und warum es wichtig ist

Definiert AutoML als die Automatisierung von End-to-End-ML-Workflows und grenzt es von der manuellen Modellentwicklung ab. Vermittelt die Vorteile in Bezug auf Effizienz und Demokratisierung.

Lektion 3 • Kernkonzepte des maschinellen Lernens

Behandelt die Paradigmen des überwachten, unüberwachten und bestärkenden Lernens, die für das Verständnis der AutoML-Ziele unerlässlich sind. Etabliert das im gesamten Kurs verwendete Vokabular.

Lektion 4 • Einrichten der AutoML-Umgebung

Leitet die Installation von Python, wichtigen Bibliotheken und einem lokalen AutoML-Framework an. Die Lernenden verfügen am Ende über eine funktionsfähige Entwicklungsumgebung, die für praktische Übungen bereit ist.

Lektion 1 • Verständnis von Datenqualitätsproblemen

Identifiziert fehlende Werte, Ausreißer, Duplikate und Schema-Inkonsistenzen als Hauptbedrohungen der Datenqualität. Verbindet schlechte Datenqualität mit beeinträchtigter AutoML-Leistung.

Lektion 2 • Aufteilung in Training, Validierung und Test

Erläutert Holdout-, K-Fold- und stratifizierte Aufteilungsstrategien zur Vermeidung von Datenlecks. Die Lernenden konfigurieren Aufteilungen, die unverzerrte AutoML-Evaluationen liefern.

Lektion 3 • Umgang mit fehlenden und unausgeglichenen Daten

Vermittelt Imputationsstrategien und Resampling-Methoden zum Umgang mit Lücken und Klassenungleichgewicht. Die Lernenden wenden diese Techniken an, bevor sie Daten in AutoML-Systeme einspeisen.

Lektion 4 • Featurekodierung und -skalierung

Behandelt One-Hot-Kodierung, ordinale Kodierung und Normalisierungsmethoden, die von den meisten AutoML-Frameworks benötigt werden. Stellt sicher, dass Features numerisch mit nachgelagerten Algorithmen kompatibel sind.

Lektion 1 • Evaluierung der Auswirkungen der Featureentwicklung

Vermittelt die Bewertung der Featurewichtigkeit und Ablationsstudien, um den Wert der Entwicklung zu messen. Die Lernenden quantifizieren den Beitrag automatisierter Features zur finalen Modellleistung.

Lektion 2 • Dimensionsreduktion in AutoML

Erläutert PCA, Autoencoder und Mannigfaltigkeitsmethoden als automatisierte Optionen zur Dimensionsreduktion. Die Lernenden wenden die Reduktion auf hochdimensionale Datensätze innerhalb eines AutoML-Workflows an.

Lektion 3 • Automatisierte Featuregenerierungswerkzeuge

Führt Werkzeuge ein, die automatisch neue Features aus Rohspalten mittels Aggregationen und Transformationen synthetisieren. Die Lernenden führen eine automatisierte Generierung auf einem strukturierten Datensatz aus.

Lektion 4 • Prinzipien der Featureentwicklung

Wiederholt Konzepte der manuellen Featureentwicklung als Grundlage für das Verständnis der Automatisierung. Stellt dar, warum die Featurequalität die Modellleistung stärker bestimmt als die Wahl des Algorithmus.

Lektion 1 • Hyperparameter vs. Modellparameter

Verdeutlicht den Unterschied zwischen gelernten Parametern und benutzerdefinierten Hyperparametern. Stellt dar, warum die Wahl der Hyperparameter die Modellgeneralisierung entscheidend beeinflusst.

Lektion 2 • Grid Search und Random Search

Implementiert exhaustive Grid Search und stochastische Random Search als grundlegende HPO-Methoden. Die Lernenden bewerten beide Ansätze bei einer Klassifikationsaufgabe.

Lektion 3 • Bayes'sche Optimierung für HPO

Erläutert die auf Surrogatmodellen basierende bayessche Optimierung als stichprobeneffiziente HPO-Strategie. Die Lernenden konfigurieren und führen eine Bayes'sche Suche mit einer gängigen AutoML-Bibliothek aus.

Lektion 4 • Multi-Fidelity- und Early-Stopping-Methoden

Behandelt Hyperband und Successive Halving zur effizienten Zuweisung von Rechenbudgets. Die Lernenden reduzieren die HPO-Laufzeit, ohne die finale Modellqualität zu beeinträchtigen.

Lektion 1 • Automatisierte Strategien zur Algorithmusauswahl

Erläutert die kombinierte Algorithmusauswahl und Hyperparameter-Optimierung (CASH) als zentrales AutoML-Suchproblem. Die Lernenden führen CASH auf einem Benchmark-Datensatz aus.

Lektion 2 • Grundlagen der Algorithmusauswahl

Betrachtet die Algorithmenlandschaft – lineare Modelle, Bäume, SVMs und neuronale Netze – als Kandidaten für die automatisierte Auswahl. Verbindet Algorithmuseigenschaften mit Datensatzcharakteristika.

Lektion 3 • AutoML-Ensemble-Nachbearbeitung

Demonstriert automatisierte Ensemble-Auswahl und Post-hoc-Pruning, um Genauigkeit und Komplexität auszubalancieren. Die Lernenden finalisieren ein Ensemble und bereiten es für das Deployment vor.

Lektion 4 • Bagging- und Boosting-Ensembles

Behandelt Varianzminderung durch Bagging und sequentielle Fehlerkorrektur durch Boosting als Ensemble-Grundlagen. Die Lernenden implementieren beides innerhalb einer AutoML-Pipeline.

Lektion 1 • NAS-Suchstrategien

Vergleicht bestärkendes Lernen, evolutionäre und gradientenbasierte NAS-Suchstrategien. Die Lernenden wählen basierend auf Rechenbudget und Aufgabentyp eine geeignete Strategie aus.

Lektion 2 • Effizientes NAS mit Proxys und Surrogaten

Führt Leistungsprädiktoren und Low-Fidelity-Proxys ein, um die Rechenkosten von NAS zu senken. Die Lernenden wenden proxybasierte Evaluation an, um die Architektursuche zu beschleunigen.

Lektion 3 • NAS für tabellarische und Zeitreihendaten

Erweitert NAS über Bildaufgaben hinaus auf Architekturen für tabellarische und sequentielle Daten. Die Lernenden führen ein NAS-Experiment mit einem nicht bildbasierten Datensatz durch und analysieren die Ergebnisse.

Lektion 4 • Evaluieren und Deployen von NAS-Ergebnissen

Behandelt Architektur-Evaluierungsprotokolle, erneutes Training von Grund auf und den Export von NAS-entdeckten Modellen. Die Lernenden erstellen ein deploymentfähiges NAS-Modell.

Lektion 1 • Multimodale AutoML-Pipelines

Kombiniert Text-, Bild- und tabellarische Modalitäten in einer einzigen automatisierten Pipeline. Die Lernenden entwerfen eine Fusionsstrategie und evaluieren die multimodale Modellleistung.

Lektion 2 • AutoML für Computer Vision

Wendet NAS und Transfer-Learning-Automatisierung auf Bildklassifikation und Objekterkennung an. Die Lernenden führen eine AutoML-Vision-Pipeline auf einem gelabelten Bilddatensatz aus.

Lektion 3 • AutoML für Zeitreihenprognosen

Behandelt automatisierte Featureextraktion, Modellauswahl und Horizontabstimmung für Zeitreihendaten. Die Lernenden prognostizieren eine reale Zeitreihe mit einem AutoML-Framework.

Lektion 4 • AutoML für Natural Language Processing

Behandelt automatisierte Textvorverarbeitung, Embedding-Auswahl und Feinabstimmung von Sprachmodellen. Die Lernenden erstellen eine AutoML-NLP-Pipeline für Klassifikations- und Sentiment-Aufgaben.

Lektion 1 • MLOps-Integration für AutoML

Integriert AutoML-Durchläufe in CI/CD-Pipelines, Experiment-Tracking und Modellregister. Die Lernenden automatisieren erneute Trainingsauslöser und die Versionskontrolle für AutoML-Artefakte.

Lektion 2 • Fairness, Bias und Erklärbarkeit

Behandelt automatisierte Bias-Prüfung, Fairness-Beschränkungen und Erklärbarkeitswerkzeuge für AutoML-Ergebnisse. Die Lernenden erstellen Fairness-Berichte und SHAP-Erklärungen für ein deploytes Modell.

Lektion 3 • Überwachung der Modellleistung in der Produktion

Vermittelt die Erkennung von Data Drift, Concept Drift und Leistungsverschlechterung für deployte AutoML-Modelle. Die Lernenden konfigurieren Überwachungs-Dashboards und Warnschwellen.

Lektion 4 • Governance, Compliance und Dokumentation

Etabliert Model Cards, Audit Trails und regulatorische Abgleichspraktiken für AutoML-Systeme. Die Lernenden erstellen eine governancefähige Model Card und eine Deployment-Checkliste.