LFD473 PyTorch in Practice: An Applications-First Approach

PyTorch, Datensätze und Models

• Was ist PyTorch?
• Das PyTorch-Ökosystem
• Überwachtes vs. Unüberwachtes Lernen
• Softwareentwicklung vs. Machine und Deep Learning
• "Hello Model"
• Naming Is Hard
• Setup und Environment

Datensatz erstellen

• Tensoren, Geräte und CUDA
• Datasets
• Dataloader
• Datapipes

Training des Models

• Recap
• Models
• Loss Functions
• Gradients und Autograd
• Optimizers
• Raw Training Loop
• Evaluation
• Models speichern und laden
• NonLinearities

Erstellung einer Datapipe

• Ein neuer Datensatz
• Rundgang durch High-Level-Bibliotheken

Transfer Learning und Pretrained Models

• Was ist Transferlernen?
• Torch Hub
• Computer Vision
• Auslassen
• ImageFolder-Datensatz

Vortrainierte Modelle für Computer Vision

• PyTorch Image Models
• HuggingFace

Natural Language Processing

• Natural Language Processing
• Ein Logit oder zwei Logits?
• Cross-Entropy-Loss
• TensorBoard
• Hugging Face Pipelines
• Generative Models

Bildklassifikation mit Torchvision

• Torchvision
• Pretained Models als Feature Extractors

Pretained Models für Computer Vision

• Feinanpassung vortrainierter Modelle
• Zero-Shot-Image Klassifikation

Modelle mit TorchServe bereitstellen

• Archivierung und Bereitstellung von Models
• TorchServe

Datensätze und Transformationen für Objekterkennung und Bildsegmentierung

• Objekterkennung, Bildsegmentierung und Keypoint-Erkennung
• Bounding Boxes
• Torchvision-Operatoren
• Transforms (V2)
• Benutzerdefinierter Datensatz für Objekterkennung

Models für Objekterkennung und Bildsegmentierung

• Models

Models zur Bewertung der Objekterkennung

• Rückblick
• Vorhersagen treffen
• Bewertung
• YOLO
• HuggingFace Pipelines für Objekterkennung
• Zero-Shot-Objekterkennung

Word Embeddings und Text Classification

• Torchtext
• AG News-Datensatz
• Tokenisierung
• Embeddings
• Vektor Datenbanken
• Zero-Shot Text Classification
• Chunking-Strategien

Kontextuelle Word Embeddings mit Transformers

• Attention is All You Need
• Transformer
• Encoder-Based Model für die Klassifikation
• Kontextuelle Embeddings

Huggingface Pipelines für NLP-Aufgaben

• HuggingFace Pipelines

Zusammenfassung und LLMs

• EDGAR-Datensatz
• Halluzinationen
• Asymmetric Semantic Search
• ROUGE-Score
• Decoder-Based Models
• Large Language Models (LLMs)

In dieser 4-tägigen Schulung "LFD473 PyTorch in Practice: An Applications-First Approach" liegt der Fokus darauf Ihnen praxisorientierte Kenntnisse zu PyTorch zu vermitteln. Die Agenda erstreckt sich über verschiedene Anwendungsbereiche und beginnt mit einer Einführung in PyTorch sowie dem PyTorch-Ökosystem. Der Schulungsinhalt umfasst die Erstellung von Datensätzen, das Training von Models, die Bereitstellung mit TorchServe und die Anwendung von Transfer Learning.

Die Schulung deckt praxisnahe Anwendungsfälle ab, darunter Computer Vision, Natural Language Processing, Objekterkennung, Bildsegmentierung, Textklassifikation und weitere. Mithilfe von Hands-On Übungen werden Ihnen die Kenntnisse vermittelt, Modelle zu erstellen und zu bewerten. Zusätzlich werden fortgeschrittene Themen wie Large Language Models (LLMs) und deren Anwendungsbereiche ausführlich behandelt.

Für eine optimale Teilnahme am Kurs empfehlen wir folgende Vorkenntnisse:

• Grundkenntnisse im Machine Learning
• Programmierkenntnisse, insbesondere in Python, von Vorteil
• Grundlegende Kenntnisse in Computer Vision und Natural Language Processing sind hilfreich

Die Schulung bietet Ihnen eine ausgewogene Mischung aus Theorie und Praxis in einer erstklassigen Lernumgebung. Profitieren Sie vom direkten Austausch mit unseren projekterfahrenen Trainern und anderen Teilnehmern, um Ihren Lernerfolg zu maximieren.

• Entwickler
• KI-Entwickler
• Dat Scientist