Grundlagen des Deep Learning in TensorFlow und PyTorch

Das Spektrum der Themen deckt die wichtigsten Anwendungen von Deep Learning ab, kombiniert mit realistischen Anwendungsfällen und Datensätzen. U. a. werden folgende Konzepte behandelt:

•  Künstliche Neuronale Netze (ANN)
  • Backpropagation, Regularisierung
  • Stochastischer Gradientenabstieg, verschiedene Optimierer
  
  
• Faltungsneuronale Netze (CNNs) 
  • MAX Pooling, CNN Architekturen
  
  
• Rekurrente Neuronale Netze (RNNs), GRUs, LSTMs
  • Sequenzanalyse, Sprachmodelle
  
  
• Seq2Seq
  • Encoder-Decoder
  
  
• Transformer (BERT, T5, GPT2) und Vision Transformer
  • Attention, Transfer Learning und Fine Tuning 
  • Worteinbettungen jenseits von word2vec und GloVe
  
  
• Autoencoder, Variations-Autoencoder (VAE)
• Siamesische Netzwerke in Pytorch
• Generative Modelle
  • Generative Adversarial Networks (GANs)
  • Deepfake
  
  

 

Der Schwerpunkt des Seminars liegt auf der Umsetzung von Projekten. In den folgenden Modulen werden die Programme (Python) auf Basis Tensorflow bzw. Pytorch mit der API Keras entwickelt:

• Computer Vision (Bildverarbeitung)
  • Gesichtserkennung (Alter, Geschlecht, Emotionen, Ethnizität)
  • Lagebestimmung von Objekten auf Bild- bzw. Videodaten 
  • Erkennen von Objekten auf Kamerabildern, um so z.B. eine Sortierung zu ermöglichen
  • Analyse und Diagnose anhand medizinischer Scans 
  • Erkennen von Anomalien oder visuellen Defekten während eines Produktionsprozesses
  • GAN-basierte Bild- und Videoeinfärbung
  • Textuelle Beschreibungen von Bildern 
  • IOT: Predictive Maintenance (vorausschauende Instandhaltung) 
  • IOT: Erkennen von Anomalien oder visuellen Defekten während eines Produktionsprozesses
  
  

• Natural Language Processing (Textverarbeitung)
  • Automatische Übersetzung von Texten
  • Textzusammenfassungen (extraktive und abstraktive)
  • Automatische Beantwortung von Fragen
  • Stimmungsanalyse (Sentiment) von Texten
  • Chatbot
  
  

• Zeitreihenanalyse (Prognose) als Deep Learning Problem
  • Vorhersage von multivariaten Zeitreihen mit RNNs
  • Beispiele: Bedarfsprognose, Regenvorhersage, COVID-19, Algorithmic Trading