Logo PTB

Deep Learning

Arbeitsgruppe 8.42

Inhalt

Übersicht

Unter “Deep Learning” versteht man Methoden des maschinellen Lernens, bei denen neuronale Netze verwendet werden, die über viele Schichten verfügen. Diese Methoden werden etwa für Klassifikationsaufgaben oder für die Approximation von Funktionen verwendet. Neuronale Netze sind vielfältig einsetzbar und außerordentlich leistungsfähig, Anwendungsbeispiele sind das autonome Fahren, computer-gestützte Diagnose von Krankheiten, oder die automatische Segmentierung von Bildern. Für den Einsatz von „Deep Learning” in der Metrologie ist es entscheidend, dessen Zuverlässigkeit besser verstehen und bewerten zu können. Ein wichtiger Aspekt ist dabei die Quantifizierung von Unsicherheiten. Modelle, die in der Metrologie verwendet werden, sind üblicherweise gut verstanden und basieren auf physikalischem Verständnis. Neuronale Netze hingegen erlernen eine Assoziation auf Basis von Daten. Ein weiterer Aspekt aus metrologischer Sicht ist es daher, ein Verständnis für das Verhalten der so gebildeten Assoziation zu gewinnen.

Forschung

Ein Fokus in der PTB Arbeitsgruppe 8.42 ist die Entwicklung von Methoden der Erklärbarkeit und Quantifizierung von Unsicherheiten für Ergebnisse von „Deep Learning“. Eine aktuelle Entwicklung ist dabei die Anwendung der Fisher Information zur Detektion von sog. „adversarial examples”. Das Verständnis des Verhaltens neuronaler Netze für diese speziell konzipierten Eingangsdaten ist wichtig, um die Zuverlässigkeit der neuronalen Netze beurteilen und verbessern zu können. Ein anderer Schwerpunkt der Arbeiten liegt in der Anwendung von Methoden des „Deep Learning“ in der Metrologie. Beispiele hierfür sind die Bewertung der Bildqualität in der Röntgendiagnostik oder der computer-gestützten Formbestimmung optischer Oberflächen.

Software

  • This Opens external link in new windowsoftware implements a method for the detection of adversarial examples based on the Fisher information, presented in the Neurocomputing article "Inspecting adversarial examples using the fisher information". Written in python.

Veröffentlichungsliste

  • L. Hoffmann and C. Elster (2020). Deep Neural Networks for Computational Optical Form Measurements, arXiv preprint, arXiv: Opens external link in new window2007.00319 
  • J. Martin and C. Elster (2020). Detecting unusual input to neural networks, arXiv preprint arXiv: 2006.08278
  • T. Kretz, K.-R. Müller, T. Schäffter and C. Elster (2020). Mammography Image Quality Assurance Using Deep Learning, IEEE Transactions on Biomedical Engineering, 2020. [DOI: 10.1109/TBME.2020.2983539].
  • J. Martin and C. Elster (2020). Inspecting adversarial examples using the fisher information, Neurocomputing, 382 80--86, 2020. [DOI: 10.1016/j.neucom.2019.11.052].

Nach oben