Fraunhofer-Alumni diskutieren Chancen und Risiken Künstlicher Intelligenz auf dem 4. Fraunhofer-Alumni-Summit

KI durchzieht bereits heute viele Lebensbereiche. Davon konnten sich die zahlreich angereisten ehemaligen Fraunhofer-Mitarbeitenden am 20. November in Berlin auf dem 4. Fraunhofer-Alumni-Summit ein umfassendes Bild machen - Bei Führungen am Fraunhofer IPK, dem Heinrich-Hertz-Institut oder der mit hochkarätigen Sprecherinnen und Sprechern aus Politik, Wissenschaft, Forschung und Wirtschaft besetzten Fachtagung des Summits. Und natürlich gab es für die ehemaligen Mitarbeitenden der Fraunhofer-Gesellschaft viele Gelegenheiten zur Vernetzung.

Mehr als 130 Teilnehmende kamen am 20. November nach Berlin, um am Fraunhofer IPK und Fraunhofer HHI den 4. Fraunhofer-Alumni-Summit zu begehen. Für viele Besucherinnen und Besucher war es ein Wiedersehen mit der ehemaligen Wirkungsstätte. Das Fraunhofer-Institut für Produktionsanlagen und Konstruktionstechnik IPK beeindruckte mit Präsentationen in der großen Werkshalle und KI-basierten Lösungen beispielsweise für KI-gestütztes Greifen bei Roboterarmen. Das Fraunhofer-Institut für Nachrichtentechnik, Heinrich-Hertz-Institut HHI, präsentierte den aktuellen Forschungsstand der Optimierung von 5G-Mobilfunktechnologien mit Unterstützung von KI. Besucherinnen und Besucher konnten zudem im TiME Lab (Tomorrow’s Immersive Media Experience Lab) des HHI einen Eindruck davon gewinnen, wie wir in Zukunft Kinofilme erleben werden.

Höhepunkt des Abends war die Summit-Night mit den Vorträgen und der Podiumsdiskussion. »2019 feiern wir 70 Jahre Fraunhofer, unsere Alumni waren Teil dieses Erfolges und trugen dazu bei, dass die Fraunhofer-Gesellschaft 2019 zu einer Organisation mit knapp 28.000 Mitarbeitenden und einem Umsatz von rund 2,8 Milliarden Euro herangewachsen ist«, so Prof. Dr. Alexander Kurz, Vorstandsvorsitzender des Fraunhofer-Alumni e.V. sowie Vorstand für Personal, Recht und Verwertung der Fraunhofer-Gesellschaft. »Aber Zahlen sind nicht alles, uns geht es heute vor allem um Inhalte und Menschen.« Inhaltlich führte Dr. Michael Mertin, Unternehmensberater, Vorstand des Fraunhofer-Alumni e.V. und Fraunhofer-ILT-Alumnus, durch den Abend.

Augmented Intelligence und Domänenwissen

Wie die Siemens AG vom Einsatz Künstlicher Intelligenz profitiert, machte Dr. Roland Busch, Stellvertretender Vorstandsvorsitzender, CTO und Mitglied des Vorstands der Siemens AG, an eindrucksvollen Beispielen deutlich: »Früher haben wir Robotern gesagt, was sie tun sollen. Morgen entscheiden die Maschinen selbst, wie sie es tun.«

So trainiert Siemens Industrieroboter, die völlig unterschiedliche Werkstücke selbstständig greifen. Ein anderes Beispiel ist eine autonome Tram, die mit Hilfe künstlicher Intelligenz Unfälle vermeidet. Die Fahrerin oder der Fahrer könne sich daher anderen Aufgaben widmen.

»Es wird alles digital und wir bei Siemens glauben, dass die Kombination aus KI und Domänenwissen entscheidend ist. Daher investieren wir auch nicht in die so genannte generelle KI für die Lösung beliebiger Probleme, sondern wir konzentrieren uns auf sehr spezifische Fragestellungen«, so Dr. Busch. Ein Beispiel dafür ist ein Pilotprojekt im Einkauf von Siemens. Das Unternehmen hat rund 200.000 Zulieferer und kauft pro Jahr für rund 40 Milliarden Euro Güter und Dienstleistungen über rund drei Millionen Bestellungen ein. »Wir verwenden für bestimmte Einkaufsmuster KI-Algorithmen und nehmen eine Eingrenzung vor auf wesentliche Daten wie Zulieferer, Zeitpunkt der Lieferung und historische Werte – der Computer kann solche Entscheidungen angesichts der Größe der Daten besser als Mitarbeiter im Einkauf treffen. Diese können sich auf strategische Themen konzentrieren.« Dank dieser Augmented-Intelligence-Lösung könne das Unternehmen einen signifikanten Betrag einsparen, so Busch.

Dass ein Companion-Ansatz zu den besten Ergebnissen führen kann, zeige sich auch bei der Auswertung von Radiologie-Daten. »Die besten Ergebnisse erzielt man, wenn KI und Radiologin oder Radiologe zusammenarbeiten. Es gibt eine Vorauswahl des Systems und die Mediziner treffen letztlich eine Entscheidung«, verdeutlicht Busch. »Wir wollen Menschen nicht eliminieren, sondern wir versuchen, sie auf das Wesentliche zu fokussieren.«

Auch beim so genannten »Generative Design« kann eine Künstliche Intelligenz Mehrwerte liefern. So hat das Unternehmen einen Hochtemperaturbrenner mit bestimmten Anforderungen von einer KI konstruieren lassen. Das Bauteil ermöglicht vom Aufbau einer Fenchelknolle inspiriert, 50 Prozent weniger Teile und 60 Prozent niedrigere Kosten. »In diesem Beispiel hat der Rechner ein Design entwickelt, auf das eine Ingenieurin oder ein Ingenieur so vielleicht nie gekommen wäre«, so Busch.

Der Markt für Künstliche Intelligenz wird in den nächsten Jahren ein Volumen von mehreren Billionen Dollar umfassen. Dennoch sieht Busch auch Hemmnisse, wie zum Beispiel Datenprobleme: So verbringen hochbezahlte KI-Fachkräfte 70 Prozent der Arbeitszeit damit, Daten aufzubereiten. Bei vielen Unternehmen – vor allem aus dem Bereich Fertigung – gebe es zu wenig Kompetenzen im Bereich KI. Punkte wie Datensicherheit und fehlendes Vertrauen in KI-Lösungen bergen zusätzliche Herausforderungen. Siemens untersuche daher intensiv, wie KI verantwortlich gestaltet werden könne, erklärbar und auch robust.

»Industrielles Design erfordert aber auch tiefes Domänenwissen«, betont Busch. »Auf der Zugstrecke Moskau und St. Petersburg sind die Betreiber mit unseren Zügen 13 Millionen Kilometer ohne einen einzigen technischen Verzug gefahren. Es gab zwar etwa so viel Verschleiß und Fehlfunktionen wie technisch zu erwarten, aber durch unsere Analytik konnten wir jeden drohenden Ausfall mit einer Genauigkeit von sieben bis zehn Tagen vorhersagen und durch rechtzeitige Wartung verhindern.« Für diese Datenauswertung ist jedoch sehr spezifisches Wissen nötig. »Daher ist das Zusammenwirken von KI-Expertinnen oder Experten und dem Fachpersonal mit Domain-Wissen entscheidend – eine Entwicklerin oder ein Entwickler kann nicht morgens an einer Lösung für eine Turbine arbeiten und abends einen Zug optimieren.«

Vertrauen  

Nicht nur bei Siemens hat man erkannt, wie entscheidend das Vertrauen in KI-Lösungen ist. Auch Prof. Dr. Thomas Wiegand, Institutsleiter des Fraunhofer HHI, setzt sich intensiv mit diesem Thema auseinander: »Wir setzen auf Big Data und Machine Learning. Dabei ist es wichtig, dass wir den Ergebnissen der KI-Methoden vertrauen können. Die von uns trainierten Deep Neural Nets (DNN) verwenden bis zu 125 Millionen Paramater in 32 Schichten und sind daher sehr komplex. Um diese zu verstehen, haben wir dediziert dazu die mathematischen Grundlagen gelegt und Algorithmen bereitgestellt.«

Das Heinrich-Hertz-Institut arbeitet an einem Verfahren, das DNNs erklärt. »Damit können wir am Eingangssignal und innerhalb des DNNs zeigen, was primär zur Klassifikation geführt hat. Wir erstellen eine Heatmap, welche eine Gewichtung der wichtigsten bis zu den unwichtigsten Merkmalen im Eingangssignal angibt. Damit kann man zum Beispiel überprüfen, warum ein Algorithmus ein Gebäude oder ein Boot erkennt.« Mit diesem Verfahren haben die Forscherinnen und Forscher vom HHI auch Projekte aus KI-Wettbewerben einer Prüfung unterzogen. Ein Gewinner-Team war besonders erfolgreich darin, Aufnahmen zu identifizieren, auf denen Pferde abgebildet sind. Wie sich in der Analyse durch das HHI zeigte, wurde dafür aber in den meisten Fällen ein bestimmter Copyright-Tag herangezogen, die KI wurde also auf diesen Tag trainiert.

Diese Rückprojektion lässt sich aber auch bei Anwendungen aus der Gesundheit einsetzen, wie etwa bei Analysen für EEG oder Brustkrebs. Fehldiagnosen im medizinischen Bereich können fatale Folge haben, daher ist das Vertrauen in die Verlässlichkeit von Künstlicher Intelligenz in der Gesundheit ein großes Problem, mit dem sich die ITU/WHO Fokusgruppe Artificial Intelligence for Health (FG-AI4H) inzwischen auseinandersetzt. Ziel dieser von Prof. Wiegand geleiteten Gruppe sind die Zertifizierungen und das Benchmarking von Prozessen und Genehmigungsverfahren für KI-Anwendungen in der Gesundheitsbranche.

Surveillance Kapitalismus  

Doch das Vertrauen in Künstliche Intelligenz hat laut Prof. Wiegand noch eine weitere Dimension, wie er im Anschluss an seinen Vortrag erklärte: »Wir erleben einen Surveillance-Kapitalismus, in dem auf der Basis von Daten, deren Nutzung wir niemals für derartige Zwecke freigegeben haben, Milliarden erwirtschaftet werden. Bei Lifestyle-Daten scheinen alle recht entspannt zu sein. Jedoch ist das ein Trugschluss. So erhielten wir zum Beispiel im Rahmen eines Treffens der FG-AI4H an der Columbia Universität einen (nicht weiterverfolgten) Vorschlag für ein Projekt zur Prädiktion der Wahrscheinlichkeit einer Opioid-Abhängigkeit auf der Basis von Lifestyle-Daten.«

Persönliche Daten, welche die Socialmedia- und andere Plattformen speichern, werden mit einer gewissen Sorglosigkeit behandelt. Bei Gesundheitsdaten dagegen herrsche größte Sensibilität. Für Prof. Wiegand könnte dieses Beispiel ein Weg zu einem umfassenden Datenschutz sein: »Vielleicht können wir das Thema der Regulierung der Gesundheitsdaten dazu nutzen, um uns von der anderen „Datenkrankheit“ zu heilen, diese Datennutzung zu regulieren und demokratisch in den Griff zu bekommen.«

Wie Dr. Busch hält auch Prof. Wiegand Domänenwissen für unabdingbar. »Das eine ist die Erhebung der Daten, das andere die Annotation durch Ärztinnen und Ärzte. Ein Thema der FG-AI4H ist eine internationale Plattform für die kollaborative Erhebung und Annotation von Gesundheitsdaten.«

Umsatzmotor Datenschutz

Keinen grundsätzlichen Widerspruch zwischen wirtschaftlichem Erfolg und einem umfassenden Datenschutz sieht dagegen Prof. Dr. Michael Waidner, Institutsleiter Fraunhofer SIT, im Gegenteil: »KI ist eine neue Form der Datenverarbeitung, aber es ist noch immer Datenverarbeitung. KI unterliegt daher auch den gleichen Regeln. Auch mit starkem Datenschutz kann man Ziele erreichen.« Geschützte Daten hätten bisher noch keine Innovation verhindert, es gelte aber, kreativ mit diesen Vorgaben umzugehen. »Warum also nicht eine Lösung wie Alexa mit einem perfekten Datenschutz entwickeln«, provoziert Waidner. Auf diese Weise ließen sich laut dem Sicherheitsexperten auch höhere Umsätze erzielen.

Doch dieses Expertenwissen ist auch bei weniger spezialisierten KI-Anwendungen absolut unabdingbar, wie Jeremie Lecomte, Senior Technical Program Manager für Alexa, Amazon deutlich macht. Der IIS-Alumnus erklärte auf die von Dr. Mertin gestellte Frage, ob künftig nur Unternehmen erfolgreich sind, die massenhaft Daten horten: »Daten ohne menschliche Annotation sind praktisch wertlos. Bei Amazon bereitet ein sehr großes Team die Daten für das Trainieren der KI-Lösungen auf. Wie Dr. Busch gesagt hat, muss man bei Problemstellungen sehr spezifisch und in einem eng umgrenzten Bereich agieren, das gilt auch für Daten. Ein generelles Machine Learning oder eine hochskalierte KI sind daher praktisch unmöglich.«

Nicht den Menschen nachbauen  

Doch was genau ist Künstliche Intelligenz? Der ausgewiesene KI-Experte Prof. Sami Haddadin der TU München und Direktor der Munich School of Robotics and Machine Intelligence lenkt ein, dass bislang keine absolute Definition [menschlicher] Intelligenz existiere. »Wir sollten daher eher eine indirekte, anekdotische Definition anlegen. Je komplexer ein System ist, je weniger vorherzusehen ist, was es ausführt, desto eher sind wir bereit, einem System eine gewisse Intelligenz zuzuschreiben. Verhaltensmuster sollten einer Unschärfe unterliegen, und man sollte auch die Variation der Umgebung mit einbeziehen. Letztendlich kann man von einer KI sprechen, wenn neben der Lernfähigkeit verschiedene Umgebungen, Variationen sinnhaft nach einer gewissen Metrik kombiniert werden.«

Mit Prof. Ina Schieferdecker, Abteilungsleiterin im Bundesministerium für Bildung und Forschung (BMBF), war auch eine Fraunhofer-Alumna in der Podiumsdiskussion vertreten. »Mit KI-Lösungen haben wir nochmal einen völlig neuen Zugang zu Entscheidungsunterstützung, Entscheidungen und Intelligenz; wir müssen nicht notwendigerweise und sollten nicht ausschließlich versuchen, uns Menschen nachzubauen«, so die ehemalige Institutsleiterin des Fraunhofer FOKUS. »Die unterschiedlichen Beispiele zeigen ja auch, dass in der Kollaboration zwischen Menschen und KI-Lösungen exzellente Ergebnisse zustande kommen – hier liegen auch in Zukunft die größten Chancen.«