Next Generation Computing

Edge AI soll die künstliche Intelligenz dorthin bringen, wo sie gebraucht wird: in die Endgeräte. Benötigt werden dazu Chips, Algorithmen und Tools –  in den Projekten ANDANTE und TEMPO arbeiten Forscherinnen und Forscher des Fraunhofer IIS an der Zukunftstechnologie.

Denken ist anstrengend. Das gilt auch für Computer: Sollen sie per künstlicher Intelligenz Entscheidungen treffen, benötigen sie dazu sogar deutlich mehr Power als Menschen und Tiere. So braucht ein spezialisierter KI-Prozessor 7000-mal mehr Energie als ein Bienenhirn, um z.B. eine Blume in einem Bild zu erkennen. Problematisch ist dieser hohe Energieverbrauch vor allem dann, wenn die künstliche Intelligenz in die Endgeräte verlegt werden soll – etwa in Sensoren, die in einer Brücke verbaut erkennen sollen, ob sich die Spannung des Bauwerks ändert, oder in tragbare Geräte, die sich per Sprachsteuerung ein- und ausschalten lassen. Man spricht dabei auch von Edge AI.

Gerade diese Art der künstlichen Intelligenz bietet viele Vorteile: Sie funktioniert auch da, wo keine Internetverbindung möglich ist. Sie arbeitet deutlich schneller als herkömmliche AI, bei der die Daten an eine Cloud geschickt und dort analysiert werden. Und sie wahrt die Privatsphäre, Datenhoheit, Security und Safety, da die Daten nicht oder nur in absolut notwendigem Maße aus der Hand gegeben werden. Bislang hapert es jedoch vor allem am großen Energieverbrauch der Komponenten. Doch wie lässt sich der Energieverbrauch für die künstliche Intelligenz derart stark senken, dass Edge-AI-Anwendungen möglich werden? Beim Fraunhofer IIS stellen sich Dr. Marco Breiling und Dr. Loreto Mateu in ihren Teams dieser Herausforderung gleich in zwei Projekten: im Projekt TEMPO und im Projekt ANDANTE, an dem neben zahlreichen anderen Partnern auch die Fraunhofer- Einrichtung für Mikrosysteme und Festkörper-Technologien EMFT und das Fraunhofer-Institut für Photonische Mikrosysteme IPMS beteiligt sind. »Wir entwickeln die für Edge AI nötigen energiesparenden Chips, Hardware- Aware-Algorithmen sowie die entsprechenden Tools. Bei diesen Tools haben wir bereits bei der Entwicklung von Algorithmen die Begrenzungen der Hardware im Blick und berücksichtigen sie bei der Optimierung«, sagt Dr. Marco Breiling, Chief Scientist im Forschungsbereich Kommunikationssysteme. Im Projekt TEMPO baut das Forscherteam am Anwendungsbeispiel Radar und Lidar die Grundlagen auf, in ANDANTE setzt es am Beispiel von Sprachaktivitätserkennung darauf auf.

Der Clou liegt bei beiden Projekten in dem Mix aus Digital-Analog-Technologien, der die Vorteile beider Ansätze vereint. »Multiplikationen und Additionen lassen sich gut analog durchführen – somit können wir für diese Anwendungen eine komplexe digitale Schaltung umgehen, die viel Energie verbrauchen würde«, verrät Dr. Loreto Mateu, Gruppenleiterin im Forschungsbereich Smart Sensing and Electronics, die für die Entwicklung der analogen Komponenten zuständig ist. Für die Steuerung dagegen sind digitale Schaltungen nötig, die aus Breilings Team stammen. Analoge und digitale Schaltungen, die genau für bestimmte KI-Anwendungen entwickelt werden, machen Egde AI erst möglich.