Künstliche Intelligenz ist die treibende Kraft hinter vielen aktuellen technologischen Fortschritten, wie z. B. autonomes Fahren und ChatGPT. Die Hardware, auf der diese Algorithmen laufen, wird aber noch immer intensiv weiterentwickelt, vor allem, wenn sie sich in einem Edge Device, z. B. einer Smartwatch, befindet.

Es gibt zahlreiche Anwendungsszenarien (Keywordspotting, Kameraoptimierung, Überwachung von Gesundheitsdaten, ...), die alle von Vorteilen profitieren können, wenn der Algorithmus in der Nähe des Nutzers und der Datenquelle läuft. Es wird weniger Bandbreite für die Übertragung von Rohdaten an einen Server benötigt, der Datenschutz wird garantiert und die Latenzzeit für die Übertragung von Daten an eine entfernte KI-Hardware entfällt.

Unsere Arbeit konzentriert sich auf die Bedürfnisse zweier Beteiligter beim Einsatz einer KI-Lösung at-the-Edge: Nutzer erwarten eine schnelle und stromsparende Hardware, die in kürzester Zeit Ergebnisse liefert und den Akku des Smartphones oder Wearables nicht belastet. Auf der anderen Seite sind die Entwickler von KI-Algorithmen auf einen wirksamen Schutz ihrer aufwändig entworfenen oder trainierten KI-Modelle gegen den Diebstahl geistigen Eigentums angewiesen.

S. Wilhelmstätter: Funktionen aus dem Bereich der Künstlichen Intelligenz (KI) und speziell der Neuronalen Netzwerk (NN) Inferenz finden sich immer mehr in ressourcenbeschränkten Geräten, die komplexe Berechnungen nicht auf externe Server auslagern können. Dieses "Edge-AI"- Paradigma führt zu neuen Sicherheitsherausforderungen, da die Angreifer nun, zusätzlich zu bekannten Angriffen, einen physikalischen Zugriff auf Geräte haben und Seitenkanal- und Fehlerinjektionsangriffe durchführen können ... [mehr]

J. Conrad: EdgeAI ist das verteilte Computing-Paradigma für die Ausführung von Machine-Learning-Algorithmen in der Nähe des Sensors. Im Vergleich zu zentralisierten, z. B. Cloud-basierten Lösungen werden Datensicherheit, niedrige Latenzzeiten und geringere Bandbreiten erreicht. Gleichzeitig besteht das große Problem, dass der Stromverbrauch der heutigen tiefen neuronalen Netze (die häufigste Art von Machine-Learning-Algorithmen) für solche Anwendungen viel zu hoch ist. ... [mehr]