Künstliche Intelligenz ist die treibende Kraft hinter vielen aktuellen technologischen Fortschritten, wie z. B. autonomes Fahren und ChatGPT. Die Hardware, auf der diese Algorithmen laufen, wird aber noch immer intensiv weiterentwickelt, vor allem, wenn sie sich in einem Edge Device, z. B. einer Smartwatch, befindet.
Es gibt zahlreiche Anwendungsszenarien (Keywordspotting, Kameraoptimierung, Überwachung von Gesundheitsdaten, ...), die alle von Vorteilen profitieren können, wenn der Algorithmus in der Nähe des Nutzers und der Datenquelle läuft. Es wird weniger Bandbreite für die Übertragung von Rohdaten an einen Server benötigt, der Datenschutz wird garantiert und die Latenzzeit für die Übertragung von Daten an eine entfernte KI-Hardware entfällt.
Unsere Arbeit konzentriert sich auf die Bedürfnisse zweier Beteiligter beim Einsatz einer KI-Lösung at-the-Edge: Nutzer erwarten eine schnelle und stromsparende Hardware, die in kürzester Zeit Ergebnisse liefert und den Akku des Smartphones oder Wearables nicht belastet. Auf der anderen Seite sind die Entwickler von KI-Algorithmen auf einen wirksamen Schutz ihrer aufwändig entworfenen oder trainierten KI-Modelle gegen den Diebstahl geistigen Eigentums angewiesen.
