SMILE4KMU: Sicheres Maschinelles Lernen für den Mittelstand

Verfahren des maschinellen Lernens (ML) halten verstärkt Einzug in die Entwicklungsprozesse von mittelständischen Unternehmen. Somit ergänzen sie deren klassische Softwarenentwicklung und spezifischen Wertschöpfungsketten. Unter dem Stichwort „Sicherer Softwarelebenszyklus“ wurden in den letzten Jahren erhebliche Fortschritte in der sicheren Entwicklung von traditioneller Software erzielt. Dies beinhaltet eine strukturierte Vorgehensweise in der Softwareentwicklung mit dem Ziel, jede einzelne Entwicklungsphase im Hinblick auf sichere Anwendungen hin zu optimieren. Jedoch lässt sich beobachten, dass es für Verfahren des maschinellen Lernens und deren Integration in Entwicklungsprozesse bisher nur wenig übergreifende Sicherheitsansätze gibt. Zeitgleich lassen sich aber in der Praxis und Literatur vermehrt Angriffe gegen Phasen und Verfahren des maschinellen Lernens beobachten.

Ziel muss es daher sein, dass insbesondere KMU in die Lage versetzt werden:

• Prozesse des maschinellen Lernens strukturiert und nachvollziehbar abzusichern;
• Trainingsdaten und insb. ihre erstellten Modelle zu schützen und ggf. zu lizenzieren;
• Dies mit einem für KMU betriebswirtschaftlich machbaren Aufwands umzusetzen.

Um diese Ziele zu erreichen, fokussieren die Arbeiten der Wibu-Systems auf den Schutz und kommerzielle Lizensierung der Modelle, dabei werden die Phasen des ML-Lifecycle (MLL) auf unterstützende Sicherheitsmaßnahmen untersucht und Lösungen erarbeitet. Hierfür werden, aufbauend auf den Ergebnissen der Analyse potenzieller Gefahren und Anforderungen aus Sicht der Industrie und Praxis, Möglichkeiten zum Schutz der Integrität sowie des geistigen Eigentums trainierter Modelle erarbeitet und in einem Demonstrator / Proof of Concept umgesetzt. Dabei werden Möglichkeiten der Lizenzierung von Modellen untersucht wie (Teil-)Zugriff, wählbare Granularität oder Einschränkung der Zugriffsfrequenz. Die Modelldaten sollen dabei mit geeigneten kryptographischen Methoden geschützt werden sowohl vor Manipulation als auch vor Diebstahl oder unerlaubtem Zugriff.

Es wird zudem die zentrale Frage bearbeitet, „wie tief“ Securitylösungen in den MLL integriert werden können (und sollten). Natürlich könnte die dem trainierten Modell zugrundeliegende Datei mit bereits existierenden Produkten geschützt werden (Wibu-Systems AxProtector für die Datei und Wibu-Systems CodeMeter für den eigentlichen Zugriff). Sinnvoller wäre es allerdings, den Zugriffsschutz und Nutzungsbedingungen bereits während der Trainingsphase zu definieren (also vor der zeitintensiven Erstellung des Modells) und in das Modell zu integrieren. Möglichkeiten hierfür werden im Teilvorhaben von Wibu-Systems untersucht.