„Wie der Soldat müssen auch die Algorithmen passend zum Kontext trainiert werden“

Künstliche Intelligenz (KI) ist ist eine der der aktuell meistdiskutierten Technologien im militärischen Kontext. Soldat & Technik sprach mit Wolfgang Pfab, Director Technology der Vected GmbH, und Dr. Andreas de Jonge, Head of Artificial Intelligence, über den Einsatz von KI in Zieloptiken und den Ansatz der KI-Entwicklung in dem fränkischen Unternehmen.

S&T: Bevor wir über Funktionen der KI im Zusammenhang mit Zieloptiken sprechen, sollten wir den Begriff einordnen. Was genau soll man sich im Zusammenhang mit Zielgeräten unter KI vorstellen?

de Jonge: Mit dem Begriffspaar Künstliche Intelligenz wird heute sehr viel Unterschiedliches verbunden. Unter KI versteht man eine Klasse von Algorithmen, die innerhalb von Menschen abgesteckten Rahmenbedingungen selbstständig lernen können.

In unseren Wärmebildgeräten dient die KI dazu, Anwender bei der Objekterkennung und -einschätzung zu unterstützen. Im ersten Schritt werden die heute manuellen Eingriffsmöglichkeiten, die häufig aufgrund mangelnder Erfahrung von den Anwendern nicht genutzt werden, durch KI automatisiert.

KI basiert auf neuronalen Netzen. Ein solches Netz wird im Sinne der Anwendung trainiert; in unseren militärischen und polizeilichen Anwendungsfällen vor allem, um potenzielle Bedrohungsszenarien schnell und zuverlässig erkennen zu können, z. B. zur Detektion von Waffen. Theoretisch könnte man sich neuronale Netze im Internet downloaden. Wir entwickeln diese Netze bei Vected jedoch selbst. Das ist unseres Erachtens sehr wichtig, denn nur so können wir sicherstellen, dass die Architektur des Netzes und das Training optimal auf die Anwendungsfälle abgestimmt sind.

Da es sich bei unseren Wärmebildkameras um Sicherheitskritische Systeme handelt, legen wir beim Design unserer neuronalen Netze und Algorithmen großen Wert auf redundante Entscheidungsprozesse. Eine getroffene Entscheidung muss hohe Sicherheitsanforderungen erfüllen.

S&T: Welchen Beitrag kann / soll KI in Zieloptiken bzw. Zieloptroniken leisten?

de Jonge: Die Künstliche Intelligenz in unseren Wärmebildgeräten unterstützt bei der Entscheidungsfindung, die Entscheidung selbst trifft weiterhin der Mensch. Da die KI klassischen Algorithmen weit überlegen ist, wird die Qualität der Bildinformation um ein Vielfaches besser und damit auch die Qualität der Entscheidung.

Die Zieloptiken mit KI können nicht nur bei der Objekterkennung, sondern auch beim Tracking von Objekten eingesetzt werden. Man muss sich das so vorstellen, dass dem Objekt eine Art Label verpasst wird, sodass das Bewegungsmuster erkennbar ist und beispielsweise daraufhin analysiert werden kann, ob von dem Objekt eine Gefahr ausgeht.

S&T: Welche Anforderungen wird so ein Gerät an den Nutzer stellen?

Pfab: Für den Umgang mit der integrierten KI benötigt der Anwender keine zusätzliche Vorbildung. Das Deuten der Wärmebilder wird sogar einfacher, da die KI mit Informationen unterstützt, beispielsweise mit einer prozentualen Gefahrenanzeige („90 % Waffe“). Für ungeübte Anwender kann dies eine große Erleichterung darstellen.

S&T: Wie muss so ein Gerät (Hard- und Software) gestaltet sein, damit es auch militärisch zweckmäßig genutzt werden kann?

Pfab: Unsere Wärmebildgeräte werden für den behördlich-militärischen Einsatzzweck konstruiert, ob mit oder ohne KI. Eine entsprechende Robustheit ist per se gegeben. Besonderen Wert legen wir aufgrund des Einsatzzweckes auf die Sicherheit der Ergebnisse. Wir stecken viel Entwicklungszeit in das Training der neuronalen Netze und die Qualitätsprüfung, um eine ausgereifte und allen Sicherheitskriterien standhaltende Lösung zu präsentieren.

S&T: Welche Möglichkeiten gibt es zu verhindern, dass sich potentielle Gegner auf die Leistungsfähigkeit der KI einstellen und diese dann bewusst täuschen?

de Jonge: Dieses Katz- und Maus-Spiel begegnet einem im Grunde immer bei IT-Entwicklungen. Mit zwei Punkten halten wir bei unserer Wärmebildtechnik dagegen: Unsere Geräte sind updatefähig und wir entwickeln diese und auch die KI permanent weiter. Updates können problemlos vom Anwender eingespielt werden. Der zweite Punkt ist der Anwender selbst: Er hat die Einsatzerfahrung und behält die Entscheidungshoheit. Damit legt sich ein potenzieller Gegner mit mindestens „zwei Intelligenzen“ an.

S&T: Wie kam Vected dazu sich dem Thema KI zu stellen?

Pfab: Von Haus aus entwickeln wir die Elektronik für unsere Wärmebildgeräte selbst. Unsere F&E-Abteilung ist sozusagen das Herz unseres Unternehmens. Da lag es nahe, sich mit diesem zukunftsweisenden Thema zu beschäftigen.

S&T: Wie geht Vected das Thema KI an?

Pfab: Da wir aktuell auf keinen Fördertopf zugreifen, finanzieren wir unsere Entwicklungsarbeit durch Eigenmittel. Mit Dr. de Jonge haben wir uns einen erfahrenen KI-Spezialisten ins Team geholt, der unsere Entwicklungsarbeit an dieser Stelle leitet und vorantreibt.

S&T: Gibt es für KI-Themen generell keine Fördertöpfe?

Pfab: Im Bereich KI gibt es eine recht scharfe Trennung in der Förderung von zivilen und militärisch genutzten Projekten. Die KI-Initiative des Bundes schließt z.B. die Förderung von Projekten mit militärischem Hintergrund aus.

Es gibt auch militärische und polizeiliche Fördermöglichkeiten, jedoch ist der Verwaltungsaufwand für ein kleines Unternehmen immer abzuwägen.

S&T: Wieso die Eigenentwicklung, wieso nicht einfach „externe“ KI kaufen und anpassen?

de Jonge: Vor allem aufgrund der bereits erwähnten „Vorgeschichte des neuronalen Netzes“. Wenn ein heruntergeladenes Netz (vielfach muss man es sich nicht mal kaufen) beispielsweise mit 5.000.000 zivilen Beispielbildern vortrainiert wurde, davon für unseren Einsatzzweck völlig ungeeignete, dann kann ich die Ergebnisse kaum beeinflussen. Ebenso wie ein Soldat ein spezifisches Training, ausgerichtet an seinem späteren Einsatz erhält, so müssen auch die Algorithmen passend zum Kontext trainiert werden.

Für uns ist es wichtig, dass die Entscheidung der KI, also das angezeigte Ergebnis, nachvollzogen werden kann und damit überprüfbar wäre. Wir können jede Darstellung der KI zurückrechnen auf den Bildbereich, der ausschlaggebend für das angezeigte Ergebnis war.

S&T: Können Sie das Projekt komplett alleine stemmen, oder brauchen Sie eine externe Unterstützung für die Entwicklung einer guten und funktionalen KI?

Pfab: Wir wünschen uns eine Zusammenarbeit mit erfahrenen Einsatzkräften aus Bundeswehr und Polizei, um deren Wissen in die Entwicklung bzw. Weiterentwicklung einfließen lassen zu können. Davon profitieren die Anwender und wir.

S&T: Wann wären erste einsatzfähige Geräte denkbar, und wie werden diese aussehen bzw. welche Leistungen werden diese erbringen?

Pfab: Wir gehen davon aus, dass wir auf der EnforceTac im kommenden Jahr neue Wärmebildgeräte mit KI präsentieren können. Aber auch unsere aktuellen Systeme werden bestimmte Funktionen als Update erhalten.

Die Rechenleistung, die für komplexe neuronale Netze benötigt wird, ist enorm, ebenso die Anstrengungen, die in diesem Feld in die Forschung und Entwicklung fließen. Wir werden über die nächsten Jahre deutliche Fortschritte bei der Leistungsfähigkeit von künstlichen Intelligenzen sehen.

S&T: Haben Sie noch abschließende Bemerkungen?

de Jonge: KI begleitet uns im täglichen Leben bereits umfänglicher als den meisten bewusst ist und wird in der Gesellschaft (teilweise berechtigt) kritisch bewertet.

Verantwortungsvoll eingesetzt birgt KI große Chancen. Wir sehen es auch als unsere Aufgabe hier zu Informieren und für einen verantwortungsvollen Umgang mit KI einzustehen.

Das Interview führte Waldemar Geiger.