Kann KI ins Systems Engineering integriert werden?

Digitale Technologien revolutionieren grundlegend die Entwicklung von Produkten durch Ingenieur*innen. Die Produkte entwickeln sich zu hochkomplexen technischen Systemen, die aus einem engen Zusammenspiel der Bereiche Software, Maschinenbau und Elektrik/Elektronik entstehen. Mit Systems Engineering (SE) kann dieser steigenden Komplexität Rechnung getragen werden. Dabei kann Künstliche Intelligenz (KI) in verschiedenen Phasen des Systems Engineering eingesetzt werden, um die Entwicklungsprozesse zu verbessern und zu beschleunigen. Im Interview sprechen wir über die Integration von KI ins Systems Engineering mit drei Experten auf diesem Gebiet: Prof. Dr. Matthias Dorfner, Prof. Dr. Sebastian Schröter und Prof. Dr. Eduard Kromer.
 

Welchen Zusammenhang sehen Sie zwischen den Gebieten Systems Engineering und KI?

Prof. Dr. Dorfner: Die Verbindung zwischen Systems Engineering und KI ist sehr stark und vielfältig. KI kann in verschiedenen Phasen des Systems Engineering eingesetzt werden, sowohl in der technischen Entwicklung als auch in den technischen Systemen selbst.
 

Beginnen wir mit der technischen Entwicklung. Wie wird KI in diesem Bereich eingesetzt?

Prof. Dr. Dorfner: KI spielt eine entscheidende Rolle in der technischen Entwicklung und kann den Entwicklungsprozess erheblich verbessern und beschleunigen. Hier sind einige spezifische Anwendungen:

• Optimierung von Systementwürfen: Reinforcement Learning (RL) optimiert Designparameter, um die beste Balance zwischen Leistung und Effizienz zu finden. Beispiel: Ein RL-Algorithmus optimiert die Antriebsstrangkonfigurationen eines Elektroautos, um die Reichweite zu maximieren und die Leistung zu erhalten.
• Simulation und Vorhersage: Maschinelles Lernen ermöglicht Simulationen und Vorhersagen des Verhaltens komplexer Systeme. Beispiel: KI-Modelle simulieren Herzklappenprothesen, um deren Leistung unter verschiedenen Bedingungen zu testen und potenzielle Probleme frühzeitig zu erkennen.
• Anforderungserfassung und -analyse: Natural Language Processing (NLP)-Algorithmen extrahieren und analysieren automatisch Anforderungen aus verschiedenen Dokumenten und Quellen, um Inkonsistenzen und Lücken zu erkennen. Beispiel: Ein Automobilhersteller verwendet KI, um eine Vielzahl von Anforderungen für ein neues Fahrzeugmodell zu verwalten und sicherzustellen, dass nichts übersehen wird.
   

Wie wird KI in den technischen Systemen selbst, wie in Fahrzeugen oder Flugzeugen, eingesetzt?

Prof. Dr. Dorfner: KI in technischen Systemen zielt darauf ab, die Funktionalität, Sicherheit und Effizienz der Systeme zu verbessern. Folgende konkrete Anwendungen sind exemplarisch zu nennen:

• Benutzerunterstützung und Assistenzsysteme: Moderne Fahrzeuge sind mit KI-gestützten Fahrerassistenzsystemen ausgestattet, die die Fahrer*innen unterstützen, Hindernisse erkennen und automatisch eingreifen können. Diese Systeme verbessern die Sicherheit und den Komfort und sind ein wichtiger Trend in der Automobilindustrie.
• Zustandsüberwachung und Predictive Maintenance: KI-gestützte Systeme werden eingesetzt, um kritische Komponenten wie Flugzeugtriebwerke zu überwachen. Durch die Analyse von Sensordaten können potenzielle Ausfälle frühzeitig erkannt und Wartungsmaßnahmen optimiert werden. Predictive Maintenance ist ein wichtiger Anwendungsfall für KI in der Industrie.
• Optimierung der Betriebsabläufe: Fluggesellschaften setzen KI-Algorithmen ein, um Flugrouten zu optimieren und die Effizienz zu steigern. Durch die Analyse von Wetterdaten, Flugverkehr und anderen relevanten Informationen können die sichersten und effizientesten Routen geplant werden.
   

Wird KI die Rolle des Systems Engineers eher schwächen oder stärken?

Prof. Dr. Schröter: KI wird die Rolle des Systems Engineers in mehreren wichtigen Bereichen stärken. Im Ergebnis wird das Engineering generell wieder mehr Möglichkeiten haben, in den Kernkompetenzen wirksam zu sein und damit wieder attraktiver in der Berufsausübung zu werden.
 

Wie kann KI die Ausübung und die Zusammenarbeit im Systems Engineering konkret verbessern?

Prof. Dr. Schröter: KI kann die Zusammenarbeit auf unterschiedliche Weise erheblich verbessern:

• Automatisierung repetitiver Aufgaben: KI kann viele zeitaufwendige, wiederkehrende Aufgaben automatisieren, wie z.B. die Erfassung und Analyse von Anforderungen oder das Verifizieren und Validieren von Umfängen. Das ermöglicht Systems Engineers, sich auf komplexere und kreativere Aufgaben zu konzentrieren, die menschliche Intuition und Fachwissen erfordern.
• Verbesserte Entscheidungsfindung und Kommunikation: KI-gestützte Analyse- und Entscheidungsfindungssysteme können große Datenmengen analysieren und Muster erkennen, die für Menschen schwer zu identifizieren sind. Dies führt zu fundierteren Entscheidungen und einer Reduktion des Risikos von Fehlern. Gleichzeitig werden dem Menschen im Prozess nur die auf das Wesentliche reduzierten Informationen zur Verfügung gestellt. Dies erleichtert den Zugang zu den wichtigen Informationen und unterstützt die Zusammenarbeit zwischen verschiedenen Teams und Abteilungen.
• Effizientere Entwicklungsprozesse: Durch den Einsatz generativer KI können Designprozesse optimiert und beschleunigt werden. Generative KI kann verschiedene Designvarianten erstellen und bewerten, sodass die besten Optionen schneller identifiziert werden können. Das verbessert die Qualität und Geschwindigkeit der Systementwicklung.
• Virtuelle Assistenten: KI-basierte virtuelle Assistenten können Teams bei der Planung und Durchführung von Projekten unterstützen. Sie organisieren Aufgaben, senden Erinnerungen und stellen relevante Informationen bereit, was die Zusammenarbeit erleichtert.
   

Gibt es auch Herausforderungen bei der Integration von KI in das Systems Engineering?

Prof. Dr. Schröter: KI-Modelle benötigen große Mengen an qualitativ hochwertigen Daten, um effektiv zu funktionieren. Die Verfügbarkeit und Qualität dieser Daten können eine große Herausforderung darstellen. Der Einsatz von KI wirft ethische und datenschutzrechtliche Fragen auf, die sorgfältig geprüft werden müssen. Es ist wichtig, sicherzustellen, dass KI-Systeme verantwortungsvoll und transparent eingesetzt werden. Die Integration von KI erfordert möglicherweise Anpassungen in den Arbeitsprozessen und -strukturen. Diese Veränderungen erfordern entsprechende Schulungen und können eine Anpassung der Unternehmenskultur notwendig machen.
 

Welche Reife haben KI-Systeme und welche KI-Ansätze sind zum heutigen Stand verfügbar, Prof. Dr. Kromer?

Zum heutigen Stand haben KI-Systeme ein beachtliches Niveau erreicht und finden in vielen Bereichen Anwendung, wie beispielsweise in der Sprachverarbeitung, Bilderkennung und Entscheidungsunterstützung. Im Moment hat besonders die Entwicklung von LLMs zu relevanten Fortschritten geführt. Diese Modelle, wie GPT-4, Claude oder Gemini, sind in der Lage, menschenähnliche Texte zu generieren und komplexe Aufgaben zu bewältigen, die vor ein paar Jahren noch nicht greifbar erschienen.

Der Trainingsprozess von LLMs basiert auf dem Prinzip des maschinellen Lernens, bei dem Algorithmen anhand von Daten lernen und sich verbessern. Hierbei unterscheidet man verschiedene Ansätze:

• Unüberwachtes Lernen: Das Modell lernt selbstständig Muster und Strukturen in den Daten zu erkennen, ohne dass eine explizite Anleitung oder Kategorisierung vorgegeben wird.
• Selbstüberwachtes Lernen: Das Modell generiert selbst Trainingsdaten, indem es Teile der Eingabe maskiert und versucht, diese zu rekonstruieren. Dieser Ansatz wird häufig bei LLMs eingesetzt.
• Überwachtes Lernen: Dem Modell werden Eingabedaten zusammen mit den gewünschten Ausgaben präsentiert. Es lernt, die richtigen Vorhersagen zu treffen, indem es die Abweichungen zwischen seinen Vorhersagen und den tatsächlichen Werten minimiert.
• Reinforcement Learning: Das Modell lernt durch Interaktion mit einer Umgebung und erhält Belohnungen oder Bestrafungen für seine Aktionen. Es versucht, die langfristige Belohnung zu maximieren.

Durch die Kombination dieser Ansätze und die Verwendung enormer Datenmengen können LLMs ein breites Wissen erwerben und auf neue Aufgaben übertragen.

Trotz der beeindruckenden Fortschritte gibt es noch Herausforderungen, wie beispielsweise die Erklärbarkeit von KI-Entscheidungen, die Vermeidung von Bias – also dem systematischen Verzerren von Ergebnissen oder Verhaltensweisen eines KI-Modells, bspw. auf Basis unausgewogener oder fehlerhafter Daten – und die Gewährleistung von Datenschutz und Sicherheit. Gerade bei der Anwendung in sensiblen Bereichen, wie der Medizin oder dem Finanzwesen, ist es entscheidend, dass KI-Entscheidungen nachvollziehbar und frei von unerwünschtem Bias sind.

Ein Problem besteht darin, dass KI-Systeme oftmals den Bias und die Ungleichheiten, die in den Trainingsdaten vorhanden sind, erlernen und reproduzieren können. Wenn beispielsweise historische Daten verwendet werden, die von diskriminierenden Praktiken geprägt sind, kann dies zu unfairen Entscheidungen führen. Um dies zu vermeiden, müssen die Trainingsdaten sorgfältig aufbereitet und auf Bias untersucht werden. Zudem können spezielle Algorithmen eingesetzt werden, die während des Trainings auf eine faire Behandlung aller Gruppen achten.

Ein weiterer Aspekt ist die Erklärbarkeit von KI-Entscheidungen. Gerade bei komplexen Modellen, wie tiefen neuronalen Netzen ist es oft schwierig nachzuvollziehen, wie eine bestimmte Entscheidung zustande gekommen ist. Dies kann zu Akzeptanzproblemen führen und die Haftungsfrage erschweren. Forschungsansätze wie "Explainable AI" versuchen, die Entscheidungsfindung von KI-Systemen transparenter zu machen, indem sie Erklärungen und Visualisierungen generieren.

Hybride Ansätze, die verschiedene KI-Techniken kombinieren (siehe beispielsweise AlphaGeometry und AlphaProof), könnten in Zukunft eine wichtige Rolle spielen, um die Sicherheit und Zuverlässigkeit von KI-Systemen zu erhöhen. So können diese Methoden auch in Domänen erfolgreich gemacht werden, in denen große Datenmengen für das Ende-zu-Ende Training tiefer neuronaler Netze (noch) nicht zur Verfügung stehen. Auch physics-based Machine Learning (ML) bietet eine vielversprechende Möglichkeit, physikalisches Wissen in ML-Algorithmen zu integrieren und damit die Leistungsfähigkeit, Interpretierbarkeit und Robustheit von KI-Systemen zu verbessern. Durch die Kombination von datengetriebenen Ansätzen mit physikalischen Prinzipien ergeben sich neue Wege, um komplexe Probleme in verschiedenen Anwendungsbereichen, wie der Robotik, der Materialwissenschaft oder der Klimamodellierung anzugehen. Durch kontinuierliche Forschung und Weiterentwicklung der Trainingsmethoden und den Einsatz hybrider Systeme (in den richtigen Domänen) ist zu erwarten, dass KI-Systeme in Zukunft noch leistungsfähiger und vielseitiger werden.
 

Wie sehen Sie die Zukunft des Systems Engineering mit KI?

Alle Experten: Die Zukunft des Systems Engineering mit KI erscheint sehr vielversprechend. KI wird die Effizienz und Qualität von Entwicklungsprozessen weiterhin verbessern und gleichzeitig neue Möglichkeiten eröffnen. Systems Engineers werden in der Lage sein, sich auf strategischere Aufgaben zu konzentrieren, während KI die repetitiven und datenintensiven Aufgaben übernimmt.

Die Kombination menschlicher Kreativität und Intuition mit der analytischen und datengetriebenen Fähigkeit der KI wird zu besseren und innovativeren Lösungen führen. Die Rolle des Systems Engineers wird durch den Zugang zu leistungsfähigeren Werkzeugen und besseren Entscheidungsgrundlagen gestärkt.