Forschung

Künstliche Intelligenz

„Wir müssen KI erst kennen lernen“

Foto: AIT
„Wir verfolgen am AIT einen interdisziplinären Ansatz und integrieren schon in der Design-Phase die unterschiedlichen Anforderungen aus Zuverlässigkeitssicht (Safety), aber gleichzeitig auch die Sicherheitsanforderungen (Security)“, erklärt Helmut Leopold.
Foto: AIT

Im Rahmen des RTO Innovation Summit in Brüssel Anfang November sprach AUSTRIA INNOVATIV mit Helmut Leopold, Head of Center for Digital Safety & Security am AIT Austrian Institute of Technology über den aktuellen Status in Fragen der Künstlichen Intelligenz sowie damit verbundenen Forschungsaktivitäten des AIT.

Interview: Harald Hornacek

AI: Ist die Künstliche Intelligenz Segen oder Fluch?
HL: Weder noch. Sie ist vor allem etwas, das wir erst kennen lernen müssen. Wir sollten nicht etwas in blindem Glauben einsetzen, dessen Auswirkungen wir nicht genau verstehen. Was heute passiert, ist teilweise absurd: Es ist eine Fantasie, dass die künstliche Intelligenz wirklich intelligent ist. Daher sollte man nicht übereilt etwas einführen, sondern zunächst die Technologie verstehen lernen. Dazu brauchen wir angewandte Forschung. Das Verständnis für eine neue Technologie, das Wissen, wie ich sie anwende, aber auch, welche Verhaltenscodices bzw. Beschränkungen ich damit verbinde, sind doch essenziell! Es braucht ein wohl definiertes Umfeld.

AI: Wie soll dieses Umfeld entstehen bzw. was braucht es dazu?
HL: Anwendungsorientierte Forschung mit Endkunden zählt ebenso dazu wie Produkte für die Gesellschaft zu entwickeln und zu experimentieren. Das sollte man aber nicht, wie in der derzeitigen Phase, allein dem Markt überlassen. Wir haben ein Defizit im Verständnis der Technologie: Eine Maschine mag auf den ersten Blick bessere Entscheidungen treffen als Menschen - aber es kommt immer auf den Kontext an. Daher: Vorsicht in der Anwendung. Wir müssen lernen, wie wir die Technologie beherrschen. Wir müssen die technologischen Komponenten von KI-Systemen so designen und bauen damit wir Entscheidungen von Maschinen verstehen und nachvollziehen können. Wir testen und validieren heute Software in unterschiedlichsten Bereichen auf Fehler. Bei wichtigen Systemen wie Steuerungsanlagen für Maschinen, Autos, Zügen und Flugzeugen wird ein sehr großer Aufwand für das Testen der Systeme betrieben, damit diese auch höchst zuverlässig funktionieren. Im Bereich der Künstlichen Intelligenz ist das schon schwieriger. Hier brauchen wir neue Ansätze und neue Verfahren aus der Forschung.

AI: Wie verhält sich das mit dem automatisiert fahrenden Auto?
HL: Auch ein Auto ist ein sicherheitskritisches System. Durch die neuen Funktionen des automatisierten Fahrens welche menschliche Entscheidungen und Steuerungen ersetzen wird diese Thematik noch viel wichtiger. Auch wenn nur ein kleines Stück Software ausgetauscht wird, wird das gesamte Systemverhalten aller Einzelteile immer wieder vollständig getestet damit man sicher gehen kann, dass das Gesamtsystem auch korrekt funktioniert. Das dauert sehr lange, deshalb sind Software-Updates bei Flugzeugen von einer ganz anderen Zeitdimension, wie ein Update auf Ihrem Smartphone. Dahinter liegen strenge Regeln und der Grundsatz, dass wir die Funktionsweise der Technik verstehen und immer nachvollziehen können. Dies benötigen wir auch für die KI und damit für das automatisierte Fahren.

AI: Wobei Autos doch heute eigentlich schon Hochleistungsrechner sind....
HL: Wir sehen, dass Tesla der erste Autoproduzent ist, der Software Updates over the air macht. Aus meiner Sicht wurde hier kein Auto entwickelt im bisherigen Sinne, sondern ein gut-designtes IT-System, das auch auf eine solche "Fernwartung" bzw. ständiges Fern-Update ausgelegt wurde. Wenn nun Autos als IT-Systeme entwickelt werden, dann bringt das eine enorme Dynamik in Fragen von Safety und Security mit sich: Es erfordert das Design von ganz neuen Prozessen. Man muss bedenken, dass ein modernes Fahrzeug bereits eine hohe Komplexität aufweist und bis zu 100 Mio. Lines of Code an Software umfasst. Ein Software-Update darf keine neue Schwachstelle oder ein verändertes Fehlverhalten des gesamten Systems mit sich bringen. Bei einem Auto kann das fatale Situationen bewirken. Dies ist im Smartphone da vergleichsweise harmlos. Deshalb wird bei der Entwicklung von Autos bereits heute ein sehr großer Aufwand für das Testen der digitalen Funktionen betrieben. Durch den Einsatz der vielen weiteren Funktion für automatisches Fahren und Systemen wie künstliche Intelligenz wird der Aufwand für das Testen und Verifizieren noch wesentlich steigen und eine große Herausforderung darstellen.

AI: Wie positioniert sich das AIT in diesem Umfeld?
HL: Wir haben zu dieser besonderen Problemstellung schon vor Jahren einen eigenen Schwerpunkt gesetzt und entsprechendes Know-How und auch Lösungen für die Industrie entwickelt. Damit haben wir auch international eine besondere Rolle eingenommen. Wir verfolgen am AIT einen interdisziplinären Ansatz und integrieren schon in der Design-Phase die unterschiedlichen Anforderungen aus Zuverlässigkeitssicht (Safety) aber gleichzeitig auch die Sicherheitsanforderungen (Security). D. h. wir verfolgen Safety und Security by Design Ansätze durch besondere Entwicklungswerkzeuge für Systemmodellierungen, ergänzen dies mit modernsten Testmethoden - automatische Testfallgenerierungen - und setzen Echtzeitmonitoring-Systeme für sensibler Steuerungselektronik ein.
In vielen Industriebereichen - Steuerungssysteme in Produktionsbetrieben, Flugzeugen, Zügen oder auch Autos wurde immer schon ein hohes Augenmerk in die Sicherstellung der Safety-Anforderungen gelegt. Security war da aber oft nicht das zentrale Thema, weil es bis jetzt keine dynamischen Software-Updates oder Verbindungen über das Internet gab. So gesehen werden die modernen digitalen Autos künftig zu Flugzeugen - die notwendigen Sicherheits-Verfahren werden enorm an Bedeutung gewinnen.
Bezüglich der neuen Technologien im Zusammenhang mit KI bekommen diese Ansätze eine noch höhere Bedeutung. Wir brauchen unbedingt Erklärungsmechanismen für das Systemverhalten von KI-Systemen. "Explaniable AI" ist hier das Stichwort; d. h. KI-Systeme werden so designed und gebaut, dass das Verhalten nachvollzogen, getestet und auch verifiziert werden kann. Dazu kommt noch, dass wir nach wie vor viel zu wenig verstehen welche Faktoren KI-Systeme zu falschen Ergebnissen verleiten können. Es gibt bereits viele Forschungsprojekte die zeigen, dass mit einfachen Mitteln KI-Systeme überlistet werden können. Es genügen z. B. geringe optische Änderungen auf Straßenschildern, die für uns Menschen keinerlei Bedeutung hätten, aber einen KI-Sensor in einem Auto völlig überfordern. Eine dadurch verursachte Fehldeutung eines Stoppschildes wäre wohl ein fataler Systemfehler. Somit ist noch einiges an Forschung für das Testen, verifizieren und Zertifizieren von KI-Systemen notwendig damit wir am Ende Maschinen bauen die für uns nützlich sind und keine Gefahr darstellen. Dazu kommen noch Fragen wie Regulierung und Ethik ins Spiel. Auch hier ist erst ein klares Verständnis notwendig und wir brauchen Lösungsansätze die mögliches technisches Systemverhalten mit Anforderungen der Gesellschaft harmonisieren - und die müssen wir erst noch schaffen.

AI: Werden wir in den nächsten fünf Jahren automatisiertes Fahren erleben?
HL: Platooning, das Hintereinanderfahren von LKWs auf Autobahnen, wird sicher kommen bzw. gibt es auf Teststrecken schon, oder Taxi-Fahrten in Umgebungen mit beschränkter Komplexität - das ist technologisch nicht so aufwändig. Die Kunst wird sein, menschliches Verhalten mit dem Verhalten von Maschinen zu harmonisieren. Im dynamischen Straßenverkehr in einer Stadt kommt es zu sehr komplexen Situationen welche die Entscheidungsfähigkeit unserer digitalen Systeme sehr herausfordern wird. Denn was passiert, wenn die Maschine eine Vollbremsung macht, die der Mensch nicht als motiviert empfindet? Oder wie reagiert ein Auto - auch mit KI, wenn menschliches Verhalten für Maschinen nicht logisch ist und nicht vorhersehbar war? Da ist noch viel zu tun.

AI: Worin liegt eigentlich der große Nutzen des automatisierten Fahrens?
HL: Ich weiß nicht, ob es wirklich sein muss, dass Menschen künftig während der Autofahrt Bücher lesen. Hier werden, denke ich, Bilder erzeugt, die vielleicht in der Praxis nicht so funktionieren werden. Aber ich sehe sehr gute Chancen in Bereichen, die heute noch gar nicht so virulent sind - etwa in der Mobilität älterer Menschen außerhalb der Ballungszentren, wo es immer weniger öffentlichen Verkehr als umfassendes Angebot gibt. Darüber hinaus erwartet man weit weniger Unfälle, weniger Tote und verletze durch Verkehrsunfälle und auch weniger Staus auf unseren überlasteten Straßen welche für die Ballungszentren dieser Welt ein immer größer werdendes Problem darstellen. Das kann man den Menschen auch gut erklären und ihnen die Vorteile automatisiert fahrender Autos nahebringen.

AI: Wo liegen auf dem Weg dahin noch Herausforderungen?
HL: Eines wird der Knackpunkt der nächsten Zukunft sein: Wie schaffen wir die nötige Infrastruktur? Es braucht hier ganz neue, integrative Systeme aus Netz, Antennen, den Fahrzeugen selbst, den Verkehrsteilnehmern - das wird noch eine große Aufgabe. Und da muss ich leider feststellen: Hier liegen wir um Jahre zurück. Denn dass wir die entsprechende Netz-Infrastruktur und flächendeckende Breitbandversorgung benötigen, das wussten wir schon vor Jahren. Passiert ist zu wenig. Viel zu wenig.


 Fotos: Klima- und Energiefonds

Das Bestreben die Klimaziele zu erreichen, stellt die Industrie weltweit vor die schwierige Herausforderung schnellstmöglich neue Technologien und…

Weiterlesen

2018 startete das Projekt Smart Anergy Quarter Baden (SANBA), bei dem ein breit aufgestelltes Konsortium ein Konzept für ein Niedertemperatur-Heiz-…

Weiterlesen

Mit dem neuen Forschungsprojekt HYFOR (Hydrogen-based fine-ore reduction) entwickelt das Unternehmen Primetals Technologies eine neuartige Technologie…

Weiterlesen

Mit voraussetzungsfrei lesbaren Beiträgen aus der Welt der Forschung zeigt das Fachmagazin Austria Innovativ Unternehmer*innen auf, welche…

Weiterlesen
Grafik : Tschubby/wikipedia

Die Steiermark, seit Jahren das Land mit der höchsten F&E-Quote Österreichs, und das besonders für Mikroelektronik und ITK bekannte Kärnten gehören zu…

Weiterlesen
Grafik: Tschubby/wikipedia

Innovatives Österreich, die neue Serie von Austria Innovativ, zeigt, wo in Österreich intensiv an neuen Ideen, nachhaltigen Systemen und…

Weiterlesen
Foto: Stadt Villach/Augstein

Im Rahmen des vom Klima- und Energiefonds geförderten Pilotprojektes analysiert ein Wertstoffscanner im Müllwagen die Qualität der Mülltrennung.…

Weiterlesen
Foto: AdobeStock

Sie putzen, liefern, desinfizieren, schlichten und lenken Autos. Roboter versuchen sich auch als Krankenpfleger, Soldaten oder gar Lebenspartner. Die…

Weiterlesen
Credit: feuerwehr.at / Andreas Rieger

Wissenstransfer einmal anders: Die Einrichtung von Freiwilligen Feuerwehren an Universitäten und Fachhochschulen in der Steiermark soll Erfahrungen in…

Weiterlesen
Quelle: Rat für Forschung und Technologienentwicklung (2015): Bericht zur wissenschaftlichen und technologischen Leistungsfähigkeit Österreichs 2015. Wien, S. 47

Die Innovationsleistung eines Landes gewinnt für Regierungen immer mehr an Bedeutung, da diese konstant nach Möglichkeiten suchen, die Wirtschaft…

Weiterlesen