Forschung

Künstliche Intelligenz

„Wir müssen KI erst kennen lernen“

Foto: AIT
„Wir verfolgen am AIT einen interdisziplinären Ansatz und integrieren schon in der Design-Phase die unterschiedlichen Anforderungen aus Zuverlässigkeitssicht (Safety), aber gleichzeitig auch die Sicherheitsanforderungen (Security)“, erklärt Helmut Leopold.
Foto: AIT

Im Rahmen des RTO Innovation Summit in Brüssel Anfang November sprach AUSTRIA INNOVATIV mit Helmut Leopold, Head of Center for Digital Safety & Security am AIT Austrian Institute of Technology über den aktuellen Status in Fragen der Künstlichen Intelligenz sowie damit verbundenen Forschungsaktivitäten des AIT.

Interview: Harald Hornacek

AI: Ist die Künstliche Intelligenz Segen oder Fluch?
HL: Weder noch. Sie ist vor allem etwas, das wir erst kennen lernen müssen. Wir sollten nicht etwas in blindem Glauben einsetzen, dessen Auswirkungen wir nicht genau verstehen. Was heute passiert, ist teilweise absurd: Es ist eine Fantasie, dass die künstliche Intelligenz wirklich intelligent ist. Daher sollte man nicht übereilt etwas einführen, sondern zunächst die Technologie verstehen lernen. Dazu brauchen wir angewandte Forschung. Das Verständnis für eine neue Technologie, das Wissen, wie ich sie anwende, aber auch, welche Verhaltenscodices bzw. Beschränkungen ich damit verbinde, sind doch essenziell! Es braucht ein wohl definiertes Umfeld.

AI: Wie soll dieses Umfeld entstehen bzw. was braucht es dazu?
HL: Anwendungsorientierte Forschung mit Endkunden zählt ebenso dazu wie Produkte für die Gesellschaft zu entwickeln und zu experimentieren. Das sollte man aber nicht, wie in der derzeitigen Phase, allein dem Markt überlassen. Wir haben ein Defizit im Verständnis der Technologie: Eine Maschine mag auf den ersten Blick bessere Entscheidungen treffen als Menschen - aber es kommt immer auf den Kontext an. Daher: Vorsicht in der Anwendung. Wir müssen lernen, wie wir die Technologie beherrschen. Wir müssen die technologischen Komponenten von KI-Systemen so designen und bauen damit wir Entscheidungen von Maschinen verstehen und nachvollziehen können. Wir testen und validieren heute Software in unterschiedlichsten Bereichen auf Fehler. Bei wichtigen Systemen wie Steuerungsanlagen für Maschinen, Autos, Zügen und Flugzeugen wird ein sehr großer Aufwand für das Testen der Systeme betrieben, damit diese auch höchst zuverlässig funktionieren. Im Bereich der Künstlichen Intelligenz ist das schon schwieriger. Hier brauchen wir neue Ansätze und neue Verfahren aus der Forschung.

AI: Wie verhält sich das mit dem automatisiert fahrenden Auto?
HL: Auch ein Auto ist ein sicherheitskritisches System. Durch die neuen Funktionen des automatisierten Fahrens welche menschliche Entscheidungen und Steuerungen ersetzen wird diese Thematik noch viel wichtiger. Auch wenn nur ein kleines Stück Software ausgetauscht wird, wird das gesamte Systemverhalten aller Einzelteile immer wieder vollständig getestet damit man sicher gehen kann, dass das Gesamtsystem auch korrekt funktioniert. Das dauert sehr lange, deshalb sind Software-Updates bei Flugzeugen von einer ganz anderen Zeitdimension, wie ein Update auf Ihrem Smartphone. Dahinter liegen strenge Regeln und der Grundsatz, dass wir die Funktionsweise der Technik verstehen und immer nachvollziehen können. Dies benötigen wir auch für die KI und damit für das automatisierte Fahren.

AI: Wobei Autos doch heute eigentlich schon Hochleistungsrechner sind....
HL: Wir sehen, dass Tesla der erste Autoproduzent ist, der Software Updates over the air macht. Aus meiner Sicht wurde hier kein Auto entwickelt im bisherigen Sinne, sondern ein gut-designtes IT-System, das auch auf eine solche "Fernwartung" bzw. ständiges Fern-Update ausgelegt wurde. Wenn nun Autos als IT-Systeme entwickelt werden, dann bringt das eine enorme Dynamik in Fragen von Safety und Security mit sich: Es erfordert das Design von ganz neuen Prozessen. Man muss bedenken, dass ein modernes Fahrzeug bereits eine hohe Komplexität aufweist und bis zu 100 Mio. Lines of Code an Software umfasst. Ein Software-Update darf keine neue Schwachstelle oder ein verändertes Fehlverhalten des gesamten Systems mit sich bringen. Bei einem Auto kann das fatale Situationen bewirken. Dies ist im Smartphone da vergleichsweise harmlos. Deshalb wird bei der Entwicklung von Autos bereits heute ein sehr großer Aufwand für das Testen der digitalen Funktionen betrieben. Durch den Einsatz der vielen weiteren Funktion für automatisches Fahren und Systemen wie künstliche Intelligenz wird der Aufwand für das Testen und Verifizieren noch wesentlich steigen und eine große Herausforderung darstellen.

AI: Wie positioniert sich das AIT in diesem Umfeld?
HL: Wir haben zu dieser besonderen Problemstellung schon vor Jahren einen eigenen Schwerpunkt gesetzt und entsprechendes Know-How und auch Lösungen für die Industrie entwickelt. Damit haben wir auch international eine besondere Rolle eingenommen. Wir verfolgen am AIT einen interdisziplinären Ansatz und integrieren schon in der Design-Phase die unterschiedlichen Anforderungen aus Zuverlässigkeitssicht (Safety) aber gleichzeitig auch die Sicherheitsanforderungen (Security). D. h. wir verfolgen Safety und Security by Design Ansätze durch besondere Entwicklungswerkzeuge für Systemmodellierungen, ergänzen dies mit modernsten Testmethoden - automatische Testfallgenerierungen - und setzen Echtzeitmonitoring-Systeme für sensibler Steuerungselektronik ein.
In vielen Industriebereichen - Steuerungssysteme in Produktionsbetrieben, Flugzeugen, Zügen oder auch Autos wurde immer schon ein hohes Augenmerk in die Sicherstellung der Safety-Anforderungen gelegt. Security war da aber oft nicht das zentrale Thema, weil es bis jetzt keine dynamischen Software-Updates oder Verbindungen über das Internet gab. So gesehen werden die modernen digitalen Autos künftig zu Flugzeugen - die notwendigen Sicherheits-Verfahren werden enorm an Bedeutung gewinnen.
Bezüglich der neuen Technologien im Zusammenhang mit KI bekommen diese Ansätze eine noch höhere Bedeutung. Wir brauchen unbedingt Erklärungsmechanismen für das Systemverhalten von KI-Systemen. "Explaniable AI" ist hier das Stichwort; d. h. KI-Systeme werden so designed und gebaut, dass das Verhalten nachvollzogen, getestet und auch verifiziert werden kann. Dazu kommt noch, dass wir nach wie vor viel zu wenig verstehen welche Faktoren KI-Systeme zu falschen Ergebnissen verleiten können. Es gibt bereits viele Forschungsprojekte die zeigen, dass mit einfachen Mitteln KI-Systeme überlistet werden können. Es genügen z. B. geringe optische Änderungen auf Straßenschildern, die für uns Menschen keinerlei Bedeutung hätten, aber einen KI-Sensor in einem Auto völlig überfordern. Eine dadurch verursachte Fehldeutung eines Stoppschildes wäre wohl ein fataler Systemfehler. Somit ist noch einiges an Forschung für das Testen, verifizieren und Zertifizieren von KI-Systemen notwendig damit wir am Ende Maschinen bauen die für uns nützlich sind und keine Gefahr darstellen. Dazu kommen noch Fragen wie Regulierung und Ethik ins Spiel. Auch hier ist erst ein klares Verständnis notwendig und wir brauchen Lösungsansätze die mögliches technisches Systemverhalten mit Anforderungen der Gesellschaft harmonisieren - und die müssen wir erst noch schaffen.

AI: Werden wir in den nächsten fünf Jahren automatisiertes Fahren erleben?
HL: Platooning, das Hintereinanderfahren von LKWs auf Autobahnen, wird sicher kommen bzw. gibt es auf Teststrecken schon, oder Taxi-Fahrten in Umgebungen mit beschränkter Komplexität - das ist technologisch nicht so aufwändig. Die Kunst wird sein, menschliches Verhalten mit dem Verhalten von Maschinen zu harmonisieren. Im dynamischen Straßenverkehr in einer Stadt kommt es zu sehr komplexen Situationen welche die Entscheidungsfähigkeit unserer digitalen Systeme sehr herausfordern wird. Denn was passiert, wenn die Maschine eine Vollbremsung macht, die der Mensch nicht als motiviert empfindet? Oder wie reagiert ein Auto - auch mit KI, wenn menschliches Verhalten für Maschinen nicht logisch ist und nicht vorhersehbar war? Da ist noch viel zu tun.

AI: Worin liegt eigentlich der große Nutzen des automatisierten Fahrens?
HL: Ich weiß nicht, ob es wirklich sein muss, dass Menschen künftig während der Autofahrt Bücher lesen. Hier werden, denke ich, Bilder erzeugt, die vielleicht in der Praxis nicht so funktionieren werden. Aber ich sehe sehr gute Chancen in Bereichen, die heute noch gar nicht so virulent sind - etwa in der Mobilität älterer Menschen außerhalb der Ballungszentren, wo es immer weniger öffentlichen Verkehr als umfassendes Angebot gibt. Darüber hinaus erwartet man weit weniger Unfälle, weniger Tote und verletze durch Verkehrsunfälle und auch weniger Staus auf unseren überlasteten Straßen welche für die Ballungszentren dieser Welt ein immer größer werdendes Problem darstellen. Das kann man den Menschen auch gut erklären und ihnen die Vorteile automatisiert fahrender Autos nahebringen.

AI: Wo liegen auf dem Weg dahin noch Herausforderungen?
HL: Eines wird der Knackpunkt der nächsten Zukunft sein: Wie schaffen wir die nötige Infrastruktur? Es braucht hier ganz neue, integrative Systeme aus Netz, Antennen, den Fahrzeugen selbst, den Verkehrsteilnehmern - das wird noch eine große Aufgabe. Und da muss ich leider feststellen: Hier liegen wir um Jahre zurück. Denn dass wir die entsprechende Netz-Infrastruktur und flächendeckende Breitbandversorgung benötigen, das wussten wir schon vor Jahren. Passiert ist zu wenig. Viel zu wenig.


Höchste Auszeichnung des BMVIT mit dem Motto „Wirtschaftsmotor Innovation“. Bis 16. Juli 2019 können innovative Konzepte, Produkte und Lösungen…

Weiterlesen
Credit: feuerwehr.at / Andreas Rieger

Wissenstransfer einmal anders: Die Einrichtung von Freiwilligen Feuerwehren an Universitäten und Fachhochschulen in der Steiermark soll Erfahrungen in…

Weiterlesen
Quelle: Rat für Forschung und Technologienentwicklung (2015): Bericht zur wissenschaftlichen und technologischen Leistungsfähigkeit Österreichs 2015. Wien, S. 47

Die Innovationsleistung eines Landes gewinnt für Regierungen immer mehr an Bedeutung, da diese konstant nach Möglichkeiten suchen, die Wirtschaft…

Weiterlesen
Foto: Borealis

Ein Plädoyer für die Kreislaufwirtschaft von Alfred Stern, CEO Borealis. Kunststoffe stehen immer wieder im Kreuzfeuer der Kritik, das vieldiskutierte…

Weiterlesen
Credit: Peter Tajmar

Dr. Cornelia Staritz ist Ökonomin mit den Forschungsschwerpunkten Internationaler Handel sowie Globale Wertschöpfungsketten und Produktionsnetzwerke.…

Weiterlesen
Credit: Manuela Schwarzl

Mit der abermals gesteigerten Forschungsquote auf 5,14% des BIP erzielt die Steiermark eine Spitzenplatzierung in Europa und ist – im Vergleich zur…

Weiterlesen
Credit: Studio Simonis/ Andrei Pungovschi

Rechtzeitig vor dem Alpbacher Technologiegesprächen wurde am 22. August wurde die Zukunftsoffensive für Forschung, Technologie und Innovation…

Weiterlesen
Credit: Bericht zur wissenschaftlichen und technologischen Leistungsfähigkeit Österreichs 2018

Trotz einer F&E-Quote von 3,16 Prozent wird Österreich am selbstgesteckten Ziel, in die Gruppe der Innovation Leaders vorzustoßen, wegen der…

Weiterlesen
JustSmilePics

Mobilität ist im Wissenschaftssystem ein zentraler Faktor, der für die internationale Position des Forschungsstandortes Österreich immer wichtiger…

Weiterlesen
Credit: Ludwig Schedl

Das österreichische Förderungsprogramm für Sicherheitsforschung KIRAS unterstützt nationale Forschungsvorhaben, deren Ergebnisse dazu beitragen, die…

Weiterlesen

Abonnement und Mediadaten

Sie wollen die führende österreichische Fachzeitschrift kennen lernen?
Sie wollen sich über Erscheinungstermine, Schwerpunkte und Werbemöglichkeiten informieren?

Hier sind Sie richtig.  

Abonnement

Mediadaten