Forschung

Künstliche Intelligenz

„Wir müssen KI erst kennen lernen“

Foto: AIT
Helmut Leopold
Foto: AIT

Im Rahmen des RTO Innovation Summit in Brüssel Anfang November sprach AUSTRIA INNOVATIV mit Helmut Leopold, Head of Center for Digital Safety & Security am AIT Austrian Institute of Technology über den aktuellen Status in Fragen der Künstlichen Intelligenz sowie damit verbundenen Forschungsaktivitäten des AIT.

Interview: Harald Hornacek

AI: Ist die Künstliche Intelligenz Segen oder Fluch?
HL: Weder noch. Sie ist vor allem etwas, das wir erst kennen lernen müssen. Wir sollten nicht etwas in blindem Glauben einsetzen, dessen Auswirkungen wir nicht genau verstehen. Was heute passiert, ist teilweise absurd: Es ist eine Fantasie, dass die künstliche Intelligenz wirklich intelligent ist. Daher sollte man nicht übereilt etwas einführen, sondern zunächst die Technologie verstehen lernen. Dazu brauchen wir angewandte Forschung. Das Verständnis für eine neue Technologie, das Wissen, wie ich sie anwende, aber auch, welche Verhaltenscodices bzw. Beschränkungen ich damit verbinde, sind doch essenziell! Es braucht ein wohl definiertes Umfeld.

AI: Wie soll dieses Umfeld entstehen bzw. was braucht es dazu?
HL: Anwendungsorientierte Forschung mit Endkunden zählt ebenso dazu wie Produkte für die Gesellschaft zu entwickeln und zu experimentieren. Das sollte man aber nicht, wie in der derzeitigen Phase, allein dem Markt überlassen. Wir haben ein Defizit im Verständnis der Technologie: Eine Maschine mag auf den ersten Blick bessere Entscheidungen treffen als Menschen - aber es kommt immer auf den Kontext an. Daher: Vorsicht in der Anwendung. Wir müssen lernen, wie wir die Technologie beherrschen. Wir müssen die technologischen Komponenten von KI-Systemen so designen und bauen damit wir Entscheidungen von Maschinen verstehen und nachvollziehen können. Wir testen und validieren heute Software in unterschiedlichsten Bereichen auf Fehler. Bei wichtigen Systemen wie Steuerungsanlagen für Maschinen, Autos, Zügen und Flugzeugen wird ein sehr großer Aufwand für das Testen der Systeme betrieben, damit diese auch höchst zuverlässig funktionieren. Im Bereich der Künstlichen Intelligenz ist das schon schwieriger. Hier brauchen wir neue Ansätze und neue Verfahren aus der Forschung.

AI: Wie verhält sich das mit dem automatisiert fahrenden Auto?
HL: Auch ein Auto ist ein sicherheitskritisches System. Durch die neuen Funktionen des automatisierten Fahrens welche menschliche Entscheidungen und Steuerungen ersetzen wird diese Thematik noch viel wichtiger. Auch wenn nur ein kleines Stück Software ausgetauscht wird, wird das gesamte Systemverhalten aller Einzelteile immer wieder vollständig getestet damit man sicher gehen kann, dass das Gesamtsystem auch korrekt funktioniert. Das dauert sehr lange, deshalb sind Software-Updates bei Flugzeugen von einer ganz anderen Zeitdimension, wie ein Update auf Ihrem Smartphone. Dahinter liegen strenge Regeln und der Grundsatz, dass wir die Funktionsweise der Technik verstehen und immer nachvollziehen können. Dies benötigen wir auch für die KI und damit für das automatisierte Fahren.

AI: Wobei Autos doch heute eigentlich schon Hochleistungsrechner sind....
HL: Wir sehen, dass Tesla der erste Autoproduzent ist, der Software Updates over the air macht. Aus meiner Sicht wurde hier kein Auto entwickelt im bisherigen Sinne, sondern ein gut-designtes IT-System, das auch auf eine solche "Fernwartung" bzw. ständiges Fern-Update ausgelegt wurde. Wenn nun Autos als IT-Systeme entwickelt werden, dann bringt das eine enorme Dynamik in Fragen von Safety und Security mit sich: Es erfordert das Design von ganz neuen Prozessen. Man muss bedenken, dass ein modernes Fahrzeug bereits eine hohe Komplexität aufweist und bis zu 100 Mio. Lines of Code an Software umfasst. Ein Software-Update darf keine neue Schwachstelle oder ein verändertes Fehlverhalten des gesamten Systems mit sich bringen. Bei einem Auto kann das fatale Situationen bewirken. Dies ist im Smartphone da vergleichsweise harmlos. Deshalb wird bei der Entwicklung von Autos bereits heute ein sehr großer Aufwand für das Testen der digitalen Funktionen betrieben. Durch den Einsatz der vielen weiteren Funktion für automatisches Fahren und Systemen wie künstliche Intelligenz wird der Aufwand für das Testen und Verifizieren noch wesentlich steigen und eine große Herausforderung darstellen.

Lesen Sie das ungekürzte Interview in der aktuellen Ausgabe 6/2018 auf Seite 32-34.


Dr. Cornelia Staritz ist Ökonomin mit den Forschungsschwerpunkten Internationaler Handel sowie Globale Wertschöpfungsketten und Produktionsnetzwerke....

Weiterlesen

Mit der abermals gesteigerten Forschungsquote auf 5,14% des BIP erzielt die Steiermark eine Spitzenplatzierung in Europa und ist – im Vergleich zur...

Weiterlesen

Rechtzeitig vor dem Alpbacher Technologiegesprächen wurde am 22. August wurde die Zukunftsoffensive für Forschung, Technologie und Innovation...

Weiterlesen

Trotz einer F&E-Quote von 3,16 Prozent wird Österreich am selbstgesteckten Ziel, in die Gruppe der Innovation Leaders vorzustoßen, wegen der...

Weiterlesen

Mobilität ist im Wissenschaftssystem ein zentraler Faktor, der für die internationale Position des Forschungsstandortes Österreich immer wichtiger...

Weiterlesen

Es sind aufregende Zeiten für die Donau-Universität Krems: Mehr Ressourcen vom Land NÖ und dem Bund, Aufnahme in das Universitätsgesetz – Rektor...

Weiterlesen

Rund 250 Personen aus Wirtschaft, Wissenschaft, Forschung und Politik folgten der Einladung zur 17. ACR-Enquete – und sahen tolle Preisträgerinnen und...

Weiterlesen

Österreich ist in der Umsetzung der NIS-Richtlinie säumig. Dabei ist das Thema eines der wichtigsten für die Zukunft, weiß Prof. DI Robert Kolmhofer,...

Weiterlesen

Das BMI beiteiligt seit 2006 an Projekten der Sicherheitsforschung (SIFO) im Rahmen des vom Bundesministerium für Verkehr, Innovation und Technologie...

Weiterlesen

Prof. Reinhart Kögerler, Präsident der Christian Doppler Forschungsgesellschaft, sieht in Österreichs Forschungssystem – bei allen Standortstärken –...

Weiterlesen

Abonnement und Mediadaten

Sie wollen die führende österreichische Fachzeitschrift kennen lernen?
Sie wollen sich über Erscheinungstermine, Schwerpunkte und Werbemöglichkeiten informieren?

Hier sind Sie richtig.  

Abonnement

Mediadaten