Unabhängiges Magazin für Wirtschaft und Bildung

23. Mai 2022

Search form

Search form

Die neue Planbarkeit von Künstlicher Intelligenz

Die neue Planbarkeit von Künstlicher Intelligenz© Pexels.com/Gantas Vaiciulenas

Künstliche Intelligenz wird zunehmend wichtiger Bestandteil in Alltag und Wirtschaft. Dabei ist oftmals das richtige Verhalten in bestimmten Situationen gefragt. Die TU Wien hat dafür nun neue mathematische Methoden entwickelt.

(red/czaak) Künstliche Intelligenz (KI) spielt in vielen Bereichen des täglichen Lebens von Menschen und Unternehmen eine wachsende Rolle und das betrifft auch Segmente, wo es keine Fehler geben darf, etwa im Straßenverkehr oder bei der Steuerung von Herzschrittmachern. Hier braucht es die Garantie, dass die Künstliche Intelligenz nicht plötzlich etwas Unerwartetes macht, sondern exakt Vorgaben und Bedarf erfüllt.

Die TU Wien hat nun neue Methoden zur entsprechenden Sicherstellung entwickelt. Ein neuronales Netz wird mit Differentialgleichungen beschrieben und das ermöglicht den Beweis, dass das System einen bestimmen Bereich möglicher Zustände innerhalb einer bestimmten Zeit nicht verlässt. Das Projektpapier wurde soeben mit dem Preis des Institute of Electrical and Electronics Engineers (IEEE) gewürdigt und bei der AAAI-Konferenz für KI angenommen. Das gilt in der Informatik-Community als besonders prestigeträchtige Auszeichnung.

Neuronale Netze sind mächtig aber schwer vorhersagbar
Ein gewöhnliches Computerprogramm ist einfach eine Liste von Befehlen, die nacheinander abgearbeitet werden. Ist das Programm bekannt, lässt sich relativ einfach vorhersagen, wie sich der Computer in nächster Zeit verhalten wird. Bei neuronalen Netzen für KI ist die Sache komplizierter: Virtuelle Nervenzellen sind zu einem komplexen Netz verwoben, sie stimulieren einander gleichzeitig und auf schwer durchschaubare Weise. „KI durchschaubar und vorhersagbar zu machen ist eines der wichtigsten Ziele dieses Forschungsbereichs“, sagt Sophie Grünbacher, Erstautorin der aktuellen Publikation.

Die Mathematikerin ist Doktorandin in der Forschungsgruppe des Informatikers Radu Grosu, parallel gründete sie das Start-Up DatenVorsprung, das sich auf verifizierbare und erklärbare KI spezialisiert hat. „Stellen wir uns einen Roboter mit einem neuronalen Netz zur Balancierung eines Stabes vor. Wie exakt können wir für einen bestimmten Zeitraum das Verhalten dieses Roboters vorhersagen?“, erläutert Grünbacher ein Beispiel. „Physische Situationen wie die Position des Roboters oder der Winkel des Stabes sind nie mit perfekter Präzision bekannt, sondern immer nur innerhalb einer gewissen Messungenauigkeit. Es braucht daher Analyse, ob vielleicht kleine Unsicherheiten in den Anfangsbedingungen zu späteren Abweichungen führt“, erklärt Grünbacher.

Weitaus genauere Vorhersagen und neue Monitoringmöglichkeiten
Der Algorithmus kann nicht exakt sagen, in welchem Zustand sich das System zu einem bestimmten Zeitpunkt befinden wird, aber es kann einen bestimmten Bereich angeben und garantieren, dass dieser Bereich nicht verlassen wird – vergleichbar mit einem Auto im Tunnel: Die exakte Position des Autos ist von außen nicht sichtbar, aber, dass es ganz sicher innerhalb des Tunnels sein wird, ist garantiert. Diese „Röhre der Vorhersagbarkeit“ soll aber möglichst eng sein – der Zustand des Systems soll nicht nur ungefähr, sondern möglichst präzise vorherberechnet werden.

Hier sind der TU Wien nun umfangreiche Fortschritte gelungen. „Mit unseren mathematischen Methoden kann das Verhalten der künstlichen Intelligenz für viel größere Zeiträume viel genauer vorhergesagt werden“, sagt Grünbacher. Das ermöglicht nun auch bessere Wahrscheinlichkeitsabschätzungen. „Solche Systeme könnten in Zukunft in vielen KI-Bereichen für mehr Sicherheit sorgen. Unser Modell könnte ein neuronales Netz überwachen, ob die Gefahr besteht, dass das System demnächst den erlaubten Bereich verlässt“, unterstreicht die TU Forscherin Sophie Grünbacher.

Links

red/czaak, Economy Ausgabe Webartikel, 17.12.2021