Künst­li­che Intel­li­genz wird zuneh­mend wich­ti­ger Bestand­teil in All­tag und Wirt­schaft. Dabei ist oft­mals das rich­tige Ver­hal­ten in bestimm­ten Situa­tio­nen gefragt. Die TU Wien hat dafür nun neue mathe­ma­ti­sche Metho­den entwickelt.

Künst­li­che Intel­li­genz (KI) spielt in vie­len Berei­chen des täg­li­chen Lebens von Men­schen und Unter­neh­men eine wach­sende Rolle und das betrifft auch Seg­mente, wo es keine Feh­ler geben darf, etwa im Stra­ßen­ver­kehr oder bei der Steue­rung von Herz­schritt­ma­chern. Hier braucht es die Garan­tie, dass die Künst­li­che Intel­li­genz nicht plötz­lich etwas Uner­war­te­tes macht, son­dern exakt Vor­ga­ben und Bedarf erfüllt.

Die TU Wien hat nun neue Metho­den zur ent­spre­chen­den Sicher­stel­lung ent­wi­ckelt. Ein neu­ro­na­les Netz wird mit Dif­fe­ren­ti­al­glei­chun­gen beschrie­ben und das ermög­licht den Beweis, dass das Sys­tem einen bestim­men Bereich mög­li­cher Zustände inner­halb einer bestimm­ten Zeit nicht ver­lässt. Das Pro­jekt­pa­pier wurde soeben mit dem Preis des Insti­tute of Elec­tri­cal and Elec­tro­nics Engi­neers (IEEE) gewür­digt und bei der AAAI-Kon­fe­renz für KI ange­nom­men. Das gilt in der Infor­ma­tik-Com­mu­nity als beson­ders pres­ti­ge­träch­tige Auszeichnung.

Neu­ro­nale Netze sind mäch­tig aber schwer vorhersagbar
Ein gewöhn­li­ches Com­pu­ter­pro­gramm ist ein­fach eine Liste von Befeh­len, die nach­ein­an­der abge­ar­bei­tet wer­den. Ist das Pro­gramm bekannt, lässt sich rela­tiv ein­fach vor­her­sa­gen, wie sich der Com­pu­ter in nächs­ter Zeit ver­hal­ten wird. Bei neu­ro­na­len Net­zen für KI ist die Sache kom­pli­zier­ter : Vir­tu­elle Ner­ven­zel­len sind zu einem kom­ple­xen Netz ver­wo­ben, sie sti­mu­lie­ren ein­an­der gleich­zei­tig und auf schwer durch­schau­bare Weise. „KI durch­schau­bar und vor­her­sag­bar zu machen ist eines der wich­tigs­ten Ziele die­ses For­schungs­be­reichs“, sagt Sophie Grün­ba­cher, Erst­au­torin der aktu­el­len Publikation. 

Die Mathe­ma­ti­ke­rin ist Dok­to­ran­din in der For­schungs­gruppe des Infor­ma­ti­kers Radu Grosu, par­al­lel grün­dete sie das Start-Up Daten­Vor­sprung, das sich auf veri­fi­zier­bare und erklär­bare KI spe­zia­li­siert hat. „Stel­len wir uns einen Robo­ter mit einem neu­ro­na­len Netz zur Balan­cie­rung eines Sta­bes vor. Wie exakt kön­nen wir für einen bestimm­ten Zeit­raum das Ver­hal­ten die­ses Robo­ters vor­her­sa­gen?“, erläu­tert Grün­ba­cher ein Bei­spiel. „Phy­si­sche Situa­tio­nen wie die Posi­tion des Robo­ters oder der Win­kel des Sta­bes sind nie mit per­fek­ter Prä­zi­sion bekannt, son­dern immer nur inner­halb einer gewis­sen Mess­un­ge­nau­ig­keit. Es braucht daher Ana­lyse, ob viel­leicht kleine Unsi­cher­hei­ten in den Anfangs­be­din­gun­gen zu spä­te­ren Abwei­chun­gen führt“, erklärt Grünbacher.

Weit­aus genauere Vor­her­sa­gen und neue Monitoringmöglichkeiten
Der Algo­rith­mus kann nicht exakt sagen, in wel­chem Zustand sich das Sys­tem zu einem bestimm­ten Zeit­punkt befin­den wird, aber es kann einen bestimm­ten Bereich ange­ben und garan­tie­ren, dass die­ser Bereich nicht ver­las­sen wird – ver­gleich­bar mit einem Auto im Tun­nel : Die exakte Posi­tion des Autos ist von außen nicht sicht­bar, aber, dass es ganz sicher inner­halb des Tun­nels sein wird, ist garan­tiert. Diese „Röhre der Vor­her­sag­bar­keit“ soll aber mög­lichst eng sein – der Zustand des Sys­tems soll nicht nur unge­fähr, son­dern mög­lichst prä­zise vor­her­be­rech­net werden.

Hier sind der TU Wien nun umfang­rei­che Fort­schritte gelun­gen. „Mit unse­ren mathe­ma­ti­schen Metho­den kann das Ver­hal­ten der künst­li­chen Intel­li­genz für viel grö­ßere Zeit­räume viel genauer vor­her­ge­sagt wer­den“, sagt Grün­ba­cher. Das ermög­licht nun auch bes­sere Wahr­schein­lich­keits­ab­schät­zun­gen. „Sol­che Sys­teme könn­ten in Zukunft in vie­len KI-Berei­chen für mehr Sicher­heit sor­gen. Unser Modell könnte ein neu­ro­na­les Netz über­wa­chen, ob die Gefahr besteht, dass das Sys­tem dem­nächst den erlaub­ten Bereich ver­lässt“, unter­streicht die TU For­sche­rin Sophie Grünbacher.