SPRIND als deut­sche Agen­tur für Sprung­in­no­va­tion hat Anfang Okto­ber eine Pro­gramm­li­nie gestar­tet und nun aus den Ein­rei­chun­gen die Teams für die geför­derte Pro­jekt­um­set­zung aus­ge­wählt. Im Fokus ste­hen Schutz und Prä­ven­tion vor Deepfakes. 

Die rasante Digi­ta­li­sie­rung der letz­ten Zeit bringt fas­zi­nie­rende wie auch beun­ru­hi­gende Mög­lich­kei­ten mit sich. Ein Bereich für den dies ganz geson­dert gilt, sind künst­lich-tech­no­lo­gisch gene­rierte Inhalte und soge­nannte Deepf­akes. Das sind KI-gene­rierte Audio‑, Bild- und Video­in­halte und sie sind mitt­ler­weile so rea­lis­tisch, dass sie von ech­ten Auf­nah­men kaum zu unter­schei­den sein.

Deepf­akes kön­nen Ver­trauen, Sicher­heit und Wahr­neh­mung von Rea­li­tät gefährden
Durch die ver­stärkte Leis­tungs­fä­hig­keit von Sys­te­men und den neuen (gene­ra­ti­ven) Sprach­mo­del­len basie­rend auf künst­li­cher Intel­li­genz (KI) und maschi­nel­lem Ler­nen (ML) ver­bes­sert sich nicht nur die Quan­ti­tät, son­dern auch die Qua­li­tät die­ser Deepf­akes. Diese Ent­wick­lung birgt Gefah­ren, sie kann Ver­trauen, Sicher­heit und die Wahr­neh­mung von Rea­li­tät in unse­rer Gesell­schaft mas­siv beeinträchtigen.

Die Bekämp­fung von Deepf­akes kon­zen­triert sich aktu­ell ins­be­son­dere auf die Erken­nung und dafür wer­den (wie­derum) KI-Algo­rith­men ent­wi­ckelt, etwa zur Iden­ti­fi­zie­rung. Ein zwei­ter Bereich ist das Thema Prä­ven­tion mit der Imple­men­tie­rung von Authen­ti­fi­zie­rungs­me­cha­nis­men für digi­tale Inhalte. Trotz erheb­li­cher Fort­schritte hier blei­ben Her­aus­for­de­run­gen wie die Gene­ra­li­sier­bar­keit und Ska­lier­bar­keit von KI-Deepf­ake-Erken­nungs­sys­te­men und die Eta­blie­rung eines mani­pu­lie­rungs­res­tis­ten­ten Stan­dards für Bild-Metadaten.

Bis zu Euro 350.000,- für erste Pro­jekt­phase und danach noch­mals bis zu Euro 375.000,-
SPRIND, die deut­sche Agen­tur für Sprung­in­no­va­tion hat zu die­sem Thema nun Anfang Okto­ber unter dem Titel „Funke“ eine neue Pro­gramm­li­nie gestar­tet (eco­nomy berich­tete). Gefor­dert ist die Ent­wick­lung eines umfas­sen­den Pro­to­typs, der reak­tive Maß­nah­men zur Erken­nung und/​oder prä­ven­tive Maß­nah­men zum Schutz vor Deepf­akes beinhal­tet, ins­be­son­dere bei Bild­da­ten. Rele­vant ist zudem, dass die neue Anwen­dung ohne gro­ßen Auf­wand in bestehende digi­tale Infra­struk­tu­ren inte­griert wer­den kann ; Stich­wort Schnittstellen.

„Die neue Anwen­dung muss demons­trie­ren, wie Bild-Deepf­akes zuver­läs­sig erkannt und authen­ti­fi­ziert wer­den kön­nen. Das gesamte Sys­tem kann KI-gestützt arbei­ten und sich kon­ti­nu­ier­lich an neue Deepf­ake-Tech­ni­ken anpas­sen kön­nen. Am Ende des Pro­zes­ses sol­len min­des­tens drei unter­schied­li­che Anwen­dungs­fälle (z.B. Social Media, Nach­rich­ten­por­tale, Video­kon­fe­renz­sys­teme) abge­deckt wer­den. Ska­lier­bar­keit und Anpas­sungs­fä­hig­keit an ver­schie­dene digi­tale Platt­for­men soll­ten mög­lich sein“, so SPRIND zu den Ausschreibungskriterien.

Die aktu­ell nomi­nier­ten Projekte
In der ers­ten Stufe wer­den die Pro­jekte mit dem Betrag von bis zu 350.000,- pro Team unter­stützt, in der zwei­ten Phase des „Fun­ken“ kön­nen nach einer noch­ma­li­gen Eva­lu­ie­rung und Prü­fung durch eine Fach­jury noch­mals bis zu 375.000,- pro Pro­jekt dazu kom­men. Aktu­ell wur­den nun aus 50 Ein­rei­chun­gen 12 Teams aus­ge­wählt. Die Teams stam­men aus For­schungs­ein­rich­tun­gen, Hoch­schu­len und Start-Ups aus Frank­reich, Deutsch­land und Slowenien.

Die nun nomi­nier­ten Pro­jekte sind „Multi-Modal Deepf­ake Detec­tion“, „ImVe­rif“, „Veri­True“ (FAU/​secunet solu­tion), „ReaL­Guard“, „Con­tent­Trans­pa­ren­cy­Ar­chive“ (Veri­fia­ble Meta­data), „AI Robo­tic“, “Neu­r­af­orge“, „Valid – Trus­ted Infor­ma­tion“, “Cine­ma­tic Con­text Aware AI Image Detec­tion”, “Deep Shield – The Dis­rup­tive Pre­ven­ter”, “Deep­FO­CAS” und schließ­lich “Clyra Vision”. Die genaue Beschrei­bung der alle­samt über­aus span­nen­den Pro­jekte sind auf der Web­site von SPRIND angeführt.