Sprind, die deut­sche (Vorzeige)Agentur für Sprung­in­no­va­tion schreibt neue Pro­jekte im Bereich Iden­ti­fi­ka­tion soge­nann­ter Deepf­akes und gesi­cherte Inte­gri­tät in digi­ta­len Wel­ten aus. Ein Fokus betrifft auch KI.

Die rasante Ent­wick­lung digi­ta­ler Tech­no­lo­gien in den letz­ten Jah­ren hat sowohl fas­zi­nie­rende als auch beun­ru­hi­gende Mög­lich­kei­ten eröff­net. Das betrifft ins­be­son­dere die Berei­che syn­the­ti­sche Inhalte und Deepf­akes. Diese immer hoch-ent­wi­ckel­te­ren KI-gene­rier­ten Audio‑, Bild- und Video­in­halte sind mitt­ler­weile so rea­lis­tisch, dass sie von ech­ten Auf­nah­men kaum zu unter­schei­den sind.

Mit dem Anstieg der Leis­tungs­fä­hig­keit von Sys­te­men und Sprach­mo­del­len (Anm. Gene­ra­tive KI) basie­rend auf künst­li­cher Intel­li­genz (KI) und maschi­nel­lem Ler­nen (ML) ver­bes­sert sich nicht nur die Quan­ti­tät, son­dern auch die Qua­li­tät von Deepf­akes rasant. Das birgt Gefah­ren – für Ver­trauen, Sicher­heit und die Wahr­neh­mung von Rea­li­tät in unse­rer Gesellschaft.

Leis­tungs­fä­hig­keit von Sys­te­men und Sprach­mo­del­len ver­bes­sert Qua­li­tät von Deepfakes
Die Bemü­hun­gen zur Bekämp­fung von Deepf­akes kon­zen­trie­ren sich aktu­ell haupt­säch­lich auf zwei Berei­che. Ein­mal, die Erken­nung (Detec­tion) mit der Ent­wick­lung von KI-Algo­rith­men zur Iden­ti­fi­zie­rung von Deepf­akes. Und dann die Prä­ven­tion (Pre­ven­tion) mit der Imple­men­tie­rung von Authen­ti­fi­zie­rungs­me­cha­nis­men für digi­tale Inhalte.

Trotz erheb­li­cher Fort­schritte in die­sen Berei­chen blei­ben signi­fi­kante Her­aus­for­de­run­gen wie die Gene­ra­li­sier­bar­keit und Ska­lier­bar­keit von KI-Deepf­ake-Erken­nungs­sys­te­men und die Eta­blie­rung eines mani­pu­lie­rungs­res­tis­ten­ten Stan­dards für Bild-Meta­da­ten bestehen.

Eta­blie­rung eines mani­pu­lie­rungs­res­tis­ten­ten Stan­dards für Bild-Metadaten
Sprind star­tet nun in Deutsch­land ein neues Unter­stüt­zungs-Pro­gramm (Anm. „Funke“) mit der (her­aus­for­dern­den) Ziel­set­zung einen umfas­sen­den Pro­to­typ zu ent­wi­ckeln, der reak­tive Maß­nah­men zur Erken­nung und/​oder prä­ven­tive Maß­nah­men zum Schutz vor Bild-Deepf­akes beinhal­tet und in bestehende digi­tale Infra­struk­tu­ren inte­griert wer­den kann.

Der Pro­to­typ muss demons­trie­ren, wie Bild-Deepf­akes zuver­läs­sig erkannt und authen­ti­fi­ziert wer­den kön­nen. Das gesamte Sys­tem kann KI-gestützt arbei­ten und muss sich kon­ti­nu­ier­lich an neue Deepf­ake-Tech­ni­ken anpas­sen kön­nen. Am Ende sol­len min­des­tens drei unter­schied­li­che Anwen­dungs­fälle (z.B. Social Media, Nach­rich­ten­por­tale, Video­kon­fe­renz­sys­teme) abge­deckt wer­den. Ska­lier­bar­keit und Anpas­sungs­fä­hig­keit an ver­schie­dene digi­tale Platt­for­men soll­ten mög­lich sein.

Das Anfor­de­rungs­pro­fil und die Umset­zung der Ausschreibung
Das Pro­gramm bzw. „Funke“ läuft über einen Zeit­raum von 13 Mona­ten. Wie gewohnt unter­stützt eine Jury aus Expert:innen Sprind bei der Bewer­tung der Bewer­bun­gen und wählt bis zu 14 Teams aus, die zur Teil­nahme der ers­ten Stufe zuge­las­sen wer­den. Teams, die an die­sem „Funke“ teil­neh­men, sind voll und ganz gefordert. 

Sprind unter­stützt daher auch hier inten­siv wie indi­vi­du­ell und dazu gehört die Finan­zie­rung der Teams mit bis zu 350.000 Euro in Stufe 1 des Fun­kens. Nach sie­ben Mona­ten bewer­tet die Jury wie­der und ent­schei­det, wer das größte Sprung­in­no­va­ti­ons­po­ten­tial hat und wel­che Teams sich bis zum Schluss des Fun­kens in einer zwei­ten Stufe bewei­sen kön­nen. Diese Phase wird dann mit bis zu 375.000 Euro pro Team finan­ziert. Bewer­bun­gen wer­den bis zum 18. Okto­ber 2024, 18:00 Uhr (CET) entgegengenommen.