Automatische Krisenerkennung auf Facebook

Eine clevere Software erkennt bei Selbstmordgefahr Warnzeichen in Postings und Video-Streams.

Wenn es darum geht, die eigenen Mitglieder vor einem möglichen Selbstmord abzuhalten, setzt Facebook ab sofort auf Künstliche Intelligenz (KI). Ein intelligenter Algorithmus durchforstet alle Postings und sogar Live-Video-Streams nach auffälligen Begriffen oder Kommentaren, die die Vermutung nahelegen, dass jemand an Suizid denkt. Vorläufig ist das Tool nur in den USA im Einsatz.
"Es gibt immer wieder Fälle, wo ich kontaktiert werde, weil jemand auf Facebook Anzeichen für einen bevorstehenden Selbstmord entdeckt hat und bei uns anfragt, wie er damit umgehen soll", so Claudius Stein, Ärztlicher Leiter des Kriseninterventionszentrums Wien. Das sei ein Problem, mit dem generell alle Social-Media-Portale zu kämpfen haben. "Ein technisches Hilfsmittel einzusetzen, um rechtzeitig eindeutige Warnsignale zu erkennen, ist sicher sinnvoll. Als effektive Schutzmaßnahme gegen Suizid ist das aber natürlich zu wenig", so Stein.
Laut Facebook stellt der Software-Check nur die erste Stufe im eigenen Maßnahmenkatalog dar. Querdenken und mutige Entscheidungen. "Wie am besten vorzugehen ist, hängt immer von der Situation ab. Um das abzuschätzen, müssten die Facebook-Mitarbeiter eine umfassende psychologische Schulung erhalten. Wichtig ist, dass man so schnell wie möglich einschreiten kann, wenn wirklich Gefahr im Verzug ist", betont der Experte.

Gebranntes Kind
Dass das Thema Suizidprävention nicht auf die leichte Schulter genommen werden sollte, hat Facebook bereits vor langer Zeit akzeptieren müssen. Immer wieder sind im Laufe der vergangenen Jahre nämlich Fälle bekannt geworden, bei denen Mitglieder der Online-Community ihren Selbstmord über das Portal angekündigt oder teilweise sogar öffentlich inszeniert hatten.
"Unser Ziel ist es, in so einem Fall, den betreffenden Usern schon während der laufenden Übertragung zu helfen und nicht erst zu warten, bis jemand das vollständige Video kontrolliert hat", sagt Facebook Product Manager Vanessa Callison-Burch. Das Vorgehen sei aber prinzipiell sehr heikel. "Einige meinen, wir sollten den Stream in einem derartigen Fall sofort stoppen. Andere Experten haben aber klargemacht, dass das auch nicht sinnvoll ist, weil es uns die Möglichkeit nimmt, die Hände auszustrecken und Hilfe anzubieten", so Callison-Burch.