Hoffen wir, dass die NSA dieses maschinelle Lernmodell nicht zur Bekämpfung von Drohnenangriffen benutzt hat Die US-amerikanische National Security Agency könnte sich auf ein ernsthaft mangelhaftes maschinelles Lernmodell zur Bekämpfung von Drohnenangriffen in Pakistan stützen, heißt es in einer neuen Analyse von Slides, die der Whistleblower Edward Snowden im vergangenen Jahr aufgedeckt hat.

Die letzten Mai von The Intercept veröffentlichten Dias zeigen das so genannte Skynet-Programm der NSA Das maschinelle Lernen wird offensichtlich verwendet, um wahrscheinliche Terroristen in Pakistan zu identifizieren. Während es unklar ist, ob das maschinelle Lernmodell in den realen Bemühungen der NSA verwendet wurde, hat es ernsthafte Probleme, die Leben gefährden könnten, wenn es wäre, so Patrick Ball, Forschungsdirektor der Data Analysis Group für Menschenrechte.

"Ich habe keine Ahnung, ob irgendetwas davon jemals bei tatsächlichen Streiks verwendet wurde oder sogar zu einem Treffen gemacht wurde", sagte Ball am Montag. Aber "niemand rational würde eine Analyse diese Scheiße verwenden, um Entscheidungen darüber zu treffen, wen man töten soll."

Die Folien beschreiben die Verwendung von GSM-Metadaten für Verhaltensprofile von 55 Millionen Mobiltelefonnutzern, einschließlich Faktoren wie Reiseverhalten und soziale Netzwerke. Ausgerüstet mit diesen Daten soll das Modell vorhersagen, welche Personen wahrscheinlich Terroristen sind.

Es ist kein Geheimnis, dass die Vereinigten Staaten in den letzten zehn Jahren unbemannte Drohnen eingesetzt haben, um Militante in Pakistan anzugreifen. Nach Angaben des Bureau of Investigative Journalism, einer gemeinnützigen Nachrichtenorganisation, sind seit 2004 zwischen 2.500 und 4.000 Pakistanis von Drohnen getötet worden. Viele der Getöteten seien Mitglieder von Gruppen wie al-Qaida, sagte die Organisation.

General Michael Hayden, ehemaliger Direktor der NSA und der CIA, hat die Verbindung ausdrücklich erklärt: "Wir töten Menschen basierend auf Metadaten." Besonders beunruhigend ist jedoch, dass Drohnen Berichten zufolge mehr als 400 Zivilisten getötet haben - möglicherweise mehr als 900.

Das ist der Punkt, an dem die spezifischen Schwächen des Modells relevant werden. In erster Linie hat die NSA nicht annähernd genug Daten über bekannte Terroristen verwendet, um das Modell so trainieren zu können, dass Terroristen von anderen Menschen mit einer angemessenen Genauigkeit unterschieden werden können, erklärte Ball.

Tatsächlich wurde das Modell trainiert mit Daten über nur sieben bekannte Terroristen, nach den Dias. "Das ist völlig inadäquat", sagte Ball.

Der Algorithmus selbst sei in Ordnung, sagte er, aber der Mangel an Daten, um ihn zu trainieren, führt zu einer unannehmbar hohen Wahrscheinlichkeit von "falsch positiven" oder unschuldigen Menschen, die als Terroristen eingestuft werden. Es wurde tatsächlich verwendet, um Drohnenangriffe zu leiten, das würde den Verlust von unschuldigen Leben bedeuten.

Die NSA ist "nicht dumm, und das ist eine dumme Analyse", sagte Ball. "Meine Vermutung ist, dass jemand von der technischen Leitung der NSA die Kette verkauft hat, aber es hat nicht wirklich funktioniert - es ist ein gescheitertes Experiment."

Das soll nicht heißen, dass Drohnenangriffe nicht stattfinden, oder dass die Möglichkeit, dass ein solches Modell verwendet werden könnte, um sie zu leiten, nicht bedenklich ist.

"Ja, es gibt Drohnenangriffe in Pakistan und ja, sie töten unschuldige Menschen - diese Dinge sind nicht strittig" Ball sagte. Aber im Fall dieses Modells "wissen wir nur, was auf einigen Dias ist, und das ist besorgniserregend."

Die NSA hat auf eine Anfrage nach einem Kommentar nicht reagiert.