Die DARPA versucht seit Jahrzehnten, menschliches Verhalten durch massive Datenerfassung und -analyse zu überwachen, vorherzusagen und zu modifizieren: Perspektive
Die DARPA versucht, das zukünftige Verhalten der Gegner des Pentagons vorherzusagen, Anreize zu schaffen und abzuschrecken, indem sie eine algorithmische „Theorie des Geistes“ entwickelt.
„Das Ziel eines bevorstehenden Programms wird es sein, eine algorithmische Theorie des Geistes zu entwickeln, um das Situationsbewusstsein von Gegnern zu modellieren und zukünftiges Verhalten vorherzusagen.“
DARPA, „Theory of Mind“ Special Notice, Dezember 2024
Die Defense Advanced Research Projects Agency (DARPA) der USA stellt derzeit ein Forschungsprogramm mit dem Namen „Theory of Mind“ zusammen, das darauf abzielt, „neue Fähigkeiten zu entwickeln, die Entscheidungsträgern im Bereich der nationalen Sicherheit die Optimierung von Strategien zur Abschreckung oder Förderung von Handlungen von Gegnern ermöglichen“, wie es in einer sehr kurzen speziellen Ankündigung heißt.
DARPA sagt: „Das Programm wird versuchen, Algorithmen mit menschlichem Fachwissen zu kombinieren, um in einer Modellierungs- und Simulationsumgebung potenzielle Handlungsoptionen in nationalen Sicherheitsszenarien mit weitaus größerer Bandbreite und Effizienz zu untersuchen, als dies derzeit möglich ist.
„Dies würde Entscheidungsträgern mehr Optionen für Anreizsysteme bieten und gleichzeitig eine unerwünschte Eskalation verhindern.“
„Das Programm wird nicht nur versuchen, die aktuelle Strategie eines Akteurs zu verstehen, sondern auch eine zerlegte Version der Strategie in relevante Basisvektoren zu finden, um Strategieänderungen unter instationären Annahmen zu verfolgen.“
DARPA, „Theory of Mind“ Special Notice, Dezember 2024
Der Autor des Sonderberichts zur Theory of Mind ist Eric Davis, der im Februar 2024 zu DARPA kam.
Zuvor war Davis leitender Wissenschaftler für künstliche Intelligenz, maschinelles Lernen und Mensch-Maschine-Kooperationen bei Galois, einem Technologie-Forschungs- und Entwicklungsunternehmen, zu dessen Kunden DARPA, die US-amerikanische Geheimdienstgemeinschaft und die NASA gehören und zu dessen Partnern die Bill-und-Melinda-Gates-Stiftung zählt.
In der Sondermitteilung zur „Theory of Mind“ wird nicht erwähnt, wer die Gegner sind, aber sobald ein solcher Algorithmus entwickelt ist, lässt sich dieser Geist nicht mehr in die Flasche zurückbringen.
In der Ausgabe von 2017 des „DoD Dictionary of Military and Associated Terms“ wird „Gegner“ definiert als „eine Partei, die als potenziell feindlich gegenüber einer befreundeten Partei eingestuft wird und gegen die der Einsatz von Gewalt in Betracht gezogen werden kann“.
Das Wörterbuch definiert das Wort „Partei“ nicht, sodass in diesem vagen Konzept ein Gegner jeder sein könnte, der als „potenziell feindlich“ wahrgenommen wird und daher der Anwendung von Gewalt würdig ist.
Seit Jahrzehnten versucht DARPA, menschliches Verhalten zu überwachen, vorherzusagen und zu verändern, indem so viele Informationen wie möglich über Menschen gesammelt und analysiert werden.
„Das Ziel des Total Information Awareness (TIA)-Programms besteht darin, die Fähigkeit der Vereinigten Staaten zu revolutionieren, ausländische Terroristen aufzuspüren, zu klassifizieren und zu identifizieren – und ihre Pläne zu entschlüsseln – und es den USA dadurch zu ermöglichen, rechtzeitig Maßnahmen zu ergreifen, um terroristische Handlungen erfolgreich zu verhindern und zu vereiteln.“
DARPA, Total Information Awareness (TIA), Juli 2002
Nach den Anschlägen vom 11. September 2001 kündigte die DARPA im Juli 2002 ihr inzwischen eingestelltes (oder möglicherweise zersplittertes) „Programm für Total Information Awareness (TIA)“ an, „um die Fähigkeit der Vereinigten Staaten zu revolutionieren, ausländische Terroristen aufzuspüren, zu klassifizieren und zu identifizieren – und ihre Pläne zu entschlüsseln – und es den USA so zu ermöglichen, rechtzeitig Maßnahmen zu ergreifen, um Terroranschläge erfolgreich zu verhindern und zu vereiteln.“
Die Enthüllungsjournalistin, Autorin und Redakteurin bei Unlimited Hangout Whitney Webb beschrieb TIA als einen „präventiven Ansatz zur Bekämpfung des Terrorismus“ mit dem Ziel, „einen allsehenden militärischen Überwachungsapparat“ zu entwickeln.
Im Jahr 2003 beschrieb die American Civil Liberties Union (ACLU) TIA als möglicherweise „das, was einem echten ‚Big Brother‘-Programm am nächsten kommt, das jemals ernsthaft in den Vereinigten Staaten in Betracht gezogen wurde“.
Laut dem Electronic Privacy Information Center (EPIC) bestand „ein wichtiger Bestandteil des TIA-Projekts darin, Tools für Data Mining oder Wissensentdeckung zu entwickeln, die die riesigen Informationsmengen sortieren, um Muster und Zusammenhänge zu finden.“
Das neueste Theory of Mind-Programm der DARPA weist Parallelen zu Aspekten von Total Information Awareness auf; allerdings gibt es derzeit nur sehr wenige Informationen über Ersteres.
Ein weiteres DARPA-Projekt mit dem Ziel, eine umfangreiche Datenbank über menschliches Verhalten zu erstellen, war das LifeLog-Programm, das am 4. August 2003 angekündigt und Berichten zufolge am 4. Februar 2004 eingestellt wurde – am selben Tag, an dem TheFacebook gestartet wurde.
„Um ein kognitives Computersystem zu erstellen, muss ein Benutzer Daten über seine bisherigen Erfahrungen speichern, abrufen und verstehen. Dazu gehört das Sammeln verschiedener Daten, das Verständnis, wie die Daten zu beschreiben sind, das Lernen, welche Daten und welche Beziehungen zwischen ihnen wichtig sind, und das Extrahieren nützlicher Informationen.“
DARPA, LifeLog, August 2003
Laut einer archivierten Version der Programmbeschreibung von DARPA’s LifeLog lassen sich Parallelen zwischen LifeLog, TIA und Facebook finden, insbesondere in Bezug auf Personen, die ihre eigenen Erfahrungen erfassen und analysieren:
„LifeLog ist ein Teil der DARPA-Forschung im Bereich des kognitiven Rechnens […]. Diese neue Generation kognitiver Computer wird ihre Benutzer verstehen und ihnen helfen, ihre Angelegenheiten effektiver zu verwalten.
„Die Forschung zielt darauf ab, das Modell eines persönlichen digitalen Assistenten (PDA) zu einem Modell zu erweitern, das schließlich zu einem persönlichen digitalen Partner werden könnte.
„LifeLog ist ein Programm, das diesem Ziel einen Schritt näher kommt. Das LifeLog-Programm befasst sich mit einem gezielten und sehr schwierigen Problem: Wie können Einzelpersonen ihre eigenen Erfahrungen, Vorlieben und Ziele erfassen und analysieren?
„Die LifeLog-Funktion würde ein elektronisches Tagebuch bereitstellen, das dem Einzelnen dabei helfen würde, sich genauer an seine vergangenen Erfahrungen zu erinnern und diese zu nutzen, um aktuelle oder zukünftige Aufgaben effektiver zu bewältigen.“
Als Wired berichtete, dass das Pentagon das Programm im Februar 2004 eingestellt hatte, schrieben die Autoren, dass „LifeLog darauf abzielte, so gut wie alles, was eine Person sagt, sieht oder tut, an einem einzigen Ort zu sammeln: die getätigten Telefonanrufe, die gesehenen Fernsehsendungen, die gelesenen Zeitschriften, die gekauften Flugtickets, die gesendeten und empfangenen E-Mails.“
Klingt das nicht so, als hätten Facebook und so viele andere Social-Media-Unternehmen später kommerziell etwas Ähnliches erreicht?
„DARPA ist an der Entwicklung neuer Fähigkeiten interessiert, die es Entscheidungsträgern im Bereich der nationalen Sicherheit ermöglichen, Strategien zur Abschreckung oder Förderung von Handlungen von Gegnern zu optimieren.“
DARPA, „Theory of Mind“ Special Notice, Dezember 2024
Das Programm „Theory of Mind“ von DARPA scheint die neueste Inkarnation eines jahrzehntelangen Bestrebens zu sein, alles über eine Person oder Gruppe zu wissen, um menschliches Verhalten vorhersagen und beeinflussen zu können.
LifeLog wurde als persönliches Assistenzwerkzeug beworben, das Kriegsteilnehmern dabei helfen sollte, alle ihre Aktivitäten zu dokumentieren, damit sie für ihre eigene persönliche Entwicklung genutzt werden konnten, während Total Information Awareness angeblich darauf abzielte, terroristische Aktivitäten zu verhindern.
Beide Programme erforderten eine massive Datenerfassung. Beide zielten darauf ab, Verhaltensweisen für unterschiedliche zukünftige Ergebnisse zu ändern.
Jetzt ist die „Theory of Mind“ darauf ausgerichtet, einen Algorithmus zu erstellen, um die Pläne derer zu verstehen und zu vereiteln, die sie als „Gegner“ betrachten.
Wenn dies gelingt, wie viele verschiedene Anwendungen könnten aus dieser Art von Technologie zur Verhinderung von Straftaten abgeleitet werden?
Könnte der „Theory of Mind“-Algorithmus jemals von Strafverfolgungsbehörden eingesetzt werden? Wie sieht es mit kommerziellen Unternehmen für geschäftliche Zwecke aus?
Natürlich gibt es bereits Forschungsprogramme mit ähnlichen Zielen und vergleichbare kommerzielle Produkte sind reichlich vorhanden.
Der Unterschied besteht nun in der höheren Geschwindigkeit und Effizienz, mit der diese Instrumente, Taktiken und Technologien entwickelt werden, in der Art und Weise, wie sie kombiniert werden können, um sich gegenseitig zu ergänzen, und in den Zwecken, für die öffentliche und private Einrichtungen sie einsetzen wollen.