Tristan Harris und Aza Raskin behaupten, dass all unsere Träume und Gedanken entschlüsselt werden können – man stelle sich vor, was autoritäre Staaten mit einer solchen Macht anstellen könnten. Künstliche Intelligenz kann sogar WLAN-Funksignale auswerten, die in einem Raum reflektiert werden, um dreidimensionale Bilder zu erstellen.
Tristan Harris und Aza Raskin sind die Gründer des Center for Humane Technology, das vor den Auswirkungen von Technologie auf Einzelpersonen, Organisationen und die Gesellschaft warnt. Es sucht nach Wegen, diese Auswirkungen zu steuern, ermutigt Führungskräfte zum Handeln und bietet Ressourcen für alle, die sich für humane Technologie interessieren.
Zur Information: Harris war Googles Designethiker und entwickelte ein Rahmenwerk, wie Technologie die Gedanken und Handlungen von Milliarden von Menschen auf Bildschirmen „ethisch“ lenken sollte. Raskin ist studierter Mathematiker und Physiker für Dunkle Materie. Er ist der Sohn von Jef Raskin, einem Experten für Mensch-Computer-Interaktion und Initiator des Macintosh-Projekts bei Apple.
Im Mai 2023 nahmen Harris & Raskin am Summit At Sea teil, wo sie darüber diskutierten, wie die bestehenden KI-Fähigkeiten bereits katastrophale Risiken für eine funktionierende Gesellschaft darstellen, wie KI-Unternehmen in einem Wettlauf gefangen sind, ihre Systeme so schnell wie möglich ohne angemessene Sicherheitsvorkehrungen einzuführen, und was es bedeuten würde, unsere Institutionen für eine Welt nach der KI aufzurüsten.
Dieses Video hat mir die schwerwiegenden Konsequenzen vor Augen geführt, mit denen wir konfrontiert sein könnten, wenn eine bessere Kontrolle über fortgeschrittene KI-Modelle – insbesondere generative Modelle wie multimodale große Sprachmodelle (MLLMs) – nicht implementiert wird.
Tristan Harris erläutert die komplexen Begriffe hinter „generativen multimodalen Sprachmodellen“ (KI-Modellen, die Sprache und Bilder verarbeiten). Um die Sache zu vereinfachen, schlägt er vor, sie „Golems“ zu nennen. Inspiriert ist er dabei vom Golem aus der jüdischen Mythologie – einem Wesen, das zum Leben erwacht und unerwartete Fähigkeiten erlangt, ähnlich wie diese KI-Modelle. Je mehr Daten ihnen zugeführt werden, desto mehr Fähigkeiten zeigen sie, die selbst ihre Entwickler nicht vorhergesehen haben.
Obwohl viele KI-Demos auf den ersten Blick unterschiedlich aussehen, funktionieren sie oft ähnlich. Tools wie Stable Diffusion oder DALL-E ermöglichen es Nutzern beispielsweise, Wörter einzugeben und daraus Bilder zu generieren. Gibt man „Google Suppe“ ein, wandelt das Modell dies in ein Bild um. Raskin weist jedoch darauf hin, dass diese „Golems“ nicht wirklich „verstehen“, was sie tun; sie verarbeiten Informationen, ohne deren Bedeutung zu erfassen.
Deine Träume und Gedanken sind nicht länger sicher
Die Forscher Harris und Raskin erörtern hier, wie sich Hirnmuster in Bilder umwandeln lassen, indem sie Hirnscans von Personen analysieren, die Bilder betrachten. Raskin erklärt, dass eine Testperson in einem fMRT-Gerät sitzt, das die Hirnaktivität aufzeichnet, während sie ein Bild betrachtet. Der Computer lernt, jedes Hirnmuster dem jeweiligen Bild zuzuordnen.
Wenn dem Computer nur die Hirnaktivitätsmuster angezeigt werden (ohne das eigentliche Bild zu sehen), versucht er zu erraten, was die Person gesehen hat. Wenn beispielsweise jemand eine Giraffe betrachtet, würde der Computer ausschließlich anhand der Hirndaten ein Bild erstellen, das seiner Ansicht nach die Giraffe darstellt.
Die neueste Forschung nutzt die Technologie der „stabilen Diffusion“, ein Werkzeug aus der digitalen Kunst, um diese Bilder, die Gehirnaktivität auslesen, noch deutlicher zu machen. Erstaunlicherweise helfen Werkzeuge, die ursprünglich für die Kunst entwickelt wurden, nun dabei, menschliche Gedanken zu entschlüsseln.
Die Forschung ist mittlerweile so weit fortgeschritten, dass sie den inneren Dialog von Menschen – ihre Gedanken – erfassen kann. In einem Experiment sahen sich Probanden ein Video an und dachten über das Gesehene nach. Der Computer konnte ihre Gedanken, wie beispielsweise „Ein Mädchen wird angefahren und fällt hin“, allein anhand der Hirnströme rekonstruieren.
Diese Art der Gehirnanalyse könnte insbesondere in autoritären Staaten Anlass zur Sorge geben, da sie dazu führen könnte, dass die Gedanken und Träume der Menschen verfolgt werden.
WLAN-Funksignale ermöglichten die Verfolgung von Lebewesen
Dies erklärt, wie KI WLAN-Signale, beispielsweise die Ihres Heimrouters, nutzen kann, um Personen in einem Raum zu lokalisieren und zu verfolgen. Man kann es sich wie ein Sonar vorstellen: Die WLAN-Signale werden reflektiert, ähnlich wie bei einem Sonargerät. In diesem Experiment wurde zunächst eine Kamera zusammen mit WLAN-Signalen verwendet, um die Positionen von Personen zu erfassen. Die Kamera fungierte dabei als ein „Auge“, die WLAN-Signale als das „andere Auge“.
Nachdem die KI gelernt hatte, die Positionen von Personen zu erkennen, wurde die Kamera entfernt, sodass nur noch die WLAN-Signale blieben. Nun kann die KI allein durch die Analyse der Signalreflexionen die Positionen von Personen in 3D und in Echtzeit bestimmen – sogar im Dunkeln. Im Prinzip könnte diese Technologie jeden WLAN-Router in eine Art „Kamera“ verwandeln, die Bewegungen ohne Licht erfassen kann.
Das Hacken von WLAN-Routern wäre eine komplizierte Angelegenheit. Computercode hingegen ist wie eine Sprache. Raskin beschreibt ein konkretes Beispiel: Eine KI (wie GPT) wurde beauftragt, eine Sicherheitslücke im Code eines Mailservers zu finden und ein Skript zu schreiben, das diese ausnutzt. Innerhalb von nur etwa zehn Sekunden lieferte die KI einen Code, der die Schwachstelle ausnutzen konnte.
Obwohl KI derzeit noch nicht direkt zum Hacken von WLAN-Routern eingesetzt werden kann, glaubt Raskin, dass es in naher Zukunft – ob in einem, zwei oder fünf Jahren – deutlich einfacher sein wird, bestehende Technologien für flächendeckende Überwachung zu nutzen. Im Grunde ist dies eine Warnung: Mit fortschreitender KI-Entwicklung könnten wir unsere gesamte Hardware in leistungsstarke Überwachungswerkzeuge verwandeln.
KI kann Sie kopieren und Ihr Bild, Ihre Stimme und Ihr gesamtes Erscheinungsbild so natürlich wie möglich generieren.
Um Technologie besser steuern und kontrollieren zu können, müssen wir ihre Auswirkungen verstehen. Beispielsweise kann neue KI die Stimme einer Person anhand von nur drei Sekunden Audiomaterial imitieren. Es gibt Beispiele dafür, etwa wie ein Computer eine Person nach diesen ersten drei Sekunden etwas roboterhaft klingen lassen kann und den Rest der Rede dann selbstständig generiert.
Eine beängstigende Vorstellung ist, dass jemand Ihr Kind anrufen, dessen Stimme aufnehmen und diese dann benutzen könnte, um Sie zu täuschen und Ihnen vorzugaukeln, es sei wirklich Ihr Kind, das um Hilfe ruft. Das ist bereits vorgekommen, beispielsweise als die Stimme eines Teenagers für einen millionenschweren Entführungsbetrug kopiert wurde.
Die Menschen sind bereits an die Veränderungen in den sozialen Medien gewöhnt, wo man Fotos verbessern oder Stimmen im Handumdrehen verändern kann. Filter in Apps wie TikTok haben sich so weit entwickelt, dass sie sehr realistische Bilder von Menschen erzeugen können.
Eine Influencerin erstellte beispielsweise eine virtuelle Version von sich selbst, um sie als eine Art digitale Freundin zu nutzen und mit ihrem Avatar interagieren zu können. Das zeigt, dass es heutzutage schwierig ist, dem zu vertrauen, was man sieht oder hört, selbst in Videos.
Lesen Sie auch:
- Dieser mexikanische Wissenschaftler behauptete, wir lebten in einer holographischen Matrix, und verschwand danach auf mysteriöse Weise.
- Dieser Mann behauptet, wir könnten im Zentrum eines kosmischen Vakuums leben, das 2 Milliarden Lichtjahre breit ist und eigentlich nicht existieren dürfte.
- Mann aus dem Silicon Valley bestätigt, dass sein Unternehmen die erste Kommunikation zwischen Menschen in Träumen ermöglicht hat.
- Dieser Mann vom MIT sagte, das Gehirn sei wie Logikgatter und Gottes Ideen seien mathematische Logik.
Banken und andere Institutionen glauben immer noch, sie könnten Ihre Identität durch die Erkennung Ihrer Stimme oder Ihres Gesichts in Videoanrufen bestätigen, doch das funktioniert aufgrund der KI-Technologie nicht mehr. Dieses Jahr markiert einen großen Wandel: Foto- und Videobeweise sind möglicherweise nicht mehr verlässlich, und wir müssen uns dieser Realität anpassen.
Die Wahl 2024 wird die letzte menschliche Wahl sein
Demokratie beruht auf Sprache, und unsere Gesellschaft funktioniert durch sie. Sprache prägt Recht, Gesetze und Religion. In einem Artikel der New York Times brachte der Autor Yuval Harari, Autor von „Sapiens“, diesen Gedanken auf den Punkt. Die These lautete: Wer die Sprache manipulieren kann, kann das Denken und Handeln der Menschen kontrollieren.
Jemand bittet eine KI wie GPT, biblische Ereignisse im Lichte aktueller Geschehnisse zu erklären. Das bedeutet, religiöse Vorstellungen aufzugreifen und sie zu nutzen, um das heutige Weltgeschehen zu verstehen. Dadurch lässt sich das Verständnis der Menschen von Realität und Zusammenhängen verändern. Sprache macht uns menschlich, und Technologie ermöglicht es uns, sie zu verändern.
Yuval verglich die Macht von Atomwaffen in der realen Welt mit dem Einfluss künstlicher Intelligenz (KI) in der virtuellen Welt. Er merkte an, dass das letzte Mal, dass eine nicht-menschliche Kraft große, einflussreiche Glaubenssysteme geschaffen hat, die Religion war. Nun hat KI das Potenzial, bedeutende Narrative zu formen, die das Denken der Menschen tiefgreifend beeinflussen können.
Harris & Raskin prognostizierten, dass die Wahl 2024 die letzte sein könnte, die weitgehend von Menschen bestimmt wird. Das bedeutet nicht, dass Roboter die Macht übernehmen werden, sondern deutet darauf hin, dass politische Kampagnen seit 2008 bereits Technologien einsetzen, um zu testen, welche Botschaften bei den Wählern am besten ankommen. Bis 2028 wird erwartet, dass die Wirksamkeit von KI-generierten Inhalten die von Menschen erstellten Inhalte deutlich übertreffen wird, wodurch von Menschen verfasste Botschaften bei Wahlen an Bedeutung verlieren.
