Das blau leuchtende Pulver unserer Zeit
Im September 1987 geschah in der brasilianischen Stadt Goiânia etwas, das heute kaum vorstellbar erscheint. Schrottsammler fanden in einer verlassenen medizinischen Einrichtung ein ausrangiertes Strahlentherapiegerät. Sie zerlegten es und gelangten an Cäsium-137.
Das Material faszinierte. Es leuchtete blau.
Menschen betrachteten es, berührten es und nahmen Teile davon mit. Sie zeigten es Freunden und Familienmitgliedern. Niemand verstand, dass gerade das faszinierende Leuchten mit einer Gefahr verbunden war, die man weder sehen, riechen noch unmittelbar fühlen konnte. Die Folgen waren verheerend. Vier Menschen starben, zahlreiche weitere wurden kontaminiert und Gebäude mussten dekontaminiert oder abgerissen werden. Goiânia wurde zu einem der schwersten zivilen radiologischen Unfälle der Geschichte.
Natürlich sind Social Media, Online-Marketing und künstliche Intelligenz kein radioaktives Cäsium. Wer ChatGPT benutzt oder eine Marketingplattform einsetzt, bekommt keine Strahlenkrankheit. Der Vergleich darf die tatsächlichen Opfer eines radiologischen Unfalls nicht relativieren.
Und trotzdem lässt sich aus Goiânia etwas lernen.
Es ist die Geschichte einer Gefahr, die nicht als Gefahr wahrgenommen wurde, weil das Sichtbare faszinierender war als das Unsichtbare.
Wir haben heute unser eigenes blau leuchtendes Pulver.
Es heißt Reichweite.
Personalisierung.
Datenanalyse.
Automatisierung.
Social Media.
Künstliche Intelligenz.
Und wieder stehen Menschen davor und sind fasziniert. Innerhalb weniger Minuten erreichen Unternehmen Tausende Menschen. Marketingplattformen identifizieren Zielgruppen. Tracking-Technologien machen Verhalten messbar. KI schreibt Texte, analysiert Dokumente, erstellt Bilder und erledigt innerhalb von Sekunden Aufgaben, für die Menschen früher Stunden benötigten.
Das ist beeindruckend. Und genau deshalb sollten wir genauer hinsehen. Das Problem in Goiânia war nicht die Faszination. Das Problem war das fehlende Wissen, um sie richtig einzuordnen.
Etwas Ähnliches erleben wir bei digitalen Technologien.
Wir bauen Tracking-Pixel ein, weil das Marketing bessere Zahlen möchte. Wir synchronisieren Kundendaten mit Plattformen, weil Kampagnen dadurch effizienter werden. Wir laden Dokumente in eine KI, weil wir innerhalb von Sekunden eine Zusammenfassung bekommen.
Die erste Frage lautet häufig nicht: Was passiert dabei eigentlich mit den Informationen?
Sie lautet: Funktioniert es?
Wir sehen das Ergebnis. Den fertigen Text. Die Reichweite. Die Conversion Rate. Die beeindruckende Antwort einer KI. Was wir nicht sehen, sind die Datenströme dahinter. Wir sehen nicht unmittelbar, welche Informationen übertragen werden, welche Dienstleister beteiligt sind, welche Profile entstehen oder welche Rückschlüsse aus scheinbar harmlosen Informationen gezogen werden können.
Die digitale Gefahr leuchtet nicht blau. Sie leuchtet als komfortable Benutzeroberfläche.
Gerade bei künstlicher Intelligenz ist dieser Effekt bemerkenswert. Wenn jemand eine Excel-Datei mit Beschäftigtendaten an einen unbekannten Dienstleister schicken möchte, entsteht häufig noch ein gewisses Unbehagen. Bei einer KI verschwindet diese Wahrnehmung erstaunlich schnell.
Man öffnet ein Eingabefeld und schreibt:
„Fasse mir diese Bewerbung zusammen.“
„Formuliere aus diesen Informationen ein Arbeitszeugnis.“
„Bewerte diese Kundenbeschwerde.“
„Analysiere diese E-Mail.“
Es fühlt sich nicht wie eine Datenübermittlung an. Es fühlt sich wie ein Gespräch an.
Dahinter kann trotzdem eine komplexe Verarbeitung personenbezogener oder vertraulicher Informationen stehen. Selbst vermeintliche Anonymisierung schützt nicht automatisch. Menschen bestehen nicht nur aus Namen.
„Der Vertriebsleiter unserer Niederlassung in Köln, seit 22 Jahren im Unternehmen, zuständig für unseren größten Automobilkunden“ kann möglicherweise auch ohne Namen eindeutig identifizierbar sein.
Der Kontext kann den Namen ersetzen.
Auch Social Media zeigt dieses Prinzip. Ein Like wirkt belanglos. Ein Klick ebenfalls. Eine Standortinformation, eine Suchanfrage oder die Verweildauer auf einer Internetseite erscheinen für sich betrachtet wenig spektakulär.
Die eigentliche Aussagekraft entsteht durch die Kombination. Aus vielen kleinen Informationsfragmenten können Interessen, Beziehungen, Gewohnheiten und persönliche Präferenzen entstehen.
Jedes einzelne Körnchen wirkt harmlos.
Die Gesamtheit möglicherweise nicht.
Das bedeutet nicht, dass Social Media schlecht ist. Es bedeutet nicht, dass Online-Marketing abgeschafft werden sollte. Und es bedeutet erst recht nicht, dass wir künstliche Intelligenz nicht einsetzen sollten.
Das wäre die falsche Lehre.
Die richtige Lehre aus Goiânia ist nicht, dass Menschen niemals etwas Neues anfassen sollten.
Die richtige Lehre ist, dass Faszination kein Ersatz für Wissen ist.
Und diese Erkenntnis wird wichtiger, weil digitale Werkzeuge immer einfacher werden. Früher brauchte man Spezialisten für komplexe Datenanalysen. Heute braucht man manchmal nur einen Account und ein Texteingabefeld.
Die technische Einstiegshürde sinkt schneller als die notwendige Kompetenz.
Ein Mitarbeiter muss kein Entwickler mehr sein, um mächtige KI einzusetzen. Ein kleines Unternehmen braucht keine Data-Science-Abteilung, um große Informationsmengen analysieren zu lassen.
Das ist eine enorme Demokratisierung von Technologie.
Es ist gleichzeitig eine Demokratisierung ihrer Risiken.
Deshalb brauchen wir keine Angst vor KI.
Wir brauchen Wissen über KI.
Wir brauchen keine Angst vor Daten.
Wir müssen verstehen, welchen Wert sie haben.
Wir müssen Social Media nicht verlassen.
Wir sollten verstehen, wie Plattformökonomie funktioniert.
Und wir müssen Online-Marketing nicht abschaffen.
Wir sollten wissen, wann aus einer Werbemaßnahme die Beobachtung und Profilbildung von Menschen wird.
Datenschutz ist in diesem Verständnis keine Vorschriftensammlung, die Innovation verhindern soll.
Datenschutz ist ein Teil der Gebrauchsanweisung für eine Gesellschaft, deren wichtigste Ressource zunehmend Information ist.
Vielleicht liegt genau hier die wichtigste Parallele zu Goiânia. Das Cäsium-137 war nicht gefährlich, weil Menschen böse Absichten hatten. Sie wussten schlicht nicht, was sie vor sich hatten.
Die Faszination war unmittelbar. Die Gefahr war unsichtbar. Das Wissen fehlte.
Unsere digitalen Werkzeuge sind selbstverständlich von völlig anderer Art und ihre Risiken sind mit den gesundheitlichen Folgen eines radiologischen Unfalls nicht gleichzusetzen.
Aber der Mechanismus menschlichen Handelns ist bemerkenswert ähnlich.
Wir sehen etwas Neues. Wir erkennen einen Nutzen. Wir sind fasziniert. Wir probieren es aus.
Und erst später fragen wir, was eigentlich dahintersteckt.
Vielleicht sollten wir diese Reihenfolge ändern.
Nicht aus Angst vor Technologie.
Sondern gerade deshalb, weil wir sie nutzen wollen.
Denn das Gefährlichste ist manchmal nicht das, was bedrohlich aussieht.
Manchmal ist es das, was faszinierend leuchtet.
Inspiriert zu diesem Text hat mich übrigens die Netflix Serie ”Nuklearer Notfall". https://www.netflix.com/de/title/81696429
Weitere Quellen und Informationen auf https://de.wikipedia.org/wiki/Goi%C3%A2nia-Unfall