Smarte Manipulation

Ohne Software funktioniert heute nichts mehr. Auch kein Auto. Und ohne Software hätte Volkswagen die Abgaswerte von 11 Millionen Wagen nicht so leicht manipulieren können. Die Trickserei war in ein paar Zeilen Code versteckt – und blieb dort über Jahre unentdeckt: Ein Algorithmus im Steuercomputer registrierte, wenn der Wagen gerade getestet wurde, und gab dem Motor die Anweisung, weniger schädliche Stickoxide in die Luft zu pesten. Ziemlich smart.
Eigentlich ist ein Auto ja längst ein Smartphone auf Rädern. Im Innern werkeln nicht nur mechanische Zahnrädchen, sondern auch digitale Algorithmen. Sie steuern aufgrund von Sensordaten den Motor – aber auch Klimaanlage, Navigations- und Sicherheitssystem. Der Fahrer selbst weiss längst nicht mehr, was passiert, , welche digitalen und physikalischen Mechanismen in Gang gesetzt werden, wenn er das Gaspedal drückt. Der Wagen ist ein überkomplexes System, und der Mensch darin kann nicht anders, als ihm blind zu vertrauen.
Im Fall von VW wusste der Manipulations-Algorithmus genau, wann das Auto getestet wurde und es die Abgase drosseln musste. Im Testbetrieb steht der Wagen auf Rollen, die vorderen Räder drehen wie wild, während die hinteren still stehen. Das bemerken Sensoren. Auch das GPS registriert keine Bewegung.
Dass sich die Software von Autos manipulieren lässt, hat nicht nur VW demonstriert, sondern auch Hacker. So gelang es etwa zwei Amerikanern, aus der Ferne Zugang zur Steuersoftware eines Jeeps zu erlangen. Der Fahrer merkte von all dem nichts – bis das Bremspedal nicht mehr reagierte und er in den Strassengraben rollte. Zum Glück handelte es sich bei den Hackern nicht um Menschen mit bösen Absichten, sondern um Forscher, die mit ihrem Experiment auf Sicherheitsmängel aufmerksam machen wollten. Das gelang ihnen eindrücklich. Chrysler musste diesen Sommer 1,4 Millionen Jeeps zurückrufen.
Doch das Auto ist längst nicht das einzige Objekt, das im Zuge der Computerisierung einen digitalen Kern erhalten hat und dadurch anfällig für Manipulationen geworden ist. Lampen, Thermostaten, Waschmaschinen, ja Zahnbürsten und sogar Kleider – all das wird vermehrt mit Computerchips versehen und ans Netz angeschlossen. Es entsteht ein «Internet of Things» (Internet der Dinge), das die analoge mit der digitalen Welt verschmelzen lässt.
Der Konzern Samsung – nicht nur Hersteller von Handys und Fernsehern, sondern auch von Haushaltsgeräten – hat kürzlich angekündigt, bis in fünf Jahren jedes seiner Geräte internetfähig zu machen. Wie die Welt dann aussehen soll, zeigten die Koreaner jüngst in einem Video, von dem die Kollegin der «SonntagsZeitung» Gänsehaut bekam, wie sie schrieb.
Es ist eine Welt, in der jeder Gegenstand mit jedem verbunden ist, sich Temperatur und Licht in der Wohnung automatisch regulieren, das Handy anzeigt, wenn die Tochter nach Hause kommt, und der Backofen sich von selber einschaltet, wenn sich die Mutter am Abend auf den Heimweg macht. Natürlich sind in dieser schönen, smarten Welt alle Menschen gut gelaunt, entspannt und zufrieden – schliesslich sorgen die schlauen Geräte für ihr Wohlergehen.
Was das Video nicht zeigt: Die Menschen selbst verlieren das Verständnis für ihre hoch technisierte Umwelt. Algorithmen regulieren alles. Wie die smarte Welt hinter der Fassade der schicken Gerätschaften funktioniert, wissen sie nicht.
Der promovierte Soziologe und «Geo»-Chefredaktor Christoph Kucklick schreibt in seinem Buch «Die granulare Gesellschaft»: «Wir wissen nicht, was Algorithmen tun, deswegen empfinden wir zurecht massives Unbehagen an der Digitalisierung.» Die Algorithmen sind intransparent und damit anfällig für Manipulationen. Uns sind die Regeln nicht bekannt, nach denen sie operieren, deshalb fällt es uns auch nicht auf, wenn sie verändert werden. Die amerikanischen Abgastester haben die Manipulation der Steueralgorithmen in den VW-Wagen sechs Jahre nicht bemerkt. Erst bei einem Abgleich mit den Werten im alltäglichen Strassenverkehr erkannten sie: Da kann etwas nicht stimmen.
Bei den mächtigsten Algorithmen wird die Intransparenz sogar zum Prinzip erhoben: Die Funktionsweise von Page-Rank – jenem Algorithmus, mit dem Google bestimmt, welche Websites bei einer Suchanfrage auf der Trefferliste zuoberst auftauchen – hält der Konzern so geheim wie Coca-Cola die Formel für sein Zuckerwasser. Wenn Google oder ein mächtiger Akteur wie die NSA diesen Algorithmus manipulieren würden, liesse sich das kaum feststellen. Denn die Suchergebnisse, die wir von Google erhalten, sind stets aufgrund unserer Präferenzen personalisiert. Auf ein und dieselbe Anfrage erhält ohnehin jeder andere Ergebnisse.
Diese Art von Manipulation liesse sich auch zu politischen Zwecken nutzen. Zum Beispiel indem man bei Suchanfragen zu Wahlkandidaten jene Links höher gewichtet, die zu Websites mit positiv gefärbten Informationen eines Kandidaten führen. Die beiden Forscher Robert Epstein und Ronald E. Robertson haben genau das im Rahmen dreier Experimente mit 2000 Probanden gemacht. Sie wollten so herausfinden, ob sich mit dieser Methode Wahlen beeinflussen liessen.
Ihr Fazit klingt beängstigend: «Die Ergebnisse legen nahe, dass ein Suchmaschinenanbieter die Macht hat, eine erhebliche Zahl an Wahlen ungestraft manipulieren zu können», schreiben die Wissenschafter im Fachmagazin «PNAS». Die Manipulation funktionierte im Durchschnitt bei 20 Prozent der unentschlossenen Wähler. In einigen Teilgruppen war der Erfolg sogar bedeutend höher.
Es wäre für Google – aber auch für Facebook – ein Leichtes, genau jene potenziellen Wähler zu beeinflussen, die noch unentschlossen sind und sich aufgrund ihrer Persönlichkeit leicht manipulieren lassen. Während der Wähler glaubt, dass er sich selbstständig entscheidet, wird er in Wahrheit sanft in die gewünschte Richtung gestossen. «Nudging» (vom Englischen «to nudge» für «stupsen») wird das genannt.
«Die Kombination von Nudging mit Big Data – nennen wir das einmal ‹Big Nudging› – ist eine Gefahr für unsere Gesellschaft», sagt Dirk Helbing, Professor für Soziologie an der ETH Zürich. Big-Nudging erlaube eine Manipulation von Entscheidungen durch personalisierte Information, die so subtil sei, dass die Betroffenen sie gar nicht bemerkten.
In einer durch Algorithmen gesteuerten smarten Welt ist auch die Manipulation smart. Die Mächtigen – sei es ein Technikkonzern oder ein Geheimdienst – nehmen Einfluss auf die feinsten Verästelungen des gesellschaftlichen Systems und können ganze Machtverhältnisse lautlos zum Kippen bringen. Dass das gemacht wird, dafür gibt es keine Beweise. Solange die Algorithmen aber intransparent sind, gibt es auch keine Garantie, dass nicht manipuliert wird. Für Christoph Kucklick lautet die Schlüsselfrage, «wie wir Algorithmen durchsichtig und der Prüfung zugänglich machen können, ohne dadurch die berechtigten Interessen von Firmen und Staaten an Geheimhaltung zu ignorieren».
Mehr Themen finden Sie in der gedruckten Ausgabe oder über E-Paper