San Francisco, am nördlichen Ende des Silicon Valley, ist das technologische Herz Amerikas. Apple, Google und Facebook haben ihre Büros nur wenige Kilometer entfernt von der Metropole. Hier wird entwickelt, was die Welt verändert. Hier wird die Zukunft zur Gegenwart. Und hier wurde soeben ein Gesetz beschlossen, das genauso prägend sein könnte wie all die technologischen Errungenschaften der letzten Dekade: San Francisco verbietet Technologie zur Gesichtserkennung für Polizei und Behörden.

Überwachungskameras sind zwar erlaubt, aber Software, die Gesichter erkennt und mit Datenbanken abgleicht, ist nicht zugelassen. Damit ist San Francisco die erste Stadt in den USA, die ein solches Verbot beschliesst. (Ausgenommen sind der Flughafen und der Hafen, da sie unter Bundeskompetenz fallen.)

2017 hat CEO Tim Cook im Apple-Hauptquartier bei der Präsentation des iPhone X die Gesichtserkennung als technologischen Fortschritt gepriesen. «Sie schauen auf das Telefon, und es erkennt sie», sagte er. Die Zuschauer jubelten. Das iPhone wurde zu einem der meistverkauften Smartphones überhaupt – und die Gesichtserkennung Mainstream. Dass ausgerechnet San Francisco diese Technologie einschränkt, ist nur auf den ersten Blick ein Widerspruch. Gesichtserkennung für private Nutzung ist weiterhin erlaubt. Sie darf eingesetzt werden, um dem Handynutzer mehr Komfort zu bieten, aber nicht zur Überwachung der Bürger.

Totalüberwachung in China

Damit ist die Gesichtserkennung wohl die erste Digitaltechnologie, die grundsätzlich eingeschränkt wird. Nicht nur in der Stadt San Francisco, sondern auch im Internet. Weder auf Google noch auf Facebook kann nach einem Gesicht gesucht werden. Dabei wäre das ein Leichtes. Binnen Sekundenbruchteilen liesse sich das ganze Netz nach einem Gesicht durchsuchen – wie das auf den bei Google oder Apple gespeicherten privaten Fotoalben der Fall ist. Um die Privatsphäre der Nutzer zu wahren, haben Google und Facebook diese Möglichkeit bewusst unterbunden.

Die Gesichtserkennung zeigt: Nicht alles, was technologisch machbar ist, wird auch gemacht.

Das ist entscheidend. Dass man sogar von einer Zäsur sprechen könnte, wird klar, wenn man den Blick auf die andere Seite der Erdkugel richtet. Nirgends gibt es so viele Überwachungskameras wie in China – und es werden täglich mehr. Bis 2020 sollen es 600 Millionen sein. In den Grossstädten wird es keinen Hauseingang, keinen Hinterhof und keinen Strassenwinkel mehr geben, der nicht mindestens von einem Kameraauge erfasst wird.

Die Überwachung ist dann vollkommen. Jeder Bürger wird erkannt und kann unmittelbar geortet werden. Schon jetzt tragen Polizisten Brillen mit Kameras und Bildschirm, die sie auf eine gesuchte Person in einer Menschenmenge aufmerksam machen. Wie effektiv das System ist, zeigt der Fall eines mutmasslichen Wirtschaftsverbrechers, dessen Gesicht Sicherheitskameras an einem Konzert mit 50'000 Besuchern erkannt haben und der sofort verhaftet wurde.

Tür öffnet sich nur Befugten

Wer in Schanghai bei Rot über die Strasse geht, muss damit rechnen, dass sein Gesicht danach auf einem Bildschirm für jeden sichtbar gezeigt wird – als erzieherische Massnahme. An den Eingängen von Studentenheimen sorgen Kameras dafür, dass sich Türen nur befugten Personen öffnen. Und in einigen Klassenzimmern werden die Gesichter der Schüler gescannt, um sicherzustellen, dass sie dem Unterricht folgen.

Die Millionen Kameras sind die Grundlage für ein Überwachungssystem, das die Kommunistische Partei euphemistisch «Social Score» nennt. Jeder Bürger wird künftig bewertet. Gute Handlungen – etwa Aufmerksamkeit – im Unterricht werden mit Pluspunkten honoriert. Schlechte Taten – etwa bei Rot über die Strasse gehen – mit einem Punkteabzug geahndet. Wer einen hohen Score hat, wird einfacher einen guten Job, leichter eine Wohnung bekommen und unkomplizierter vom Staat ein Visum für eine Auslandreise erhalten. Menschen mit tiefem Punktestand werden womöglich ihren Job verlieren, keine neue Bleibe finden und vom Staat mit Sanktionen bestraft.

Ab nächstem Jahr soll das System für alle obligatorisch sein. Doch jetzt schon machen viele Chinesen freiwillig mit, weil sie als «gute Bürger» von den Vorteilen eines hohen Punktestandes profitieren wollen. Man kann das Volkserziehung im Digitalzeitalter nennen. Oder «technologischen Totalitarismus». So bezeichnet Dirk Helbing, Professor für computerbasierte Soziologie der ETH Zürich, die Entwicklung.

Für ihn geht es um eine Weichenstellung. «Wir müssen uns entscheiden, wo wir als Gesellschaft hinwollen», sagt er. Auf der einen Seite der Weiche befindet sich das chinesische Modell mit der zentralen digitalen Kontrolle durch den Staat, auf der anderen die sogenannte informationelle Selbstbestimmung. Dieses Konzept sieht vor, dass jede Person selber entscheidet, welche Daten sie preisgibt und ob sie sich von Maschinen auslesen lassen will. Das Verbot in San Francisco sei ein wichtiger Schritt dahin, findet Helbing.

Dank künstlicher Intelligenz

Der Fortschritt der Gesichtserkennung geht Hand in Hand mit der Entwicklung der künstlichen Intelligenz in den letzten Jahren. Gesichter werden vermessen (zum Beispiel Augenabstand), so entsteht aus vielen Messpunkten ein eindeutiges biometrisches Identifizierungsmerkmal einer Person.

So wie mit der IP-Nummer im Internet kann man damit Menschen in den Städten tracken. Die Überwachung wird hier greifbarer, schliesslich erfolgt sie in der Realität und über das Gesicht, über das uns auch unsere Mitmenschen erkennen und das Ausdruck unserer Persönlichkeit ist. Das macht nicht nur mehr Angst. Man kann sich der Kontrolle auch viel schlechter entziehen. Es hilft hier keine Anonymisierungssoftware. Vor den Augen der Kameras bleibt man nur verborgen, wenn man sein Gesicht verschleiert.

In der Schweiz ist eine Anwendung der Technologie nicht erlaubt, da es keine gesetzliche Grundlage gibt. Viktor Györffy, Präsident von grundrechte.ch, sagt gegenüber der «Wochenzeitung», dass die Gesichtserkennung in der normalen Polizeiarbeit hierzulande noch nicht eingesetzt werde. Die Begehrlichkeiten würden jedoch steigen, je allgegenwärtiger die Technologien seien.

Oliver Bendel, Maschinenethiker und Professor an der Fachhochschule Nordwestschweiz, begrüsst eine Einschränkung der technologischen Möglichkeiten von Gesichtserkennungssoftware. Das Problem bei der Gesichtserkennung im öffentlichen Raum sei, dass versucht werde, jedes Gesicht zu erkennen und womöglich auch zu analysieren. «Jeder wird erfasst, jeder wird zum Verdächtigen», sagt er.

Letzten Sommer hat Bendel an der Stanford University im Silicon Valley in einem Vortrag vor einer «unheimlichen Rückkehr der Physiognomik» gewarnt. In dieser Pseudowissenschaft wird versucht, aus Gesichtszügen Charaktereigenschaften abzuleiten oder gar abzuschätzen, ob ein Mensch kriminell veranlagt ist. Obwohl es dafür keine wissenschaftliche Grundlage gibt, versuchen Computerspezialisten nun genau das, mithilfe von künstlicher Intelligenz und Gesichtserkennungstechnologie.

So wollen Forscher aus China einen Algorithmus entwickelt haben, der mit einer Wahrscheinlichkeit von 89,5 Prozent anhand einer Fotografie erkennt, ob jemand kriminell ist. Und Forscher aus der USA wollen mit einer Genauigkeit von 81 Prozent sagen können, ob jemand homosexuell ist. Die Studien sind in Fachkreisen umstritten. Die hohen Korrelationen könnten auch andere Gründe haben – etwa in Zusammenhang mit Kleiderwahl oder Haarschnitt stehen.

Wenn einmal Algorithmen aufgrund von physiognomischen Merkmalen entscheiden sollten, ob jemand potenziell gefährlich ist oder nicht, wäre das in «höchstem Masse diskriminierend», findet Bendel.

3000 Kinder wiedergefunden

Doch die Gesichtserkennung hilft, wenn es darum geht, Verbrechen aufzuklären oder Flüchtige zu schnappen. In Oklahoma beispielsweise konnte ein mutmasslicher Kinderschänder nach über 20 Jahren Flucht geschnappt werden. In einer Hotel-Lobby in Colorado erkannte eine Kamera drei Diebe, welche Schmuck im Wert von mehreren hunderttausend Dollar geraubt hatten. Und in New Delhi wurden dank Gesichtserkennung laut Medienberichten 3000 vermisste Kinder gefunden.

Daniel Castro vom Thinktank Center for Data Innovation plädiert deshalb in der «New York Times» gegen ein generelles Verbot und für einen sinnvollen Umgang mit der Technologie. So könnte man Gesichtserkennung beispielsweise nur bei Menschen erlauben, gegen die ein richterlicher Fahndungsbefehl vorliegt, oder bei Kindern, die als vermisst gemeldet sind. Alle anderen Personen blieben für die Kameras unerkannt. Unbescholtene Bürger könnten zwar theoretisch noch immer verwechselt und so versehentlich zu Tatverdächtigen werden. Doch kein Land mit einem funktionierenden Rechtssystem verurteilt Menschen einzig aufgrund einer von einem Algorithmus festgestellten Konvergenz.

Vielleicht sollte der Westen seiner Rechtsstaatlichkeit mehr Vertrauen schenken. Ist die Gefahr wirklich so gross, dass man wegen einer neuen Technologie gleich in ein diktatorisches System à la China abdriftet? Muss man die Technologie wirklich ganz verbieten, um sicherzugehen? Kann man sie nicht sinnvoll einschränken?

Anders gesehen: Vielleicht tut ein zwischenzeitlicher Stopp gut, um sich über solche Fragen klar zu werden. Und breit zu diskutieren. Ehe die Überwachung auf den Strassen zu weit vorgerückt ist und eine Umkehr nicht mehr möglich ist. San Francisco, das technologische Herz Amerikas, hat die «Pause»-Taste gedrückt.