Ein Foto vom 16 September 2016 zeigt ein iPhone 7 in einem Apple Store in Sydney, Australien.
Das neue Iphone soll im Novemer auf den Markt kommen und ersetzt das alte Iphone 7 / picture alliance

Apple Iphone - „Überwachung findet zunehmend asymmetrisch statt“

Apples neues iPhone X kann seinen Besitzer per Gesichtserkennung identifizieren. Inwieweit sind solche Funktionen der nächste Schritt hin zu einer Gesellschaft gegenseitiger Überwachung? Ein Gespräch mit dem Autoren und Diplom-Informatiker Benjamin Kees

Bastian Brauns

Autoreninfo

Bastian Brauns leitete das Wirtschaftsressort „Kapital“ bei Cicero von 2017 bis 2021. Zuvor war er Wirtschaftsredakteur bei Zeit Online und bei der Stiftung Warentest. Seine journalistische Ausbildung absolvierte er an der Henri-Nannen-Schule.

So erreichen Sie Bastian Brauns:

Herr Kees, jetzt werden unsere Gesichter nicht mehr nur als Pilotversuch von Kameras wie am Berliner Bahnhof Südkreuz erfasst. Apple hat nun sein neues iPhone vorgestellt. Es soll seinen Besitzer ebenfalls anhand des Gesichts erkennen. Wird die Überwachung immer umfassender?
Es gibt zwischen der Gesichtserkennung, die am Südkreuz getestet wird und einer Gesichtserkennung zum Entsperren des eigenen Telefons einen großen Unterschied. Für eine Gesichtserkennung, die auf meinem Telefon stattfindet, kann ich mich entscheiden. Ich kooperiere in dem Moment mit der Kamera, indem ich möglichst erkennbar in die Kamera blicke. Nach heutigem Stand der Technik sollte es funktionieren, dass ich erkannt werde und sich mein Telefon entsperrt. Allerdings ist so eine Kamera im Telefon, wie wir ja schon mehrfach lesen mussten, leicht auszutricksen. Selbst die Iriserkennung konnte mit ein paar Handgriffen getäuscht werden.

Aber ist Überwachung nicht trotzdem gleich Überwachung?
Der Gesichtserkennung im öffentlichen Raum, so wie sie von der Bundespolizei, der Bahn und dem Bundesinnenministerium gewünscht wird – nämlich flächendeckend und dauerhaft – ist eine ganz andere Dimension. Auch wenn technisch dahinter etwas ganz ähnliches abläuft. Hier gibt es für Menschen, die einfach nur irgendwo bedenkenlos langlaufen, keine Möglichkeit, sich dieser Erkennung dauerhaft zu entziehen, ohne dabei Lebensqualität zu verlieren. Dabei können diejenigen, die davon ausgehen, dass nach ihnen gefahndet wird, sich der Überwachung leicht mit Mützen, Bärten und Brillen entziehen. Somit hat eine Gesichtserkennung im öffentlichen Raum täglich dramatische Auswirkungen auf die Grundrechte Tausender Menschen und diejenigen, um die es eigentlich geht, bleiben unerkannt.

In Ihrem Buch „Algorithmisches Panopticon“ beschreiben Sie eindrücklich, wie wir uns letztlich alle gegenseitig überwachen. Wie weit sind wir damit schon?
Es ist ja nicht wirklich eine gegenseitige Überwachung. Das Ganze findet zunehmend asymmetrisch statt. Während früher soziale Kontrolle im öffentlichen Raum vielleicht durch strafende Blicke und Anwesenheit stattfand, starren nun Kameras auf die Menschen herab. In weit mehr als 90 Prozent der Maßnahmen ist nicht mal erkennbar, aus welchem Grund sie stattfindet. Man konstruiert sich also – vielleicht auch unbewusst – eine Norm, die einen in der Freiheit sich im öffentlichen Raum zu bewegen einschränkt. Videoüberwachung ist dabei auch nur ein Puzzleteil in der Überwachungsgesamtrechnung aus Vorratsdatenspeicherung, Auswertung von Metadaten und der noch viel umfangreicheren privatwirtschaftlichen Überwachung, die viel größere Auswirkungen auf die Gesellschaft und jeden Einzelnen haben wird, als man annehmen will.

Was kann dagegen überhaupt getan werden? Viele Menschen scheint es nicht zu interessieren. Sie sagen, sie hätten ja nichts zu verbergen.
Vielen ist der Zusammenhang zwischen der Aussage „Ich habe doch nichts zu verbergen“ und einer Solidarität nicht klar. Wenn ich behaupte, nichts zu verbergen zu haben, dann trifft man diese Aussage und die Entscheidung ja nicht nur für sich. Viele um mich herum haben meine Kontaktdaten in ihrem Telefon und haben diese ohne es zu bedenken an Social Media Plattformen wie Facebook weitergeben. Sie haben für mich entschieden, ohne dass ich jemals einen Fuß auf die Seite gesetzt habe, dass diese Firmen Informationen über mich haben und verknüpfen. Selbst wenn es für einen einzelne Menschen und seine Daten unnötig scheint, sie zu schützen – was ich in den allermeisten Fällen stark bezweifele – so sollten wir doch als Gesellschaft den Wunsch haben, dass etwa Anwälte, Psychotherapeuthen, Seelsorger und Journalisten unüberwacht handeln können. Gerade diese Leute und damit auch ihre Klienten dürfen sich nicht durch Überwachung eingeschränkt fühlen, oder ungewollte Informationen über andere preisgeben müssen.

Beim G20-Gipfel kamen neulich sogar Journalisten auf eine schwarze Liste des Bundeskriminalamtes, die dort fälschlicherweise standen. Muss man also nicht mal was zu verbergen haben, um verdächtig zu sein?
Genau! Zur Behauptung, man habe nichts zu verbergen, kommt man ja immer nach den eigenen Kriterien, die man von „Recht und Ordnung“ hat. Tatsächlich sind die Interessen, die hinter der Auswertung der Informationen stehen, völlig unklar und können sich ja in Zukunft ändern. Eine grundsätzliche Datensparsamkeit ist also empfehlenswert, wenn man nicht nach Kategorien behandelt werden will, die sich jemand anderes ausdenkt oder ein Computerprogramm statistisch errechnet.

Es wurden schon viele Überwachungsdystopien geschrieben. Fehlt uns trotzdem die Fantasie, uns die Folgen für unsere Realität vorzustellen?
Ein mulmiges Gefühl haben doch die meisten, wenn sie Technik benutzen oder darüber nachdenken. Diejenigen, die für die Überwachungstechniken werben, schaffen es nur immer wieder, die Überwachung – die nicht anders genannt werden kann – so zu verkaufen, dass sie besonders komfortabel und hilfreich wirkt. Nur besteht die Notwendigkeit eines Zusammenhanges zwischen bequemer Nutzung und dem Preisgeben von Daten in vielen Fällen gar nicht. Und ein wirklicher Sicherheitsgewinn durch Überwachungsmaßnahmen ist in vielen Maßnahmen wie Videoüberwachung inzwischen lächerlich zu behaupten. Es gibt keine ernstzunehmende Studie, dass Videoüberwachung einen präventiven Nutzen hat. 

Sie selbst haben wahrscheinlich kein iPhone, oder?
Ich habe kein iPhone. Ich bevorzuge dezentrale nichtkommerzielle Kommunikationskanäle und versuche allen, mit denen ich regelmäßig kommuniziere, Verschlüsselung zu erklären und einzurichten. So schwer ist das alles nicht mehr. Niemand muss mehr all seine Kontakte an eine Firma wie Facebook verschenken, die mit den Daten ganz eigene Ziele verfolgt, die nur zufällig ab und zu mit den eigenen Interessen übereinstimmen. Tatsächlich bieten bei jedem Besuch einer Website, unzählige Firmen Geld dafür an, mich mit dem Wissen, dass sie bei Datenhändlern eingekauft haben, bei meinen Entscheidungsfindungen auf ihren eigenen Weg zu locken. Das passiert inzwischen im Millisekundentakt.

Welche Folgen sehen Sie für uns gesellschaftlich?
Firmen wie Facebook, Apple und Google sammeln so unfassbar viele Informationen über eine Gesellschaft und einzelne Menschen, die sie nach ihren eigenen subjektiven Mechanismen auswerten. Mit diesem Wissen beeinflussen sie nach allen Mitteln der Kunst die Menschen und gestalten die Gesellschaft mit. So verliert jene eine gewisse Selbstbestimmtheit. 

Stichwort Schere im Kopf. Was macht das mit dem Einzelnen?
Die Schere im Kopf merkt man zum Beispiel beim Tippen einer Mail oder einer Kurznachricht, bei der ich nicht ausschließen kann, dass jemand oder ein Computerprogramm mitliest und sie auswertet. Man hält inne und löscht etwa ein paar Worte. Die Schere im Kopf merkt man auch, wenn man zögert, an völlig legitimen Handlungen wie einer Demo teilzunehmen, weil man vermuten muss, dass man dabei mit hochaufgelösten Kameras und Gesichtserkennung die ganze Zeit identifiziert wird und völlig unzutreffend mit bestimmten Dingen assoziiert wird, was einem später eventuell zum Nachteil ausgelegt wird.

Was kann jeder konkret für sich unternehmen?
Sobald Fotos von meinem Gesicht zur Verfügung stehen, können diese mit Programmen zur Gesichtserkennung abgeglichen werden. Dass Kameras von Laptops und Smartphones eingeschaltet und die Bilder abgegriffen werden können, ohne dass man es merkt, sollte sich inzwischen rumgesprochen haben. Viele Menschen, die zum Beispiel den Snowden-Film gesehen haben, kleben ihre Kameras ja inzwischen ab. Das ist ein kleiner Schritt, den jeder und jede gehen kann, um ein wenig mehr aufatmen zu können. Auf weitere Schritte kommt man am besten selbst, wenn man sich bei einem Dienst den man nutzt die Frage stellt, bin ich hier Kunde oder bin ich das Produkt, an dem jemand anderes auf meine Kosten verdient.

Mitarbeit: Frederick Leo

 

Cover "Algorithmisches Panopticon"Benjamin Kees ist Diplom Informatiker und Vorstandsmitglied des Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung. Sein Buch „Algorithmisches Panopticon“ ist zum Download erhältlich.

 

 

 

 

 

 

 

Bei älteren Beiträgen wie diesem wird die Kommentarfunktion automatisch geschlossen. Wir bedanken uns für Ihr Verständnis.

Josef Garnweitner | Do., 14. September 2017 - 16:18

Antwort auf von Wilhelm Maier

einer der abgebrühtesten Datensammler dieser Welt, hat die Kamera an seinem Laptop abgeklebt !!! Der wird wissen warum. Wenn der nicht, wer dann?

Mathias Trostdorf | Mi., 13. September 2017 - 21:34

Ich finde interessant, daß gerade viele junge Leute, oft Fans der "offenen Gesellschaft", gegen Videoüberwachung sind. Ohne die nach allen Seiten "offene Gesellschaft" wäre doch Videoüberwachung gar nicht nötig, wie man es aus vielen Kriminalstatistiken herauslesen kann. Wer nichts zu verbergen hat, braucht sich doch nicht daran zu stören? Es ist doch das kleinere Übel, körperlich unversehrt zu bleiben, oder wenigstens im Nachgang die Täter von Straftaten ausfindig machen und Tathergänge nachvollziehen zu können, als daß irgendjemand weiß, daß ich immer Freitags nachmittags bei Rewe einkaufe. Ich mag "Recht und Ordnung", denn das sind Pfeiler unseres Zusammenlebens. Ich glaube, daß viele junge Leute ja gar nicht wissen, wie es ist, in relativ großer Sicherheit zu leben, jedenfalls in weitaus größerer als heutzutage, weil sie das gar nicht mehr erlebt haben. Schwindende Sicherheit schränkt die Freiheit wesentlich mehr ein als ein bißchen Videoüberwachung an Kriminalitätsschwerpunkten.

Peter Huber | Do., 14. September 2017 - 08:32

Neulich nach dem Start, blauer Schirm, Smartphon im Ruhezustand, ertönte aus dem OFF die Google Stimme : Wenn du was gesagt hast habe ich dich nicht verstanden. Schon seltsam, seitdem bleibt Smartphon ausserhalb der Hörreichweite oder in einem anderen Zimmer.

Georg Fanz | Do., 14. September 2017 - 08:33

Mustererkennung ist ein aufwendiger Prozess, der üblicherweise nicht auf Kleingeräten stattfindet, sondern auf Servern in der Cloud. Bei Siri findet auf dem iPhone nur die Aufnahme der Sprache statt, die als Datei auf Server im Ausland geschickt und dort erkannt wird. Die spannende Frage ist nun, wie das bei der Gesichtserkennung gelöst ist - ist das iPhone vielleicht doch nur eine Kamera mit Internetanschluß, und die Bilder werden auf zentralen Servern verarbeitet (und natürlich auch gespeichert) ?

Die Fingerabdruckerkennung der bisherigen iPhones läuft nach Angaben von Apple komplett auf dem Gerät und die gespeicherten Muster können angeblich nicht extrahiert werden. Was man auf solche Behauptungen geben kann, wer weiß... Bislang scheint es aber noch niemanden gelungen zu sein, das System zu Überwachungszwecken auszutricksen (eine Entsperrung war dagegen mittels Fingerkuppenattrappe möglich). Oder es hat nur noch niemand herausposaunt...

Das denke ich nicht, das Gerät könnte dann ja ohne Internetverbindung nicht entsperrt werden. Mglw. berechnet das Telefon aus den Gesichtsmerkmalen einen Zahlenwert der abgelegt wird. Gleiche oder ähnliche Merkmale ergeben dann den Wert, bei dessen Übereinstimmung das Ding entsperrt wird. Aber bei Apple/Google/Fackbook weiß man ja nie.

Stephan Unger | Do., 14. September 2017 - 09:02

Wenn die Strafverfolgungsbehörden an die Handydaten wollen, dann können sie dir das Handy wie der Rowdy auf dem Schulfhof einfach vor die Nase halten, während sie dich festhalten.

Oder sei es nur, dass die eifersüchtige Freundin das Handy nimmt und es vors Gesicht hält.

Nene, irgendwie finde ich die Idee mit der Gesichtserkennung schon sehr schräg und der größte Nutzen wird wohl die Befriedigung des Narzissmus der Benutzer sein - Schau mal, ich kann mit meinem Gesicht mein Handy entsperren und du nicht . hähähähä .. Gesichtscheck nicht bestanden :)

Michael Sander | Do., 14. September 2017 - 09:14

Die zunehmende Überwachung des öffentlichen Raumes ist ärgerlich. Allerdings muss man auch ganz klar sehen, dass uns solche Dinge durch den internationalen, islamischen Terrorismus geradezu aufgezwungen werden.
Natürlich ist Überwachung kein Allheilmittel. Doch es ist ein zunehmend wichtiges Instrument in einem ganzen Bündel von Sicherheitsmaßnahmen. Und ganz so einfach sich dem zu entziehen, wie der Autor behauptet, ist es dann auch wieder nicht, Wo Daten im großen Stil gesammelt werden, besteht immer die Gefahr des Missbrauchs. In einem Rechtsstaat müssen daher flankierende Maßnahmen getroffen werden, um einen solchen Mißbrauch zu verhindern. Das Kind mit dem Bade auszuschütten, kann jedoch auch nicht die Lösung sein.

Bernhard Jasper | Do., 14. September 2017 - 09:53

Ein Hauptakteur der elektronischen Vernetzung im Informationszeitalter ist natürlich der Informatiker oder der Programmierer. Funktional wird er auch zum unsichtbaren Ausbeuter der Anwender.

Die allgemeine Überhöhung des Informationszeitalters hat jedoch auch eine anthropologische, theologische und mythische Dimension. Eigentlich steht die angewandte Informationstechnik im Gegensatz zum menschlich-mythischen Blick des Menschen. Sie beansprucht zwar die Echtheit (sowie allgemein Medien Echtheit und Mitte beanspruchen), jedoch wird die Wirklichkeit „nur“ reproduziert. Eine zweite „eigene“ Wirklichkeit entsteht. Meine Forderung lautet von daher: Medienbildung für alle!

Beispiel: In dieser Aufmerksamkeitsökonomie ist diese „AfD“ mit ihren kalkulierten Verschwörungstheorien und Provokationen aktiv. Und natürlich ist es keine bürgerliche Partei, sondern eine Protest-Bewegung im Informationszeitalter. Hätte sie keine medialen „Werkzeuge“, bliebe von der „Partei“ nicht viel übrig.

Peter Lieser | Do., 14. September 2017 - 10:31

Was hat das mit der AFD zu tun ??? Alle Parteien profitieren von den, wie sie es nennen, medialen Werkzeugen. Übrigens, bei mir lag heute das AFD Programm als Postwurfsendung im Briefkasten. Gedruckt auf schnöden Papier ! Um mich bemerkbar zu brauche ich Geld, sonst nix. Keine Ahnung was das soll, immer auf kleinen Parteien rum zu hacken und das kurz vor der Wahl. FDP zahlt keine Sozialabgaben, AFD Spitze beschäftigt Schwarzarbeiter..........GÄHN !!! Und nein, ich bin kein Parteisoldat, sondern gehöre zur Spezies, gemeiner Wähler.

helmut armbruster | Do., 14. September 2017 - 10:38

ob ich selbst wählen kann wie ich das iPhoneX einschalten möchte und ob, falls ich mich für Einschalten ohne Gesichtserkennung entscheide, auch tatsächlich nichts aufgenommen wird.
Kann ich das nicht, bin ich ausgeliefert und ich habe keine Kontrolle mehr was weiterhin mit dem Scan geschieht.
Zu meiner großen Überraschung sieht die Mehrheit meiner Bekannten in einem solchen Ausgeliefertsein kein Problem. Ihre Begründung ist, sie hätten ja nichts zu verbergen.
Dass es sich um einen schwerwiegenden Eingriff in ihre Persönlichkeits- und Freiheitsrechte (im GG geschützt) handelt kümmert sie nicht oder ist ihnen gar nicht bewusst.
Falls diese Ansicht in unserer Gesellschaft die Meinung der Mehrheit darstellt, regen wir anderen uns zwar zu Recht darüber auf, aber wir werden diese Entwicklung nicht verhindern können.
Freiheit und was sie alles bedeutet, verstehen offenbar längst nicht alle.

M. Jüschke | Do., 14. September 2017 - 10:57

Auch auf dieser Seite vom Cicero wird der Zeichensatz von Googel geladen, damit die Firma weiß, wie der Cicero besucht wird. Nötig hat Googel das eigentlich nicht, denn es läuft ja auch Googel-analytics.

Joachim Fehr | Do., 14. September 2017 - 14:40

Es graust mir: Staat und Konzerne treten das Individum Mensch mit Füßen, machen den Menschen zur Nummer. Gesichterkennung, Vorratsdatenspeicherung Orwells Fantasie ist grausame Wirklichkeit. Schickt die Ordungsfanatiker nach Hause, egal ob diese Merkel, Schultz, Maizière, Maas, Seehofer, Herrmann oder gar Gauland, Höcke oder Weidel heißen. Wer glaubt mit totaler Überwachung den Staat sicherer zu machen, legt die Axt an die Wurzel unserer Demokratie. Mehr Sicherheit entsteht nicht durch Totalüberwachung durch die Technik, sondern durch mehr Polizei. Dies müssen allerdings auch die Grünen und Linken kapieren. Wie man Sicherheit und Freiheit sinnvoll verknüpft, dafür stehen Namen, wie Maihofer, Baum, Hirsch, Genscher, Leuthäuser-Schnarrenberger.