Plaidoyer pour une intégrité numérique
Discours d’Alexis Roussel et Grégoire Barbey
Présenté le 17 Septembre 2019 – Conférence de l’Association francophone des autorités de protection des données (AFAPDP) à Dakar
*** Version allemande plus bas *** Text in deutscher Sprache unten ***
Ces trois dernières décennies ont vu les technologies numériques évoluer à une vitesse impressionnante. Le monde d’il y a 30 ans n’a plus rien de comparable à celui d’aujourd’hui. Presque tout le monde est connecté. De manière consciente ou non. Ce changement de paradigme a bouleversé les habitudes et les comportements humains. Bien que la technologie évolue de façon exponentielle, les approches politiques et philosophiques peinent à suivre le rythme. A tel point que nous pouvons constater que les législateurs sont souvent pris de court par les innovations qui voient régulièrement le jour.
L’une des raisons de cette dichotomie entre la technologie et la pensée politique et philosophique est à chercher dans le manque de prospective qui anime les débats de société liés au numérique. Bien qu’on puisse recenser des penseurs qui ont déjà abordé ces réflexions en profondeur, force est de constater que les approches philosophiques liées à la technologie restent assez éloignées du grand public.
Si les œuvres littéraires et cinématographiques de science-fiction ont permis de thématiser dans la culture populaire les conséquences d’une technologie qui aliénerait l’humain plutôt que de l’émanciper, rares sont les œuvres qui ont vu venir les sérieuses menaces qui sont incarnées par la collecte et l’exploitation des données personnelles. Nous pourrions toutefois citer «Bienvenue à Gattaca» ou encore «Minority Report» qui se rapprochent de cette thématique d’une certaine manière.
L’objectif de la pensée contemporaine doit aujourdui être de replacer l’humain au centre de l’équation. Parce que la technologie, aussi évoluée soit-elle, doit profiter à l’ensemble de l’humanité, plutôt qu’à une élite qui détiendrait à la fois le capital financier et scientifique lui permettant d’asservir la majorité. Et pour atteindre ce but, il faut faire évoluer des concepts juridiques et philosophiques qui existent déjà. Nous n’avons pas la prétention de réinventer la roue ou de proposer des révolutions fondamentales. Bien au contraire, nous souhaitons nous inscrire dans la logique historiques des Lumières.
En fait, nous proposons simplement de reconnaître dans un premier temps l’existence numérique des individus. Le numérique n’est rien d’autre qu’une extension de la vie humaine qui jusqu’ici était à la fois physique et psychique. Aujourd’hui, le numérique peut être considéré comme une dimension immatérielle, où transitent des humains sous la forme des données personnelles. Ces données personnelles ne sont pas de simples informations: elles sont intimement reliées aux individus, ainsi qu’à leurs comportements en lien avec la technologie. Tout comme l’humain laisse derrière lui des traces lorsqu’il se déplace dans son environnement physique, il en va de même avec le numérique.
Cette reconnaissance de l’existence numérique est indispensable pour pouvoir penser les droits et devoirs qui accompagnent cette vie immatérielle. Alors qu’il subsiste encore et toujours une tendance à opposer numérique et vie réelle, nous pensons au contraire que le numérique n’est rien de plus qu’une extension de l’existence humaine. Elle n’en est pas une abstraction. Et bien qu’elle soit immatérielle, cette dimension de la vie humaine a des conséquences tangibles sur toute l’existence de l’individu!
Reconnaître que l’être humain a aujourd’hui une existence numérique dont il n’est pas seulement l’acteur mais également le sujet est une évidence. Aujourd’hui, même le plus soucieux des citoyens ne peut pas s’extraire du numérique. Non seulement, s’il veut se soustraire à l’utilisation des technologies modernes, il devra en assumer les conséquences sur le plan professionnel et social, mais en plus rien ne garantit que ce mode de vie le protège réellement de ce qu’il cherche à fuir.
C’est un peu la quadrature du cercle. Puisqu’il n’est plus possible de s’extraire réellement de la dimension numérique, à moins de vivre en autarcie totale et d’être né à l’abri des regards indiscrets de la société, reconnaître que l’individu a une existence numérique est indispensable. Il ne s’agit plus seulement de responsabilité individuelle lorsque l’individu n’a pas le choix que de voir sa vie étendue au numérique.
C’est ce qui nous amène au deuxième point de notre proposition. Si l’être humain a une existence numérique, alors il faut considérer qu’il a un «corps numérique» que l’on peut schématiser à travers les données personnelles qui le concernent. Il est important de noter que nous ne considérons pas les données personnelles comme une propriété qui appartiendrait aux individus. Nous pensons au contraire que les données personnelles qui nous concernent font partie de notre individualité, de notre être. Elles ne sont pas divisibles de ce que nous sommes. Cette approche nous amène à considérer que la notion d’intégrité consacrée dans de nombreuses constitutions modernes pour tout ce qui a trait à la vie physique et psychique de l’humain doit être étendue au numérique.
Nous parlons donc d’un droit à la protection de l’intégrité numérique. Puisque les données personnelles qui concernent l’individu font partie de son existence, puisqu’elles sont lui, alors elles doivent être considérées comme des éléments constitutifs de sa personne. C’est sur ce plan précis qu’intervient toute la réflexion qui doit avoir lieu sur le plan politique et donc juridique. Car si les données personnelles sont indissociables de l’être humain, alors la société doit débattre des atteintes qu’elle juge tolérables et celles qui ne peuvent pas l’être sans risquer d’aliéner l’individu. De ce point de vue, les données personnelles doivent être considérées comme étant inaliénables. Elles ne peuvent donc par exemple pas être vendues, de la même manière que de nombreuses sociétés proscrivent la vente d’organes.
C’est cet arbitrage qui devra avoir lieu, à la fois sur le plan juridique et philosophique. Parce que nous ne vivons pas dans une bulle, notre existence implique forcément des points de friction avec l’extérieur. Est-ce qu’il y a des utilisations des données personnelles qui sont acceptables? Si oui, quelle en est la limite? Quelles sont les obligations qui accompagnent ces utilisations? Nous considérons pour notre part que l’exploitation des données personnelles, même anonymes, doit être proscrite. Et dans le cas où certaines catégories de données pourraient être exploitées, elles devraient être totalement anonymes. Le problème c’est qu’aujourd’hui, l’anonymat des données n’offre aucune garantie, justement parce qu’il est possible grâce au volume important de données personnelles de faire des croisements qui permettent d’identifier la personne concernée par l’information.
C’est la raison pour laquelle nous pensons que nous devons adapter les législations actuelles pour introduire de nouveaux droits ainsi que des sanctions pour des comportements qui violent l’intégrité numérique des individus. Le croisement de données dans le but de désanonymiser des informations devrait par exemple être considéré comme un délit. Et dans le but de garantir le droit à la résistance à l’oppression, tout être humain devrait bénéficier d’un droit lui permettant de refuser d’être traité par un algorithme, si tel est son souhait. Peu importe à quel point la technologie est sophistiquée, l’individu doit demeurer libre de choisir. Imaginons un jour des procès réalisés grâce à des machines. L’individu doit être en mesure de faire valoir son droit à être jugé par des humains et non par des algorithmes si tel est son choix.
Ce sont quelques exemples d’évolutions juridiques qui doivent avoir lieu pour adapter le droit aux circonstances de la société numérique. Derrière toutes ces propositions reposent un seul objectif: c’est celui de donner à l’individu toutes les clefs pour être libre et responsable. C’est d’ailleurs pour cette raison que la notion de consentement doit être repensée. Aujourd’hui, le principe du consentement est considéré avec trop de légèreté.
Il faut d’abord penser le consentement par le prisme d’une atteinte à l’intégrité numérique, parce que toute personne qui consent à l’utilisation de ses données valide en réalité une atteinte à sa personne. C’est pourquoi le niveau de consentement doit être adapté au degré d’atteinte auquel l’individu consent. Le fait de recourir à un simple clic pour consentir à l’exploitation par des tiers des données personnelles qui le concernent ne permet pas aujourd’hui à l’individu d’appréhender la réalité de l’atteinte à son intégrité numérique. Une réflexion doit donc être menée sur les outils et l’éducation pour que le consentement et les conséquences de celui-ci soient correctement appréhendés par les personnes.
Bien évidemment, tous ces changements impliquent une évolution des mentalités. Pour l’instant, la protection des données est davantage considérée comme un frein à l’innovation plutôt que comme un pan indispensable de la préservation des droits humains. Nous considérons qu’une partie de l’économie numérique s’est développée ces dernières années par l’absence de protection effective des droits individuels dans le numérique. Cette situation favorise la captation par un petit nombre d’acteurs du capital technologique et financier. En remettant la priorité sur la protection de l’individu, le modèle économique du numérique pourrait s’orienter vers une meilleure redistribution de la richesse technologique, et donc profiter au plus grand nombre plutôt qu’à une élite telle qu’elle existe actuellement. Mais ce qui vaut pour la logique économique vaut également pour la logique étatique sécuritaire, qui voit dans les données personnelles une mine d’or favorisant le contrôle des foules. C’est pourquoi le combat contre le modèle actuel de collecte et d’exploitation des données se heurte à deux obstacles majeurs: les intérêts économiques et les intérêts étatiques.
Les technologies numériques peuvent à la fois être de formidables outils d’émancipation de l’individu mais aussi un moyen d’augmenter drastiquement sa mise sous tutelle. La société doit choisir dans quel but les êtres humains développeront ces technologies. Pour l’instant, ce choix n’est pas clair, et nous assistons à l’émergence d’un modèle hybride, qui d’un côté tente de protéger les droits humains via la protection des données, et de l’autre favorise l’esclavagisme numérique à travers des entreprises toutes puissantes et des Etats qui peuvent se servir d’informations personnelles pour améliorer leur contrôle sur leur population. Les Etats doivent changer leur approche du numérique. La logique du tout sécuritaire les conduit à agir contre les intérêts de leurs citoyens, en violant de façon systématique leur intégrité numérique. Des Etats modernes qui revendiquent le respect des droits humains devraient avoir à cœur de protéger l’intégrité des individus avant de songer aux opportunités d’utiliser les technologies pour les asservir. Les autorités de protection des données personnelles devraient devenir les garants des droits fondamentaux numériques des individus.
Quand bien même l’automatisation d’une bonne partie de la société facilite la vie et favorise le confort, il ne faut pas occulter la dimension humaine de notre existence. La fameuse «révolution numérique» dont on parle tant doit avant tout être humaniste.
Plädoyer für eine digitale Unversehrtheit
Ein von Alexis Roussel und Grégoire Barbey am 17. September 2019 gehaltener Vortrag, anlässlich der Konferenz der französischsprachigen Vereinigung der Behörden zum Datenschutz in Dakar.
Übersetzung: Marie Zeter
Die drei letzten Jahrzehnte haben eine rasante Entwicklung der Informationstechnologie erfahren. Die Welt vor dreissig Jahren hat nichts mehr mit der heutigen zu tun. Beinahe die gesamte Menschheit ist vernetzt, bewusst oder unbewusst. Diese neue Orientierung hat die menschlichen Gewohnheiten und Verhalten stark verändert. Obwohl die Technologie sich immer schneller entwickelt, tun sich Politik und Philosophie damit schwer. Es geht so weit, dass der Gesetzgeber nicht in der Lage ist, mit den Neuerungen, die regelmässig erscheinen, Schritt zu halten.
Ein Grund für diesen Spagat zwischen Technologie und politischem und philosophischem Denken liegt darin, dass die Debatten über die digitale Welt nicht zukunftsorientiert sind. Obwohl es Denker gibt, die sich mit diesen Problemen tiefgründig auseinandergesetzt haben, muss zugegeben werden, dass sie den Normalbürger wenig berühren.
Zwar gibt es genügend Science-Fiction-Werke die auf die Gefahr der Entfremdung durch die Technologie aufmerksam machen, aber selten solche, die vor der Gefahr warnen, die durch das Zusammentragen und die Nutzung persönlicher Daten entsteht. Nennenswert jedoch sind „Welcome to Gattaca“ und „Minority Report“, die sich in etwa mit diesen Themen befassen.
Der Mensch muss wieder in den Mittelpunkt der Problematik rücken. Technologie, so hoch entwickelt sie auch sein mag, soll der gesamten Menschheit zu gute kommen. Sie darf nicht dazu dienen, dass elitäre Kreise, die über das finanzielle Vermögen und das Wissen verfügen, die Menschheit verknechten oder ausnutzen. Um dieses Ziel zu erreichen, müssen schon vorhandene juristische und philosophische Begriffe neu definiert werden. Es geht nicht darum, das Rad neu zu erfinden oder grundlegende Revolutionen vorzuschlagen. Ganz im Gegenteil verschreiben wir uns der historischen Logik der Aufklärung.
Als erstes schlagen wir vor, die digitale Existenz der Menschen zu anerkennen. Die Informationstechnologie ist nichts anderes als eine Ausweitung des menschlichen Lebens, das bis jetzt auf Leib und Geist beschränkt war. Heute kann die Informationstechnologie als eine immaterielle Dimension betrachtet werden, in der sich Menschen in Form von persönlichen Daten bewegen. Diese digitalen Daten sind nicht nur Informationen, sie sind mit der Person verknüpft und verwachsen, sowie mit ihrem Umgang mit der Technologie. Ein Mensch hinterlässt Spuren, wenn er sich physisch fortbewegt, und so geschieht es auch mit der Informationstechnologie.
Diese Anerkennung unserer digitalen Existenz ist unerlässlich, damit Rechte und Pflichten, die diese immaterielle Existenz begleiten, erdacht werden können. Es gibt immer noch den Trend, die digitale und die reale Existenz zu trennen; wir sind dagegen überzeugt, dass das digitale Wesen nur eine Erweiterung des menschlichen Daseins ist. Es ist kein abstraktes Gut. Obwohl es immaterieller Natur ist, hat es konkreten Einfluss auf das Leben jedes Menschen.
Es liegt auf der Hand, dass der heutige Mensch eine digitale Existenz hat, in der er nicht nur agiert, sondern auch benutzt wird. Auch der vorsorglichste Mensch kann der digitalen Welt nicht entgehen. Tut er es trotzdem, muss er die Folgen in seinem Berufs- und Sozialleben in Kauf nehmen; ausserdem ist er nicht sicher, dass ihn eine Abstinenz vom digitalen Leben tatsächlich schützt.
Es ist eine Art Quadratur des Kreises. Da es unmöglich ist, der Vernetzung wirklich zu entrinnen, wenn man nicht als Eremit leben will oder nicht von klein auf vor neugierigen Blicken geschützt wurde, muss die digitale Existenz des Einzelnen unbedingt anerkannt werden. Es geht nicht nur um private Verantwortung: Der Einzelne hat keine andere Wahl, als sich mit dem digitalen Aspekt seines Lebens abzufinden.
Das führt zum zweiten Punkt unseres Vorschlages. Wenn der Mensch eine digitale Existenz hat, so muss man annehmen, dass er einen „digitalen Körper“ b, dessen Umrisse man dank seiner persönlichen Daten zeichnen kann. Es ist zu betonen, dass wir persönliche Daten nicht als Besitz des Einzelnen betrachten. Wir glauben im Gegenteil, dass unsere persönlichen Daten Bestandteil unseres Wesens sind. Sie können uns nicht entrissen werden. Dieser Standpunkt führt uns zu der Meinung, dass der Begriff der Unversehrtheit, den viele moderne Verfassungen anerkennen, soweit er das leibliche und seelische Leben des Einzelnen betrifft, auf das digitale Wesen ausgeweitet werden soll.
Wir sprechen also vom Recht auf den Schutz der digitalen Unversehrtheit. Da die persönlichen Daten eines Einzelnen zu seiner Existenz gehören, müssen sie als Bestandteil seines Wesens betrachtet werden. Genau auf diesem Niveau muss sich die Überlegung bewegen, die auf politischer und rechtlicher Ebene stattfinden soll. Wenn die persönlichen Daten und der Mensch zusammenhängen, dann muss sich die Gesellschaft mit der Frage auseinandersetzen, welche Zugriffe sie als annehmbar ansieht, und welche nicht, ohne das Risiko einzugehen, den Einzelnen zu entfremden. Persönliche Daten müssen als unveräusserlich betrachtet werden. Sir dürfen nicht verkauft werden, so wie in vielen Gesellschaften auch der Organhandel verboten ist.
Dieser Schiedsspruch muss auf rechtlicher und philosophischer Ebene erfolgen. Da wir nicht abgekapselt leben, gibt es natürlich Berührungspunkte mit der Aussenwelt. Gibt es eine annehmbare Nutzung der persönlichen Daten? Wenn ja, wo hört sie auf? Welche Verpflichtungen begleiten sie? Unseres Erachtens soll die Ausnutzung der Daten verboten werden, auch wenn sie anonym erfolgt. Sollten manche Daten doch verwertet werden, dann müssten sie anonym bleiben. Es besteht das Problem, dass die Anonymität persönlicher Daten nicht gewährt ist, weil durch die Verknüpfung der zahlreichen persönlichen Daten die Identität der betroffenen Person bestimmt werden kann.
Darum denken wir, dass die heutige Gesetzgebung angepasst werden soll, um neue Rechte einzuführen, sowie Sanktionen für diejenigen, die die digitale Unversehrtheit der Menschen verletzen. Das verknüpfen von persönlichen Daten um zum Beispiel Informationen zu entanonymisieren (ev. personifizieren) sollte als Delikt betrachtet werden. Um das Widerstandsrecht zu gewähren, sollte jeder Mensch sich weigern können, von Algorithmen behandelt zu werden, wenn er es nicht will. Egal wie hoch die Technologie auch entwickelt ist, es muss dem Einzelnen die Wahl gelassen werden. Stellen wir uns einen Prozess vor, der von Maschinen durchgeführt wird: Der Einzelne muss das Recht haben, von Menschen und nicht von Algorithmen beurteilt zu werden.
Das sind nur einige Beispiele rechtlichen Wandels, die stattfinden müssen, um das Gesetz der vernetzten Welt anzupassen. Hinter diesen Vorschlägen liegt ein einziges Ziel: Jedem Menschen Schlüssel zur Freiheit und Verantwortung zu geben. Darum muss der Begriff der Einwilligung überdacht werden; heute wird damit zu leichtsinnig umgegangen.
Zuerst muss die Einwilligung im Verhältnis zur Verletzung der digitalen Unversehrtheit angesehen werden: Wer der Nutzung seiner persönlichen Daten zusagt, willigt in der Tat einen Zugriff auf seine Person ein. Darum muss die Höhe der Einwilligung der Höhe des Zugriffes angepasst sein. Einfach nur durch einen Klick der Nutzung der persönlichen Daten zusagen, erlaubt es dem Einzelnen nicht, sich den realen Zugriff auf seine digitale Unversehrtheit vorzustellen. Es muss über Mittel und Erziehungsmassnahmen nachgedacht werden, die es den Menschen erlaubt, die Folgen ihrer Einwilligung zu beurteilen.
Selbstverständlich führen diese Änderungen zu einem Wandel der Mentalitäten. Zurzeit wird der Datenschutz eher als Bremse der Innovation angesehen denn als unentbehrliches Element des Menschenrechtschutzes. Wir meinen, dass sich ein Teil der Informationstechnologie in den letzten Jahren nur dank dem Fehlen eines effektiven Datenschutzes entwickeln konnte. Diese Tatsache begünstigt das Erschleichen von Technologie und Kapital durch wenige Täter. Das digitale Wirtschaftsmodell könnte zu einer besseren Verteilung des Technologiereichtums führen, indem es den Schutz des Einzelnen den Vortritt zurückgibt, so, dass die meisten Menschen davon profitieren anstelle einer Auslese, wie es heute der Fall ist. Was für die Wirtschaft gilt, betrifft auch den Staat, der in den persönlichen Daten eine Goldgrube sieht, die ihm heimliche Massenüberwachung ermöglicht. Darum stösst unser Kampf gegen die aktuelle Art des Zusammentragens und der Nutzung der persönlichen Daten auf zwei Hindernisse: Wirtschaftliche und staatliche Interessen.
Die digitale Technologie kann sowohl ein bewundernswertes Mittel zur Emanzipation des Menschen sein als auch zu seiner Unterdrückung führen. Die Gesellschaft soll entscheiden, wozu die Entwicklung dieser Technologie dienen soll. Heute ist diese Entscheidung unklar: Es ist zu einem hybriden Gebilde geworden, das zum einen die Menschenrechte dank Datenschutz zu sichern versucht, zum anderen die digitale Versklavung durch allmächtige Unternehmen und Staaten zulässt. Die Staaten sollen ihre Einstellung zur digitalen Welt überdenken. Die Logik der vollständigen Überwachung führt dazu, gegen die Interessen der Bevölkerung vorzugehen, indem sie deren digitale Unversehrtheit systematisch verletzt. Moderne Staaten, die sich auf Menschenrechte berufen, sollten sich bemühen, die Unversehrtheit ihrer Bürger zu schützen, anstatt nach Mitteln zu suchen, um sie auszunutzen. Die Datenschutzbehörden sollten für die Grundrechte des Einzelnen bürgen. Wenn die Automatisierung der Gesellschaft das Leben auch einfacher und bequemer macht, darf der menschliche Gesichtspunkt unseres Lebens nicht verschleiert werden. Die berühmte digitale Revolution muss vor allem eine humanistische sein.