5 oktober 2017

De eerste aflevering van het derde seizoen van de Netflixserie ‘Black Mirror’ toont hoe gebruikers van een applicatie elkaar een score kunnen geven gebaseerd op hun sociale interacties. Wie zich oprecht goed lijkt te gedragen, krijgt vijf sterren. Wie zich niet sociaal wenselijk gedraagt, krijgt een score van slechts één ster. Iemand die te laag zakt in de ranking, wacht het leven van een tweederangsburger: uitsluiting van bepaalde jobs, hogere huurprijzen en negatieve gevolgen op tal van andere vlakken.

Black Mirror is uiteraard fictie, maar de werkelijkheid staat hier niet ver af. De Chinese overheid wil vanaf 2020 een sociaal crediteringssysteem in voeren waarbij ze, gebaseerd op een hele reeks gegevens, haar burgers een score geeft.

Wat is een Sesame Credit ?

Het systeem van Sesame Credit werd geïntroduceerd door Tencent en Ant Financial, een spin-off van Alibaba, de Chinese Amazon. Deze bedrijven zijn China’s grootste technologiebedrijven en beheren ook alle Chinese sociale netwerken.

Alibaba en Ant Financial zijn gelinkt aan Alipay, een online platform dat financiële transacties faciliteert. Deze drie bedrijven werken samen om op basis van het online betaal- en consumptiegedrag van de gebruiker, een score te bepalen. Een goede score zorgt ervoor dat je in aanmerking komt voor diensten van partners van Alibaba zoals het niet hoeven betalen van een borg bij het huren van een auto of het verkrijgen van een kleine lening.

Alipay gaat deze gegevens in de toekomst delen met de Chinese overheid. Op deze manier verzamelt de overheid een breed gamma aan financiële gegevens die verbonden zijn aan de online gedragingen van de Chinese burgers.

De Chinese overheid wil aan de hand van deze gegevens tegen 2020 voor elke burger een ‘betrouwbaarheidsscore’, uitgedrukt in Sesame Credit, vaststellen. De overheid zelf stelt dat het louter gaat om een kredietwaardigheidsscore en dat enkel financiële gegevens in aanmerking worden genomen om deze score te bepalen. Het blijkt echter dat de Chinese regering een veel groter aantal gedragingen wil toetsen. Ook sociale, politieke en juridische gegevens zullen in aanmerking worden genomen.

Wat je aankoopgedrag zegt over jouw score

Burgers kunnen een kredietwaardigheidsscore behalen tussen 350 en 950 punten. Hoe hoger je score, hoe meer kredietwaardig je wordt beschouwd.

De scores worden berekend op basis van vijf factoren. Opmerkelijk is dat niet enkel het eigen gedrag bijdraagt aan je score, maar ook het gedrag van je vrienden, familie en de rest van je sociale omgeving.

Volgens het voorstel zouden dan volgende gegevens worden verzameld :

  1. ‘Credit history’ op Alipay: informatie over de financiën en kredietwaardigheid van de gebruiker;
  2. Online gedrag en voorkeuren: informatie over onder meer online zoek- en aankoopgedrag;
  3. Gegevens die proberen aan te tonen of de gebruiker zijn contractuele verplichtingen al dan niet zal nakomen;
  4. Persoonlijke gegevens zoals adres, gsm-nummer, opleiding, werkervaring, …;
  5. Gegevens afgeleid uit het gedrag van de sociale omgeving: er wordt gekeken of vrienden en familie al dan niet het systeem gebruiken, hoeveel Sesame Credit zij hebben.

Voor de gebruikers van Sesame Credit is het het doel om een zo hoog mogelijke score te behalen. Een hoge score geeft meer kans op een lening, huisvesting, politieke carrière, scholing, … Waar een hoge score kansen creëert, zorgt een (te) lage score voor uitsluiting op tal van vlakken. Voorbeelden zijn uitsluiting van de sociale zekerheid, strengere grenscontrole en beperkte toegang tot openbaar vervoer.

De sociale gevolgen zijn enorm: het systeem stimuleert het uitsluiten van burgers die zich in de ogen van de overheid niet wenselijk gedragen. Burgers worden op deze manier aangemoedigd  zich te distantiëren van anderen die te laag scoren.

Wat met privacy dan?

In theorie is Sesame Credit een ‘opt-in’ systeem, maar burgers zullen niet anders kunnen dan er gebruik maken, aangezien niet participeren de indruk zal wekken dat de betrokkene een lage score heeft en dus niet kredietwaardig is. Logischerwijs zal dit een directe, negatieve, invloed hebben op de levenskwaliteit. De overheid stelt het voor als een keuze, maar dit is het dus allesbehalve.

Het is de taak van de overheid om ervoor te zorgen dat het privéleven van zijn burgers wordt gewaarborgd en beschermd. Met het invoeren van dit systeem wordt het tegenovergestelde bewerkstelligd.

Game over

Het is zeker zo dat ook in de westerse wereld verschillende kredietwaardigheidssystemen worden gebruikt. Zonder deze systemen zou zaken doen, leningen verlenen, enzovoort zeer risicovol zijn. De Chinese overheid gaat met Sesame Credit echter nog een stap verder. De gebruikte methoden zijn op z’n minst questionable en het is nog maar de vraag of dit enigszins te verzoenen is met de eerbiediging van het privé-leven van de Chinese staatsburger.

 

Geschreven door Justine Simal en Anna Aleksanjan