EU overweegt verbod op gebruik van AI voor massasurveillance en sociale kredietscores

116 reacties

De Europese Unie overweegt om enkele AI-toepassingen te verbieden, waaronder massasurveillance en systemen die een sociale kredietscore toekennen. Dat schrijft Politico, die een voorlopig ontwerp van de Europese Commissie te pakken heeft gekregen. Zo zou de EC een verbod op het gebruik van ‘zeer riskante’ kunstmatige intelligentiesystemen willen en kandidaat-lidstaten weigeren indien ze niet aan deze eis voldoen.

 

Het ontwerp stelt de volgende punten voor:

  • Een verbod op AI voor ‘willekeurige bewaking’, waaronder systemen die personen in een fysieke omgeving volgen of gegevens uit andere bronnen samenvoegen
  • Een verbod op AI-systemen die sociale kredietscores toekennen: de betrouwbaarheid van een persoon beoordelen op basis van sociaal gedrag of voorspelde persoonlijkheidskenmerken
  • Het vereisen van speciale toestemming voor het gebruik van biometrische identificatiesystemen op afstand, waaronder gezichtsherkenning in openbare ruimten
  • Vereisen om mensen er bewust van te maken dat ze communiceren met een AI-systeem, tenzij dit duidelijk valt af te leiden op basis van de omstandigheden en de context van het gebruik
  • Nieuw toezicht op AI-systemen die een directe bedreiging vormen voor de veiligheid (zelfrijdende auto’s) en systemen die een grote kans hebben om iemands levensonderhoud te beïnvloeden, zoals het aannemen van werknemers, rechterlijke beslissingen en het toekennen van kredietscores
  • Het beoordelen van gevoelige systemen vooraleer ze in gebruik worden genomen, om ervoor te zorgen dat alle betrokken partijen deze begrijpen, maar ook dat ze worden ‘getraind’ op datasets zonder bias.
  • Het oprichten van een Europese Raad voor Kunstmatige Intelligentie, bestaande uit vertegenwoordigers van elke lidstaat. Deze Raad moet niet alleen de Commissie helpen beslissen welke AI-systemen als risicovol worden beschouwd, maar ook verbodsbepalingen aanbevelen.

Bedrijven die zich niet aan de regels houden kunnen een boete krijgen die kan oplopen tot 20 miljoen euro, of 4 procent van hun wereldwijde omzet. Hoewel het uitgelekte voorstel voor velen een stap in de goede richting is, uiten experts hun bezorgdheid. Zo zouden de beschrijvingen van AI-systemen die verboden moeten worden te vaag zijn en vol onduidelijk taalgebruik zitten. Hierdoor zouden er verscheidene achterpoortjes ontstaan waardoor bedrijven de regels kunnen omzeilen. 

Naar verluidt zullen de EU-beleidsmakers het voorstel officieel aankondigen op 21 april. Het zal dan moeten blijken welke aanpassingen er zijn doorgevoerd in het definitieve voorstel. Zodra de verordening is voorgesteld, kan deze worden gewijzigd op basis van feedback uit het Europees Parlement. Vervolgens moet iedere lidstaat de nieuwe regels zelf implementeren.

Bronnen: Politico, The Verge

« Vorig bericht Volgend bericht »
0
*