LegalizeKaderverdrag van de Raad van Europa over artificiële intelligentie en de mensenrechten, de democratie en de rechtsstaat
Preambule
De lidstaten van de Raad van Europa en de andere staten die dit verdrag hebben ondertekend,
Overwegend dat het doel van de Raad van Europa is om een grotere eenheid tussen zijn leden tot stand te brengen, met name op basis van de eerbiediging van de mensenrechten, de democratie en de rechtsstaat;
De waarde onderkennend van het bevorderen van de samenwerking tussen de partijen bij dit verdrag en van de uitbreiding daarvan tot andere staten die dezelfde waarden delen;
Zich bewust van de snelle ontwikkelingen op het gebied van wetenschap en technologie en van de ingrijpende veranderingen die voortvloeien uit de activiteiten binnen de levenscyclus van artificiële-intelligentiesystemen („AI-systemen”), die door een verbetering van de vooruitgang en innovatie het potentieel hebben om de menselijke welvaart, het individuele en het maatschappelijke welzijn, de duurzame ontwikkeling, de gendergelijkheid, de empowerment van vrouwen en meisjes en andere belangrijke doelstellingen en belangen te bevorderen;
Onderkennend dat de activiteiten binnen de levenscyclus van AI-systemen ongekende kansen kunnen bieden om de mensenrechten, de democratie en de rechtsstaat te beschermen en te bevorderen;
Bezorgd dat bepaalde activiteiten binnen de levenscyclus van AI-systemen de menselijke waardigheid, de individuele autonomie, de mensenrechten, de democratie en de rechtsstaat kunnen ondermijnen;
Bezorgd over de risico’s van discriminatie in digitale context, met name indien daar AI-systemen mee gemoeid zijn, en over de potentiële gevolgen van die systemen voor het creëren of verergeren van ongelijkheden, bijvoorbeeld voor vrouwen en personen in kwetsbare situaties, met betrekking tot de uitoefening van hun mensenrechten en hun volledige, gelijke en doeltreffende deelname aan economische, sociale, culturele en politieke aangelegenheden;
Bezorgd over misbruik van AI-systemen en zich verzettend tegen het gebruik van dergelijke systemen voor repressieve doeleinden die met het internationaal recht inzake de mensenrechten in strijd zijn, onder meer door willekeurige of onrechtmatige inzet van toezicht en censuur die de privacy en de individuele autonomie uithollen;
Zich bewust van de inherente verbinding tussen de mensenrechten, de democratie en de rechtsstaat;
Ervan overtuigd dat prioriteit moet worden gegeven aan de instelling van een mondiaal toepasselijk rechtskader met gemeenschappelijke algemene beginselen en regels voor de activiteiten binnen de levenscyclus van AI-systemen, dat doeltreffend de gedeelde waarden in stand houdt en de voordelen van AI benut, ter bevordering van deze waarden op een voor verantwoorde innovatie bevorderlijke wijze;
Onderkennend dat de digitale geletterdheid en de kennis van en het vertrouwen in het ontwerp, de ontwikkeling, het gebruik en de ontmanteling van AI-systemen moeten worden bevorderd;
Onderkennend dat dit verdrag een kaderkarakter heeft en met extra instrumenten kan worden aangevuld om specifieke kwesties in verband met de activiteiten binnen de levenscyclus van AI-systemen aan te pakken;
Onderstrepend dat dit verdrag is bedoeld om specifieke uitdagingen aan te pakken die zich tijdens de levenscyclus van AI-systemen voordoen en de bredere risico’s en gevolgen van deze technologie in overweging te nemen, waaronder, maar niet uitsluitend, de volksgezondheid, het milieu en sociaal-economische aspecten zoals werkgelegenheid en arbeid;
Nota nemend van de inspanningen ter bevordering van het internationale begrip en de internationale samenwerking op het gebied van AI door andere internationale en supranationale organisaties en fora;
Indachtig de toepasselijke internationale mensenrechteninstrumenten, zoals de Universele Verklaring van de Rechten van de Mens van 1948, het Verdrag tot bescherming van de rechten van de mens en de fundamentele vrijheden (ETS nr. 5) van 1950, het Europees Sociaal Handvest (ETS nr. 35) van 1961, het Internationaal Verdrag inzake burgerrechten en politieke rechten van 1966, het Internationaal Verdrag inzake economische, sociale en culturele rechten van 1966, hun bijbehorende protocollen, en het Europees Sociaal Handvest (herziene versie) (ETS nr. 163) van 1996;
Mede indachtig het Verdrag van de Verenigde Naties inzake de rechten van het kind van 1989 en het Verdrag van de Verenigde Naties inzake de rechten van personen met een handicap van 2006;
Voorts indachtig de privacyrechten van personen en de bescherming van persoonsgegevens, zoals van toepassing bij en verleend krachtens bijvoorbeeld het Verdrag tot bescherming van personen met betrekking tot de geautomatiseerde verwerking van persoonsgegevens (ETS nr. 108) van 1981 en de bijbehorende protocollen;
De toezegging bevestigend van de partijen aan de bescherming van de mensenrechten, de democratie en de rechtsstaat, en aan de bevordering van de betrouwbaarheid van AI-systemen door middel van dit verdrag,
zijn als volgt overeengekomen:
HOOFDSTUK I. ALGEMENE BEPALINGEN
Artikel 1. Onderwerp en doel
Dit verdrag heeft tot doel te waarborgen dat de activiteiten binnen de levenscyclus van artificiële-intelligentiesystemen volledig conform de mensenrechten, de democratie en de rechtsstaat zijn.
Elke partij treft of handhaaft passende wettelijke, bestuurlijke of andere maatregelen om dit verdrag gevolg te doen vinden. Deze maatregelen zijn gekalibreerd en gedifferentieerd naargelang de ernst en de waarschijnlijkheid van de negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat gedurende de hele levenscyclus van artificiële-intelligentiesystemen. Dit kunnen specifieke of horizontale maatregelen zijn die ongeacht het soort technologie van toepassing zijn.
Om te waarborgen dat de partijen het verdrag doeltreffend uitvoeren, wordt een follow-upmechanisme ingesteld en internationale samenwerking vastgesteld.
Artikel 2. Definitie van artificiële-intelligentiesystemen
Voor de toepassing van dit verdrag wordt onder „artificiële-intelligentiesysteem” („AI-systeem”) verstaan een machinaal systeem dat voor expliciete of impliciete doeleinden uit de ontvangen input afleidt hoe het output kan genereren zoals voorspellingen, inhoud, aanbevelingen en beslissingen die op fysieke of virtuele omgevingen van invloed kunnen zijn. De autonomie en het aanpassingsvermogen van de verschillende AI-systemen na de uitrol lopen uiteen.
Artikel 3. Toepassingsgebied
Het toepassingsgebied van dit verdrag omvat de activiteiten binnen de levenscyclus van AI-systemen die de mensenrechten, de democratie en de rechtsstaat kunnen schenden, als volgt:
- a. elke partij past dit verdrag toe op de activiteiten binnen de levenscyclus van AI-systemen die door overheidsinstanties of door namens hen optredende particuliere partijen worden verricht;
- b. voor de risico’s en de gevolgen die voortvloeien uit de activiteiten binnen de levenscyclus van AI-systemen door particuliere partijen voor zover deze niet onder a) vallen, volgt elke partij een aanpak die conform het onderwerp en het doel van dit verdrag is.
Elke partij specificeert in een verklaring die bij de ondertekening of de neerlegging van haar akte van bekrachtiging, aanvaarding, goedkeuring of toetreding bij de Secretaris-Generaal van de Raad van Europa wordt ingediend, hoe de partij voornemens is deze verplichting uit te voeren: hetzij door de beginselen en de verplichtingen van de hoofdstukken II tot en met VI van dit verdrag op de activiteiten van particuliere partijen toe te passen hetzij door andere passende maatregelen te treffen om aan deze verplichting te voldoen. De partijen kunnen hun verklaringen te allen tijde en op dezelfde wijze wijzigen.
Bij de uitvoering van deze verplichting mag een partij niet afwijken of de toepassing beperken van haar internationale verplichtingen ter bescherming van de mensenrechten, de democratie en de rechtsstaat.
Een partij is niet verplicht dit verdrag toe te passen op activiteiten binnen de levenscyclus van AI-systemen die met de bescherming van haar nationale veiligheidsbelangen verband houden, met dien verstande dat die activiteiten stroken met het toepasselijke internationale recht, waaronder de internationaalrechtelijke verplichtingen inzake de mensenrechten, en de democratische instellingen en processen in acht nemen.
Onverminderd artikel 13 en artikel 25, lid 2, is dit verdrag niet van toepassing op onderzoeks- en ontwikkelingsactiviteiten met betrekking tot nog niet voor gebruik beschikbaar gestelde AI-systemen, tenzij testen of soortgelijke activiteiten worden uitgevoerd op een wijze die de mensenrechten, de democratie en de rechtsstaat kunnen schenden.
Aangelegenheden welke betrekking hebben op de nationale verdediging vallen niet binnen het toepassingsgebied van dit verdrag.
HOOFDSTUK II. ALGEMENE VERPLICHTINGEN
Artikel 4. Bescherming van de mensenrechten
Elke partij treft of handhaaft maatregelen om te waarborgen dat de activiteiten binnen de levenscyclus van AI-systemen overeenkomstig de toepasselijke nationale en internationale mensenrechtenverplichtingen.
Artikel 5. Integriteit van de democratische processen en eerbiediging van de rechtsstaat
Elke partij treft of handhaaft maatregelen om te waarborgen dat AI-systemen niet worden gebruikt om de integriteit, de onafhankelijkheid en de doeltreffendheid van de democratische instellingen en processen te ondermijnen, zoals het beginsel van de scheiding der machten, de eerbiediging van een onafhankelijke rechterlijke macht en de toegang tot de rechter.
Elke partij treft of handhaaft maatregelen om haar democratische processen in het kader van activiteiten binnen de levenscyclus van AI-systemen te beschermen, zoals een billijke toegang van personen tot en deelname aan het publieke debat en vrije meningsvorming.
HOOFDSTUK III. BEGINSELEN BETREFFENDE ACTIVITEITEN BINNEN DE LEVENSCYCLUS VAN ARTIFICIËLE-INTELLIGENTIESYSTEMEN
Artikel 6. Algemene benadering
Dit hoofdstuk bevat algemene gemeenschappelijke beginselen betreffende AI-systemen die elke partij moet uitvoeren op een wijze die bij haar nationale rechtsstelsel en de andere verplichtingen van dit verdrag past.
Artikel 7. Menselijke waardigheid en individuele autonomie
Elke partij treft of handhaaft maatregelen om de menselijke waardigheid en de individuele autonomie met betrekking tot activiteiten binnen de levenscyclus van AI-systemen te eerbiedigen.
Artikel 8. Transparantie en toezicht
Elke partij treft of handhaaft maatregelen om te waarborgen dat er afdoende, op de specifieke context en risico’s afgestemde transparantie- en toezichtsvereisten gelden met betrekking tot activiteiten binnen de levenscyclus van AI-systemen, onder meer ten aanzien van de aanduiding van door AI-systemen gegenereerde inhoud.
Artikel 9. Verantwoordingsplicht en aansprakelijkheid
Elke partij treft of handhaaft maatregelen om de verantwoordingsplicht en de aansprakelijkheid te waarborgen voor negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat die uit activiteiten binnen de levenscyclus van AI-systemen voortvloeien.
Artikel 10. Gelijkheid en non-discriminatie
Elke partij treft of handhaaft maatregelen om te waarborgen dat de activiteiten binnen de levenscyclus van AI-systemen zorgen voor de eerbiediging van de gelijkheid, waaronder de gendergelijkheid, en het verbod op discriminatie, zoals vastgesteld in het toepasselijke internationale en nationale recht.
Elke partij verbindt zich ertoe maatregelen te treffen of te handhaven die erop gericht zijn ongelijkheden weg te nemen om rechtvaardige en billijke resultaten te bereiken, overeenkomstig de toepasselijke nationale en internationale mensenrechtenverplichtingen met betrekking tot de activiteiten binnen de levenscyclus van AI-systemen.
Artikel 11. Bescherming van de privacy en persoonsgegevens
Elke partij treft of handhaaft maatregelen om met betrekking tot de activiteiten binnen de levenscyclus van AI-systemen te waarborgen dat:
- a. de privacyrechten van personen en hun persoonsgegevens worden beschermd, onder meer door middel van toepasselijke nationale en internationale wetten, normen en kaders; en
- b. er doeltreffende waarborgen voor personen zijn ingevoerd, overeenkomstig de toepasselijke nationale en internationale wettelijke verplichtingen.
Artikel 12. Betrouwbaarheid
Elke partij treft al naargelang maatregelen om de betrouwbaarheid van AI-systemen en het vertrouwen in de output te bevorderen, zoals vereisten betreffende een toereikende kwaliteit en veiligheid gedurende de hele levenscyclus van AI-systemen.
Artikel 13. Veilige innovatie
Met het oog op het bevorderen van de innovatie en het voorkomen van negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat, wordt elke partij verzocht om al naargelang steun te bieden aan de totstandbrenging van een gecontroleerde omgeving voor het ontwikkelen van, het experimenteren met en het testen van AI-systemen onder toezicht van haar bevoegde autoriteiten.
HOOFDSTUK IV. RECHTSMIDDELEN
Artikel 14. Rechtsmiddelen
Voor zover de internationale verplichtingen rechtsmiddelen zulks vereisen en overeenkomstig het nationale rechtsstelsel, treft of handhaaft elke partij maatregelen om toegankelijke en doeltreffende rechtsmiddelen tegen mensenrechtenschendingen als gevolg van activiteiten binnen de levenscyclus van AI-systemen beschikbaar te stellen.
Ter ondersteuning van lid 1 treft of handhaaft elke partij maatregelen zoals:
- a. maatregelen om te waarborgen dat belangrijke inlichtingen over AI-systemen met mogelijk aanzienlijke gevolgen voor de mensenrechten en het gebruik ervan worden gedocumenteerd, worden verstrekt aan instanties die bevoegd zijn om toegang tot die inlichtingen te krijgen en, waar passend en van toepassing, aan de getroffen personen ter beschikking worden gesteld of worden meegedeeld;
- b. maatregelen om te waarborgen dat de in a) genoemde inlichtingen volstaan opdat getroffen personen de op grond van het gebruik van het systeem genomen of daarop in hoge mate gebaseerde beslissingen kunnen aanvechten, alsook, waar passend en van toepassing, het gebruik van het systeem zelf; en
- c. een doeltreffende mogelijkheid voor de betrokken personen om bij de bevoegde autoriteiten een klacht in te dienen.
Artikel 15. Procedurele waarborgen
Elke partij waarborgt dat, indien een AI-systeem een aanzienlijke impact op de uitoefening van de mensenrechten heeft, er doeltreffende procedurele waarborgen en rechten voor de betrokken personen beschikbaar zijn overeenkomstig het toepasselijke internationale en nationale recht.
Elke partij beoogt te waarborgen dat, naargelang de context, personen die met AI-systemen in contact staan ervan in kennis worden gesteld dat zij met dergelijke systemen en niet met een mens in contact staan.
HOOFDSTUK V. BEOORDELING EN BEPERKING VAN RISICO’S EN NEGATIEVE GEVOLGEN
Artikel 16. Kader voor risico- en effectbeheer
Met inachtneming van de beginselen van hoofdstuk III, treft of handhaaft elke partij maatregelen voor de vaststelling, de beoordeling, de preventie en de beperking van risico’s van AI-systemen door de feitelijke en de potentiële gevolgen voor de mensenrechten, de democratie en de rechtsstaat in aanmerking te nemen.
Deze maatregelen zijn, naargelang het geval, gekalibreerd en gedifferentieerd en:
- a. nemen terdege de context en het beoogde gebruik van AI-systemen in aanmerking, met name ten aanzien van de risico’s voor de mensenrechten, de democratie en de rechtsstaat;
- b. nemen terdege de ernst en de waarschijnlijkheid van de potentiële gevolgen in aanmerking;
- c. nemen in voorkomend geval de standpunten van de belanghebbenden in aanmerking, met name van personen wier rechten kunnen worden aangetast;
- d. zijn iteratief van toepassing op de activiteiten binnen de levenscyclus van AI-systemen;
- e. omvatten het toezicht op de risico’s en de negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat;
- f. omvatten de documentatie van de risico’s, de feitelijke en de potentiële gevolgen en de risicobeheersbenadering; en
- g. vereisen, in voorkomend geval, dat AI-systemen worden getest alvorens die voor eerste gebruik beschikbaar worden gesteld alsook wanneer die ingrijpend worden gewijzigd.
Elke partij treft of handhaaft maatregelen om te waarborgen dat de negatieve gevolgen van AI-systemen voor de mensenrechten, de democratie en de rechtsstaat afdoende worden aangepakt. Dergelijke negatieve gevolgen en de maatregelen om die tegen te gaan, worden gedocumenteerd en dienen als basis voor de in lid 2 beschreven toepasselijke risicobeheersmaatregelen.
De raadpleging van dit document komt niet in de plaats van het lezen van het oorspronkelijke Staatsblad of de Staatscourant. Wij aanvaarden geen aansprakelijkheid voor eventuele onnauwkeurigheden die voortvloeien uit de omzetting van het origineel naar dit formaat.