 |
| Kans of bedreiging? |
Allereerst
De AI-verordening is de eerste uitgebreide AI-wet ter wereld. Het bevat regels voor het gebruik van artificiële intelligentie in de EU. Gericht op bescherming van consumenten. Eerst zijn bedrijven en overheden aan zet om te kijken of zij aanpassingen moeten doen bij de inzet van AI. Voor consumenten moet het duidelijk worden en zijn dat ze te maken hebben met een chatbot of met door AI gegenereerd materiaal. Verder moet er meer transparantie komen over hoe AI tot keuzes komt en er komt een klachtenprocedure.
Soft power van de EU
De macht van de EU zit niet in defensie en snel en daadkrachtig kunnen optreden. Ook op economisch vlak heeft de EU minder macht dan de VS en China. Maar superkrachtig is de 'soft power' van de EU: regels en wetten worden overgenomen; ook door grote niet-EU-bedrijven en niet-lidstaten. Omdat ze willen profiteren van het rijkste continent ter wereld (met 400 miljoen consumenten) en/of willen deelnemen aan de interne markt. En om dat te kunnen, houden ze zich aan onze regels; ook als dat niet echt noodzakelijk is, maar vanwege wereldwijde uniformiteit efficiënter is.
Doel van de AI Act
Doel is dat AI-systemen, die in de EU worden gebruikt veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. AI-systemen mogen nooit volledig geautomatiseerd zijn, maar moeten altijd onder menselijk toezicht staan om schadelijke gevolgen te kunnen voorkomen.
AI-verordening: verschillende regels horend bij 3 soorten risico's
- Onaanvaardbaar risico. Dit zijn AI-systemen die als een gevaar voor de mens worden beschouwd. Deze zullen - met uitzonderingen - worden verboden. Het gaat hier onder meer om:
- Cognitieve gedragsmanipulatie of misleiding van personen of specifieke kwetsbare groepen: bijvoorbeeld speelgoed dat reageert op een stem en dat bij kinderen gevaarlijk gedrag uitlokt;
- Sociale scoring: het classificeren van mensen op basis van hun gedrag, sociaal-economische status of persoonlijke kenmerken;
- Predictive policing om strafbare feiten bij mensen te beoordelen of te voorspellen;
- Creëren of (via scraping) uitbreiden van databanken voor gezichtsherkenning;
- Emotieherkenning in de werkomgeving en het onderwijs;
- Biometrische categorisering, waarbij mensen op basis van biometrische gegevens in bepaalde gevoelige categorieën worden ingedeeld.
- Biometrische identificatie op afstand voor rechtshandhaving. Hier zijn wel enkele uitzonderingen van toepassing;
- Hoog risico. AI-systemen krijgen een beoordeling voor zij in de handel worden gebracht en worden tijdens de volledige levensduur gevolgd. Burgers krijgen het recht om klachten in te dienen bij aangewezen nationale autoriteiten. Er zijn twee categorieën:
- AI-toepassingen in producten die onder de EU-wetgeving op het gebied van productveiligheid vallen. Voorbeelden hiervan zijn speelgoed, luchtvaartuigen, auto’s, medische hulpmiddelen en liften.
- AI-systemen die in een EU-databank moeten worden geregistreerd. Geldt voor deze gebieden:
- beheer en exploitatie van kritieke infrastructuur,
- onderwijs en beroepsopleiding,
- werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid,
- toegang tot en gebruik van essentiële particuliere diensten en openbare diensten en uitkeringen,
- rechtshandhaving,
- migratie, asiel en beheer van grenscontroles,
- ondersteuning van rechterlijke instanties bij het uitleggen van feiten en toepassing van het recht.
- Generatieve AI wordt niet als hoog risico geclassificeerd, maar moet wel voldoen aan transparantievereisten en het auteursrecht van de EU:
- De toepassingen moeten de vermelding bevatten dat de inhoud is gegenereerd door AI;
- Het model moet zodanig worden ontworpen dat er geen illegale inhoud kan worden gegenereerd;
- Er moet een overzicht worden gegeven van auteursrechtelijk beschermde gegevens die voor het trainen van het systeem zijn gebruikt.
VS vs. EU
Met de verkiezingswinst van Trump wordt wel gezegd (Martijn Hamann als gast van Iwan Verrips en Ben van der Burg in BNR digitaal) dat er straks geen beperkingen meer zijn op AI-gebied in de VS. Alles is mogelijk. AI wordt - daar - alleen als kans gezien. Nu al hebben bijvoorbeeld Apple en Meta besloten om toepassingen die gebruikmaken van AI of hun AI-model voorlopig niet beschikbaar te stellen of uit te brengen in Europa. Met als reden "de onvoorspelbare aard van de Europese wetgeving" (lees: de ongewenste beperking - vanwege consumentenbescherming - van de Europese wetgeving). Is de EU niet te angstig voor deze nieuwe ontwikkeling?
Kans of bedreiging?
Kortom: de VS ziet AI als kans en de EU ziet AI als bedreiging. Alleen de tijd zal uitwijzen of dat echt zo is. Ik ga het voor je volgen; blijf jij mijn blogs volgen?
Reacties
Een reactie posten