Poliflw

Kunstmatige intelligentie, artificial intelligence, of simpelweg AI is hot. De berichten met daarin de nieuwste innovaties die ons leven makkelijker maken, het fileprobleem oplossen of de klimaatcrisis aanpakken, vliegen je om de oren. Toepassingen op basis van kunstmatige intelligentie zijn geen toekomstmuziek. Ze zitten vandaag al in de vertaalapp in onze smartphone en de slimme thermostaat in onze woning. Kunstmatige intelligentie is er en gaat niet weg.

Taken en beslissingen worden steeds meer uitgevoerd door zelflerende machines die niet altijd onder goede menselijke controle staan. Dat AI ook risico’s met zich meebrengt, is echter de laatste jaren duidelijk geworden. Deze technologieën lijken neutraal omdat ze de subjectieve menselijke factor uitsluiten in hun beslissingen. Echter, heel wat vooroordelen en discriminatie zijn ingebakken in de datasets op basis waarvan beslissingen worden genomen.

Apple kwam in opspraak toen bleek dat er systematisch hogere limieten werden toegestaan aan mannen dan aan vrouwen bij de creditcard die het bedrijf vorig jaar lanceerde. De Nederlandse overheid werd teruggefloten door de rechter die oordeelde dat het Systeem Risico Indicatie (SyRI), dat wordt gebruikt om uitkeringsfraude op te sporen, in strijd is met het Europees Verdrag voor de Rechten van de Mens en de privacywet. Van digitale burgerrechtenorganisatie Bits of Freedom kreeg het systeem eind vorig jaar al de Big Brother award. Zij oordeelden dat door koppeling van verschillende datasets en geheime algoritmes buurten worden gestigmatiseerd, en personen tot verdachte worden gemaakt zonder dat zij de mogelijkheid hebben hiertegen in verweer te gaan. Ontslagen door een geautomatiseerd systeem

Kunstmatige intelligentie kan ook een grote impact hebben op de relatie tussen werknemer en werkgever. Afgelopen zomer liet Amazon in enkele Amerikaanse magazijnen werknemers ontslaan door volledig geautomatiseerde AI-systemen. Daarbij stuurde het systeem de minst productieve werknemers automatisch hun ontslagbrief. Ook de prestaties van de maaltijdbezorgers in onze steden worden constant gemonitord, ze concurreren met elkaar en hebben geen menselijk contact met hun werkgever. 

Als consument worden we geconfronteerd met het feit dat de algoritmes een zwarte doos zijn waar we niet in kunnen kijken. De prijzen van producten in advertenties en in webshops kunnen variëren, afhankelijk van het profiel van wie er naar kijkt. Het is vaak onduidelijk of je met een chatbot of een echt persoon van de klantendienst aan het praten bent. Manipulatie ten koste van de consument ligt op de loer. Tenslotte is er ook onduidelijkheid over de aansprakelijkheid en veiligheid van slimme producten: ligt die bij de ontwikkelaar van het product of bij de ontwikkelaar van het algoritme?

No-brainer voor Europa

De vraag is hoe de Europese Unie zich tot dit vraagstuk moet verhouden. We hebben één interne markt waarin producten (digitaal of fysiek) vrij verkocht kunnen worden. En als markt van 450 miljoen consumenten kunnen we beter samen optrekken tegen de techgiganten als Amazon en Facebook. Dat we kunstmatige intelligentie ook op Europees niveau moeten reguleren is een no-brainer.

Ursula von der Leyen, de voorzitter van de de Europese Commissie, beloofde eerst om in de eerste honderd dagen van haar mandaat met wetgeving te komen om ‘de menselijke en ethische implicaties van kunstmatige intelligentie’ te beheersen. Die ambitie is nu alweer teruggeschroefd. Hoe sterk het regelgevend wordt, is nog voer voor discussie. Woensdag presenteerde de Europese Commissie wel haar plannen op vlak van kunstmatige intelligentie in de vorm van een zogenaamd witboek.

Hierin staan verschillende opties voor Europese regels over kunstmatige intelligentie, waarbij een opdeling wordt gemaakt tussen toepassingen met hoge en lage risico’s.

Een vrijwillig label voor toepassingen met een ’laag risico’. Het aanpassen van bestaande regels voor productveiligheid en -aansprakelijkheid om ook producten en diensten op basis van kunstmatige intelligentie te dekken. Nieuwe regelgeving voor toepassingen met ‘hoge risico’s’ met onder andere voorschriften op vlak van menselijk toezicht en transparantie. Vestager vs Breton

Er lijken nog steeds verschillende visies te bestaan binnen de Europese Commissie. Aan de ene kant staat Margrete Vestager. Zij wees onlangs in haar speech voor de Tweede Kamer nog op het belang van een sterk ethisch kader voor AI en het belang van menselijke controle. Aan de andere kant staat Thierry Breton, tot voor kort CEO van IT-bedrijf Atos. Hij stelt zich erg terughoudend op als het om bindende regels gaat. 

Volgens Breton zijn we op vlak van kunstmatige intelligentie verwikkeld in een race met de VS en China. Maar een ‘race’ met de digitale totalitaire staat in China of het surveillancekapitalisme in de VS is een riskante voorstelling van zaken. Als we Europese waarden zoals privacy, duurzaamheid en sociale rechten serieus nemen, zetten we die niet op het spel omdat we anders de ‘wedstrijd’ zouden verliezen.

Het dilemma dat achter deze tweespalt schuilgaat: gaan we reguleren om de risico’s voor mensen te beperken, innovatie te sturen en laten we ethische toepassingen bij twijfel niet op de markt toe? Of laten we de markt zoveel mogelijk vrij om zich te ontwikkelen en proberen we achteraf in te grijpen als het nodig is? 

Ik ben ervan overtuigd dat we de ontwikkeling van kunstmatige intelligentie niet aan de markt alleen kunnen overlaten. Kunstmatige intelligentie kan zowel worden ingezet voor de ontwikkeling van autonome wapens én voor de efficiëntere opwekking en verdeling van hernieuwbare energie; voor betere medische diagnoses én voor automatische beurstransacties die het financieel flitskapitalisme verder versterken. We weten al lang dat technologie niet neutraal is. 

Voorzorgsprincipe

We moeten ervoor zorgen dat kunstmatige intelligentie ons helpt om de grote vraagstukken van deze tijd op te lossen, in plaats van nieuwe problemen te creëren. Dit doen we door het voorzorgsprincipe voorop te stellen en de mogelijke langetermijnimpact op ethisch, sociaal en milieuvlak mee te nemen in een vroege fase van de ontwikkeling van nieuwe technologieën. Zo sturen we deze technologische revolutie in de juiste richting. Krachtige regels op ethisch vlak voor kunstmatige intelligentie zorgen ook voor wettelijke zekerheid en een stabiel investeringsklimaat. Een actieve industriepolitiek die inzet op toepassingen die goed zijn voor mens en planeet is hoe een succesvolle Europese benadering van kunstmatige intelligentie er voor mij moet uitzien. 

Dit is nou net niet de positie die Nederland tot nu toe inneemt in het debat over kunstmatige intelligentie. Het kabinet zegt dat de mens centraal moet staan bij de ontwikkeling van kunstmatige intelligentie, maar bepleit tegelijkertijd bij de Europese Commissie een ‘learning approach’ waarbij tijdens de ontwikkeling van de technologie wordt gemonitord en er dus pas later wordt gekeken of regelgeving nodig is. Ik vrees dat we ons met deze houding te veel uitleveren aan de goodwill van bedrijven die uiteindelijk winsten boven maatschappelijk belang stellen.  

Het gaat erg slecht met insecten en met bijen in het bijzonder. Een van de grootste boosdoeners is het gebruik van pesticiden. Er moeten daarom strengere regels komen om het effect van pesticiden op bijen te toetsen, voordat ze in Europa verkocht mogen worden.

De afgelopen jaren werkte de Europese Commissie aan het omzetten van de zogenaamde Bee Guidance, volledig onderbouwd met de laatste wetenschappelijke inzichten, in Europese wetgeving. Maar onder druk van Nederland en vijftien andere EU-landen is het voorstel nu drastisch afgezwakt. Europarlementariër Bas Eickhout wil dat het Europees Parlement zich hier tegen uitspreekt. Woensdag beslist het Europarlement of het zijn veto inzet.

In twaalf vragen en antwoorden lichten we de kwestie toe.

1. De Bee Guidance, wat is dat?

In 2013 stelde EFSA, de Europese Autoriteit voor Voedselveiligheid, een nieuwe Bee Guidance op. (In lelijk Nederlands een ‘bijenrichtsnoer’.) Deze handleiding schrijft voor hoe we de risico's van gewasbeschermingsmiddelen voor bijen bestudeerd en beoordeeld moeten worden. Het stelt de studiemethoden vast om het effect van pesticiden op bijen te bepalen.

2. Waarom is deze Bee Guidance opgesteld?

Daarvoor moeten we nog verder terug, naar 2009. Toen lukte het de Europese Groenen, als hoofdonderhandelaar namens het Europees Parlement, om in de Europese Pesticidenrichtlijn op te laten nemen dat pesticiden die op de Europese markt mogen komen geen risico voor bijen mogen vormen. En dat zowel naar het acute als chronische effect van de pesticiden gekeken worden (daarover later meer). De toevoeging van het chronische effect was nieuw. De vorige guidance uit 2002 keek daar niet naar en dus moest er een update komen.

3. Is de inhoud van de nieuwe Bee Guidance goed?

Jazeker. Om een concreet voorbeeld te geven: toen de vraag voorlag of drie soorten neonicotinoïden (de werkzame stof in veel pesticiden) opnieuw tot de EU-markt toegelaten moesten worden, gaf EFSA met behulp deze nieuwe guidance een negatief advies. Op basis van dit advies besloot de EU vervolgens besloten om het gebruik ervan vrijwel volledig te verbieden (enkel gebruik in kassen is onder een aantal voorwaarden nog toegestaan).

4. Fijn. Eind goed, al goed?

Nee. Enkel deze guidance is niet voldoende, we moeten in wetgeving vastleggen dat de guidance leidend is bij besluitvorming voor de toelating van pesticiden. Het moet de goedkeuring hebben van de EU-landen en het Europees Parlement. Alleen daarna kan de Europese Commissie er systematisch gebruik van maken.

De Europese Commissie wilde de nieuwe Bee Guidance volledig omzetten in wetgeving. Logisch, het is volledig wetenschappelijk gefundeerd en doet precies wat de Europese Pesticidenrichtlijn voorschrijft: het acute en chronische risico van pesticiden beoordelen. Zestien EU-landen, waaronder Nederland, liggen echter dwars. Zij willen dat de nieuwe guidance eerst wordt aangepast (lees: afgezwakt) voordat het in wetgeving wordt vastgelegd. Ze hebben met name problemen met het gedeelte dat de chronische effecten van pesticiden beoordeelt.

5. Chronische effecten, wat moet ik me daarbij voorstellen?

De Bee Guidance kan grofweg in tweeën opgedeeld worden. Het eerste gedeelte kijkt naar de acute effecten: wat gebeurt er als een bij eenmalig blootgesteld wordt aan een flinke dosis van een bepaald pesticide? Het zorgt ervoor dat de meest extreme pesticiden geweerd worden, maar het komt niet overeen met hetgeen in de natuur gebeurt. In de natuur komt een bij telkens met een lagere dosering in aanraking, maar wel heel vaak. De effecten die daaruit voortkomen noemen we chronische effecten.

6. Wat willen de dwarsliggende EU-landen precies?

Het correct beoordelen van de chronische effecten van pesticiden gaat enorme gevolgen hebben voor de pesticide-industrie. Juist door dit gedeelte van de Bee Guidance mee te nemen in de beoordeling van drie neonicotinoïden (zie vraag 3), is de EU tot een verbod gekomen. De dwarsliggende EU-landen willen dat de testmethoden voor deze effecten versoepeld of zelfs volledig verwijderd worden, voordat ze hun goedkeuring geven.

7. Hoe stelt de pesticide-industrie zich op?

De industrie is, mede door het neonicotinoïden-besluit, als de dood dat dit gedeelte van de Bee Guidance vastgelegd wordt in de wet. Ze lobbyen al jaren om de guidance aan te passen en de omzetting in wetgeving uit te stellen. En met succes. De dwarsliggende EU-landen, inclusief Nederland, nemen hun argumentatie en wijzigingsvoorstellen vrijwel letterlijk over, zoals de onderzoeksjournalistiek van Follow the Money aantoonde.

8. Krijgen de dwarsliggende EU-landen en de industrie nu hun zin?

Ja. De Europese Commissie heeft een nieuw voorstel gedaan nadat bleek dat het eerste voorstel niet voldoende steun kreeg van de EU-landen. Alleen het gedeelte van de nieuwe guidance dat kijkt naar de acute effecten wordt omgezet in wet. Het besluit over de chronische effecten wordt uitgesteld. EFSA is gevraagd om opnieuw naar het chronische gedeelte van de guidance te kijken.

9. Dat afgezwakte voorstel is er wel doorheen gekomen?

Ja. Nederland en de andere dwarsliggende landen hebben voor het afgezwakte voorstel gestemd, waardoor er een meerderheid ontstond. Nederland claimt zelfs dat het heel goed bezig is. Onder andere door te wijzen naar een paar verbeteringen in de beoordeling van de acute effecten in de 2013 Bee Guidence ten opzichte van 2002. Alleen het Europees Parlement moet zich nu nog uitspreken over het afgezwakte voorstel.

10. En tegen dat nieuwe voorstel maakt GroenLinks nu bezwaar?

Inderdaad. Eickhout heeft bezwaar ingediend tegen dit nieuwe voorstel. Het voorstel is onacceptabel. Het creëert wettelijke onduidelijkheid en geeft fabrikanten van pesticiden daardoor een mogelijkheid om besluiten die op basis van de volledige Bee Guidance worden genomen aan te vechten. Daarnaast geeft het dwarsliggende EU-landen en de pesticide-industrie wederom een kans om voor jaren van uitstel te zorgen. Het is acht jaar geleden dat de Europese Commissie EFSA verzocht met een nieuwe Bee Guidance te komen. Zoiets kan onder het nieuwe voorstel opnieuw gebeuren. En dan duurt het nog jaren voordat er eindelijk duidelijkheid komt over het beoordelen van de chronische effecten van pesticiden.

11. Als het bezwaar erdoorheen komt, wat dan?

Het Europees Parlement heeft een vetorecht op dit soort besluiten. Haalt het bezwaar van Eickhout een meerderheid, dan veegt het Europees Parlement het wetsvoorstel van tafel en moet er een nieuw voorstel komen.

12. En dan komt er iets beters?

Eickhout wil dat de Europese Commissie opnieuw voorstelt om de volledige Bee Guidance in wetgeving om te zetten. Ditmaal moet dat voorstel echter niet achter gesloten deuren op ambtelijk niveau met de EU-landen besproken worden, zoals voorheen gebeurde, maar op het hoogste politieke niveau in de Europese Raad van Ministers. Iedereen kan dan zien welke regeringsleider zich voor, en welke zich tegen fatsoenlijke bescherming van bijen uitspreekt. De einduitkomst zal er dan heel anders uitzien.