2 feb 2018

Hoeveel macht geven we de robots?

Gezelschapsrobot Pepper. Foto door Xavier Caré. CC-BY-SA 4.0

Technologie kan ons leven vergemakkelijken, maar mag ons niet overheersen. Als we willen voorkomen dat robots besluiten gaan nemen die aan mensen zijn voorbehouden, moeten we politieke actie ondernemen.

In de zorg verschijnen steeds meer robots. Die kunnen een uitkomst zijn voor ouderen die zelfstandig willen blijven wonen. Zorgrobots kunnen vergeetachtige senioren helpen hun medicijnen op tijd te nemen en hen herinneren aan afspraken. Ze kunnen een doktersconsult regelen of een videogesprek met familieleden. Maar hoe bedilzuchtig mag een robot zijn? Mag een robotrollator tegen een tachtigplusser zeggen: ‘We gaan pas buiten wandelen als u uw pillen heeft geslikt?’ Wij vinden van niet. Deze situatie vraagt om ingrijpen door een zorgverlener van vlees en bloed, iemand met tact en empathie. De menselijke waardigheid wordt aangetast als machines de baas over ons gaan spelen.

Ook overheden passen steeds vaker kunstmatige intelligentie toe. Sommige gemeenten gebruiken een computerprogramma dat tracht te voorspellen, op basis van allerlei persoonsgegevens, welke jongeren uitvallen op school of het boevenpad op gaan. Deze jongeren krijgen gemeenteambtenaren op bezoek. Die weten ook niet precies hoe de computer besluit wie een risicojongere is. Daarvoor is het programma ‘te ingewikkeld’.

Stigma

Er komen steeds meer ‘zelflerende’ computerprogramma’s, waarbij zelfs de programmeur niet kan achterhalen hoe de besluitvorming verloopt. Voor iemand die door de computer op het verkeerde lijstje is gezet - bijvoorbeeld dat van ‘risicojongeren’ - wordt het lastig om dat stigma kwijt te raken. De computer zegt het nu eenmaal. Er is geen mens die verantwoording af kan leggen over het genomen besluit. Het is Kafka ten voeten uit. Ook hier dreigt kunstmatige intelligentie ons te overheersen in plaats van te ondersteunen.

Of het nu gaat om zorg of misdaadbestrijding, we moeten bepalen welke besluiten we in mensenhanden willen laten en dat in wetten vastleggen

 

Als we willen voorkomen dat de technologische ontwikkeling ons voor voldongen feiten stelt, moeten we robots en andere vormen van kunstmatige intelligentie hun plaats wijzen. Of het nu gaat om zorg of misdaadbestrijding, we moeten bepalen welke besluiten we in mensenhanden willen laten en dat in wetten vastleggen.

Wijsheid

Een voorbeeld van tijdige wetgeving is de nieuwe Europese verordening over bescherming van persoonsgegevens. Deze stelt grenzen aan geautomatiseerde besluitvorming. De algemene regel is dat overheden of bedrijven een besluit niet mogen overlaten aan computers, als zo’n besluit een significant nadeel kan opleveren voor burgers of klanten. In de uitzonderingsgevallen waarin geautomatiseerde besluitvorming wel is toegestaan, heeft de burger of klant het recht om bezwaar te maken, om uitleg te eisen en om te verlangen dat de besluitvorming wordt overgedaan door een mens in plaats van een computer.

De Europese wet is niet volmaakt, maar helpt om te voorkomen dat kunstmatige intelligentie zich opdringt waar menselijke wijsheid geboden is. Nationale en lokale politici kunnen er een voorbeeld aan nemen. Robotisering en automatisering zijn geen natuurkrachten, maar menselijke processen waarover we zelf de regie moeten houden.

Dit artikel is op 2 februari verschenen in het Algemeen Dagblad.

Op 2 februari organiseren Bureau de Helling en de Eerste Kamerfractie van GroenLinks de conferentie Kan technologie ook links zijn? in de plenaire zaal van de Eerste Kamer.

Directeur van Bureau de Helling.
Alle artikelen
Fractievoorzitter van GroenLinks in de Eerste Kamer.
Alle artikelen

Reactie toevoegen