Ik, Robot: robotica, AI, filosofie en ethiek – vervolg: lezing van prof. dr. ir. Jan Broersen (Universiteit Utrecht)
Ik schreef al eerder dat ik in oktober 2019 een week cursus volgde bij ISVW Internationale School Voor Wijsbegeerte. De cursus met de titel ‘Ik, Robot’ ging over de filosofische en ethische aspecten van robotica en kunstmatige intelligentie / Artificiële Intelligentie.
Artificial Intelligence en verantwoordelijke beslissingen door systemen
Één van de intrigerende bijdragen was van prof. dr. ir. Jan Broersen (Universiteit Utrecht, Filosofie en Religiewetenschap). Hij houdt zich onder andere bezig met hoe we de verantwoordelijkheid van systemen voor het nemen van beslissingen kunnen vergroten en verbeteren. Dat is relevant, omdat AI ons enerzijds weliswaar meer autonomie geeft – we hebben meer mogelijkheden, we zijn bereikbaarder enzovoort. Anderzijds verliezen we autonomie door inzet van kunstmatige intelligentie; zo doen smart systems steeds meer ‘op eigen houtje’ of ongecontroleerd – letterlijk, maar soms ook figuurlijk. We willen dan wél verantwoordelijke beslissingen. We stuiten dan op diverse problemen:
- fundamentele problemen: wat is ‘intelligentie’, ‘artificieel’, ‘verantwoordelijkheid’ enzovoort,
- perceptieproblemen: overschatting en onderschatting van mogelijkheden,
- reguleringsproblemen: hoe regelen we een en ander,
- engineeringprobleem: hoe maken we systemen die zich verantwoordelijk gedragen,
- verantwoordelijkheidsprobleem: met vragen als: wie ‘deed het’, wie is aansprakelijk.
Het concept van agency
Een concept dat Broersen centraal plaatste was ‘agency’. Voor mij als nieuweling in de filosofie was dit een onbekend begrip. Agency is de capaciteit van een actor om te handelen in een bepaalde omgeving. Agency – ‘actorschap’ – is op diverse manieren in niveaus te onderscheiden. Denk aan: causaal, wat betreft de motivatie enzovoort. Een andere indeling kijkt naar de mate van activiteit of juist ontbreken daarvan.
Mind (artificial) – bron van verwarring
Een bron van verwarring waaraan prof. Broersen veel aandacht besteedde, was de definitie van het begrip ‘mind’, geest, meer in het bijzonder ‘artificial mind’. Daarvan bestaan zoveel definities, waaruit men vervolgens geen keuze maakt of weet te maken, dat een zinvol gesprek onmogelijk is. Hoe ‘maken’ we dat: fysieke kopieën van onszelf, functionele kopieën, met deep learning, laat de Turing Machine maar beslissen … tot: het kan helemaal niet.
Forward looking responsibility en backward looking responsibility
Tot slot – ik ben pijnlijk onvolledig … – wees hij op het belang van de aard van de verantwoordelijkheid als we met verantwoordelijke systemen bezighouden. Maak om te beginnen onderscheid tussen ‘Forward Looking Responsibility’ en ‘Backward Looking Responsibility’. Het eerste ziet op het – vooruitkijkend – beslissingen nemen aan de hand van moral reasoning; het tweede op aansprakelijk / verantwoordelijkheid achteraf.
Nieuwe inzichten
Al met al gaf Jan Broersen mij als IT/tech-advocaat veel, interessante nieuwe inzichten die ik kan toepassen in kwesties in onze advocatenpraktijk die algoritmes, machine learning, deep learning, (big) data en dergelijke betreffen.Hij was echter niet de enige waarover ik iets wilde schrijven. Wordt vervolgd dus!
Lees-verder-tips:
- 15 november 2019: Onze Hub Dohmen volgde de cursus Ik, robotbij het ISVW. De cursus behandelde de filosofische en ethische aspecten van AI en robotica. Dit artikel bevat een overzicht van de behandelde onderwerpen. Meer diepgaande columns volgen binnenkort!
- 24 mei 2019: Lees hier meerover de zeer succesvolle eerste bijeenkomst en de nieuwe website van de NVAIR Nederlandse Vereniging voor Artificiële Intelligentie- en Robotrecht.
- 25 januari 2019: Robots met rechten en plichten?Uitgebreid verslag door Machina van de proefrechtszaak tijdens Robot Love tijdens welke onze Hub Dohmen advocaat was van een robot.
- 25 september 2018:Interview met onze Hub Dohmen voor Innovation Origins over rechten, aansprakelijkheid, etc. rondom robots, kunstmatige intelligentie – en het event en kort geding tijdens Robot Love.
- 22 december 2016: Artificiële Intelligentie is ongrijpbaar voor de rechtsregels van vandaag.. Interview met Hub Dohmen voor Verzekeringswereld/Monde de l’Assurance.
21 november 2019
Hub Dohmen
Dohmen advocaten
http://twitter.com/hdohmen
http://nl.linkedin.com/in/hubdohmen
www.dohmenadvocaten.nl