Zouden ze bij het comité voor wet- en regelgeving van het Europees Parlement de Ziggo/HBO-serie ‘Westworld’ hebben gezien? Je zou het haast wel denken, als je als technologieadvocaat de (inmiddels aangenomen) lijst met aanbevelingen leest. Zo niet, dan is het in ieder geval verplicht kijkvoer. Ik zal niet te veel verraden over de serie maar het lijkt er op dat in het verhaal alles wat fout kan gaan, fout zal gaan (wet van Murphy). De serie is gebaseerd op een eerdere film uit 1973 van Michael Crichton (bekend van Jurassic Park) en laat zich omschrijven als Jurassic Park, maar dan met robots in plaats van dinosauriërs. De ethische vragen en gevaren die in Jurassic Park speelden, komen terug in Westworld. In Jurassic Park bleek de schepping – die onvruchtbaar had moeten zijn – lastig in de hand te houden: ‘Nature will find a way.’ In Westworld repareren robots robots, is onduidelijk wie robot en wie mens is en worden mensen verliefd op robots. Vooral dat laatste lijkt een recept voor onheil te zijn. Wat gebeurt er bijvoorbeeld als een verliefde robotreparateur besluit om zijn favoriete robot wat extra mogelijkheden te geven?
In een interview voor het Wolters Kluwer-tijdschrift ‘Verzekeringswereld’ gaf ik – naast idiote (of niet?) vergezichten – als technologieadvocaat een aantal juridische adviezen bij het voortschrijden van artificial intelligence en robotica, onder meer gericht op nieuwe regelgeving. Daarbij dacht ik als technologieadvocaat aan een algoritme-autoriteit (een overheidsorganisatie die adviseert, voorlichting geeft en toezicht uitoefent op de conformiteit van algoritmen), verplichte verzekering voor de schade die robots kunnen veroorzaken, een garantiefonds voor het geval een onvoldoende of niet verzekerde robot schade veroorzaakt, en rechtspersoonlijkheid voor robots.
Juridisch kennen we nu twee entiteiten die dragers van rechten en plichten kunnen zijn. De natuurlijke persoon (mensen van vlees en bloed) en de rechtspersonen (bv’s, nv’s …). Een rechtspersoon heeft een bezit, kan schulden aangaan, moet zich verantwoorden. We hebben dat ooit zo geconstrueerd omdat we dat nodig hadden om onze maatschappij te laten functioneren, om de aansprakelijkheid van een mens los te koppelen van de onderneming die hij start. We wilden een balans vinden tussen risico nemen en bescherming bieden. Zo groot is de stap dus niet om een algoritme als een rechtspersoon te behandelen.
Het Europese comité stelt deels dezelfde aanpassingen voor – overigens ook één die ik zelf nog niet had bedacht: laat robots belasting betalen. Met robotisering maak je immers een hoop banen overbodig waardoor je een groeiende kloof tussen arm en rijk krijgt (zie daarover dit artikel in The Guardian).
Een ander voorstel van het comité is de juridische verplichting dat je altijd moet kunnen zien aan een robot dat het geen mens is en de verplichte toepassing van een kill switch. Zo’n knop lijkt me als technologieadvocaat bijzonder zinnig, maar hoe voorkomen we dan dat een robot zelf de kill switch kan killen? Want dan komt de rise of the killer robots wel dichtbij. En dan is er waarschijnlijk nog maar één oplossing: een elektromagnetische puls (EMP) die alle elektronica in één klap om zeep helpt. We zijn dan weer terug in de Middeleeuwen. Dus wie gaan we de macht geven om de rode knop van de EMP in te drukken?
Regelgeving kan daarnaast niet voorkomen dat technologie in verkeerde handen valt. Landen en groeperingen waarvan we liever niet zouden zien dat die de hand weten te leggen op nucleaire technologie, hebben die wel. Het minste dat we dus kunnen doen, is op (sommige) robots dezelfde regelgeving toepassen als op nucleaire technologie.
Lees-verder-tips
Een ingekorte versie van deze column verscheen vandaag in Mechatronica en Machinebouw (pdf). Daar is de onjuiste kop “De communicatietrainer” boven geplaatst. Dat had moeten zijn: “Technologieadvocaat”.
24 april 2017,
Hub Dohmen,
Dohmen advocaten – in techniek
e: h.dohmen@dohmenadvocaten.nl
twitter: http://twitter.com/hdohmen
LinkedIn: http://nl.linkedin.com/in/hubdohmen