Ethics by Design is een must

  • 28 oktober 2020
  • Noel Houben

Hoe ga je om met ethische dilemma’s bij innovatieve projecten? Daarom draait op vrijdag 9 oktober de eerste module van de Nd Masterclass Goed opdrachtgeverschap van innovatieve projecten in organisaties. Zo’n online masterclass is ook een mooie testcase van het besluit van Neerlands diep om vanwege corona tot eind 2020 alleen online activiteiten aan te bieden. Hoe hebben de deelnemers dit ervaren?

Neerlands diep startte in 2019 met de Nd Masterclasses. Het doel: alumni van de individuele programma’s blijven betrekken bij het netwerk van Neerlands diep en hen helpen om zich te blijven ontwikkelen. De Nd Masterclass Goed opdrachtgeverschap van innovatieve projecten in organisaties is de eerste die volledig online plaatsvindt. Niet gek misschien dat er onder de twaalf deelnemers opvallend veel alumni zitten van het digitale programma van Neerlands diep. Zij krijgen een afwisselende ochtend voorgeschoteld door programmamanagers Guus Pieters, Marianne Scheeper en vooral ook gastspreker Jeroen van den Hoven.

Amazon dash button

Van den Hoven is hoogleraar Ethiek & Technologie aan de TU Delft, lid van het Digitaal Beraad van het kabinet Rutte en permanent lid van de European Group on Ethics van de Europese Commissie. Hij neemt de deelnemers in hoog tempo mee in het vraagstuk hoe je maatschappelijk verantwoord kunt innoveren. De combinatie van technologie en ethiek is nog een relatief onontgonnen gebied, maakt Van den Hoven duidelijk. Het is daarom zaak om de kloof tussen abstracte concepten en de dagelijkse praktijk zo snel mogelijk te dichten en te komen tot Ethics by Design. Want vernieuwingen zijn niet per definitie goed. Van den Hoven verwijst naar Middeleeuws martelinstrument de duimschroef en naar de atoombom, maar komt ook met recentere voorbeelden. Hebben we bijvoorbeeld echt een Amazon dash button op onze koelkast nodig waarmee we macaroni met kaas kunnen bestellen als we daar zin in hebben? Amazon kwam in 2019 zelf al tot de conclusie dat dit een doodlopende weg is, en voerde de innovatie met stille trom af. Van den Hoven: “De vraag ‘Dit is innovatief, maar is het ook goed?’ is daarom de eerste vraag die je je altijd moet stellen.”

Groene bushaltes

Het doel zou moeten zijn om te focussen op het oplossen van urgente en belangrijke wereldproblemen. Uitdagingen liggen er genoeg. Neem de 17 Duurzame Ontwikkelingsdoelstellingen met 169 onderliggende targets van de Verenigde Naties. Die moeten stuk voor stuk in 2030 zijn gerealiseerd. De Duurzame Ontwikkelingsdoelstellingen tackelen thema’s als armoedebestrijding, klimaat, verminderen van ongelijkheid en economische groei. De targets komen terug in concrete Nederlandse voorbeelden, zo laat de hoogleraar zien. Zoals de groene bushaltes in Utrecht, met maar liefst 300 functionaliteiten. Die zorgen onder meer voor minder fijnstof in de lucht, vangen hemelwater op, verminderen de warmte in de stad, zijn goed voor insecten, zijn economisch rendabel, enzovoorts. Of stil en reflecterend asfalt in Groningen, dat veiligheid en duurzaamheid bevordert en geluidoverlast tegengaat. Het zijn volgens Van den Hoven allemaal voorbeelden van het borgen en accommoderen van morele en maatschappelijke eisen in innovaties. Bij maatschappelijk verantwoord innoveren draait het dan ook om het ontwerpen van nieuwe functionaliteiten die ons in staat stellen om te voldoen aan meer (maatschappelijke) eisen.

Waarden decompositie

Dat waarden een ontwerp beïnvloeden is een gegeven, maakt de hoogleraar duidelijk. Hij wijst op de laaghangende viaducten in New York. Daarmee wilde de bedenker naar verluidt voorkomen dat bussen uit gekleurde wijken de stranden van Long Beach konden bereiken. Ook een uitspraak van Churchill komt voorbij: “We shape our buildings; thereafter they shape us.” Het is volgens Van den Hove daarom belangrijk dat we goed nadenken welke waarden we in een ontwerp stoppen. Sterker nog, dat we een expliciete discussie voeren welke waarden een ontwerp nodig heeft. Het ontwerpen vanuit waarden is een hiërarchisch proces. Je vertaalt waarden in normen, beleid, mechanismen en protocollen. En die vertaal je op hun beurt in ontwerpeisen. Deze waarden decompositie leidt tot gedetailleerde boomstructuren waarin bijvoorbeeld de waarde privacy wordt vertaald in normen als verantwoording, datakwaliteit, veiligheid en risicobeperking. Risicobeperking leidt dan weer tot ontwerpeisen als het clusteren van data en het gebruiken van pseudoniemen. “Je kunt als stedenbouwkundige beginnen met de waarde welzijn en dan onder meer eindigen met een ontwerpeis over de kleur van het licht van lantaarnpalen”, schetst Van den Hoven. “Deze werkwijze komt misschien omslachtig over. Maar ze is echt nodig wanneer je maatschappelijk verantwoord wilt innoveren. Het helpt je een gestructureerd gesprek te voeren over het vertalen van waarden in het ontwerp. En het maakt het mogelijk om te verantwoorden waarom het belangrijk is om geld te steken in niet-functionele eisen.”

Moral overload

Nu heb je zelden te maken met maar één waarde tegelijk, stelt de hoogleraar. Een nieuwe bus moet bijvoorbeeld duurzaam én veilig zijn. En bij een elektronisch patiëntendossier draait het niet alleen om patiëntveiligheid of efficiëntie, maar ook om privacy. Dat leidt in de praktijk tot conflicten en dilemma’s, zo wijst onder andere de gang van zaken rond het afgeschoten elektronisch patiëntendossier uit. Innovatie biedt mogelijkheden om te dealen met deze moral overload. De kunst is om met slimme oplossingen te komen waarbij bijvoorbeeld zowel veiligheid als privacy boven een bepaalde drempelwaarde komt. Dat vereist meestal meerdere pogingen en versies. Maar is er een (morele) verplichting om zowel A als B te doen? Dan hebben we ook de verplichting om ervoor te zorgen dat we zowel A als B realiseren, zo leerde de vooraanstaande Amerikaanse filosofe Ruth Barcan Marcus. Van Den Hoven stelt aanvullend: “Als je vandaag de wereld kunt veranderen door innovatie, zodat je morgen meer van je verplichtingen kunt vervullen, dan heb je de morele verplichting om vandaag te innoveren.” Duitsland heeft door deze denkwijze economische groei kunnen koppelen aan een voorloperrol op het gebied van duurzaamheid. Leren om te ontwerpen voor waarden is een must, geeft de hoogleraar zijn gehoor mee.

Super-programmamanager

Veel deelnemers worstelen nog met de manier waarop ze waarden kunnen meenemen in hun dagelijkse praktijk. Tijdens het tweede deel van de mastermodule leggen ze hun dilemma’s voor aan Van den Hoven. Die wijst erop dat je de boomstructuur kunt gebruiken om waarden tastbaar te maken en alles in samenhang te bezien. “Dan zie je bijvoorbeeld dat het bij zelfrijdende auto’s niet alleen draait om techniek. Ook van belang is hoe de persoon in de auto in geval van nood kan ingrijpen, hoe de verzekering is geregeld, hoe de APK moet plaatsvinden, enzovoorts. Vertaal je waarden in normen en protocollen en die vervolgens in ontwerpeisen? Dan kun je ook beter verantwoordelijkheden beleggen en verdelen. Zo maak je anderen mede-eigenaar van het maatschappelijk verantwoord innoveren.” Overzicht en een overall plaatje zijn sowieso erg belangrijk. “Als mensen dit op het netvlies hebben, willen ze vaak wel die stap extra zetten. Een super-programmamanager kan als moderator fungeren van een democratisch proces, waarin iedereen zijn inbreng kwijt kan. Op basis van input van experts kan deze super-programmamanager vervolgens keuzes maken om het moreel doel te bereiken. Zaak is wel dat hij iedereen dan ook meeneemt in het waarom van de keuzes. Het mooie is dat een moreel doel niet snel ter discussie staat. Niemand is bijvoorbeeld tegen meer spoorveiligheid.”

Vertrouwen

Zo’n overall plaatje kan je ook inzetten in de dialoog met kritische burgers, zegt de hoogleraar. “Het helpt om de veelheid van perspectieven een plek te geven in het grotere geheel en biedt inzicht waar je hun inbreng kunt meenemen in een project. Het overall plaatje geeft die kritische burgers daarnaast inzicht in waar je mee bezig bent en wat daarbij allemaal komt kijken. Het zou er niet om moeten gaan dat je mensen meekrijgt met behulp van technieken als framing. Mijn hoop is dat ze een plan aanvaarden omdat het ook aanvaardbaar is. Vertrouwen is cruciaal.” Van den Hoven breekt een lans voor het zoeken naar nieuwe democratische processen, zoals Rotterdam dat in 2017 deed met de G1000. “Zo kunnen we de collectieve intelligentie op een verantwoorde manier mobiliseren.”

Keep it real

De deelnemers zijn na afloop enthousiast over de eerste online masterclass die Neerlands diep aanbiedt. “Mijn hersenen zijn goed aan het werk gezet”, zegt Ronald Wagter van de gemeente Rotterdam. “Hier krijg ik energie van.” Ad Broeders van ProRail prijst het hoge tempo van de sessie. “Dat houdt me scherp. Ik kijk uit naar het vervolg.” Voor Peter Vente van Rijkswaterstaat zou dat tempo soms ook een tandje lager mogen. “Neemt niet weg dat er een goed gesprek is gevoerd, in een format dat niet overgestructureerd was. Zo houd je de spontaniteit erin.” Het online karakter van de masterclass heeft voors en tegens voor hem. “Het is heel efficiënt. In korte tijd kun je veel onderwerpen aansnijden en energie opdoen. Laagdrempelig, zonder reistijd. Maar net als collega Stephan van Tilburg van de gemeente Amsterdam vind ik het wel jammer dat je niet fysiek, onder vier ogen, nog even kunt napraten.”

Van den Hoven is eveneens content. “We hebben een mooie discussie gevoerd, met herkenbare voorbeelden. Daardoor heb ik mijn eigen ideeën weer eens kunnen toetsen aan de dagelijkse projectpraktijk. Keep it real: dat is essentieel voor een ethicus.”

Meer weten? Kijk dan naar een filmpje over maatschappelijk verantwoord innoveren of een filmpje over de toepassing hiervan bij het Deltas, Infrastructures & Mobility Initiative van de TU Delft. Verdiepende artikelen staan hier en hier

Reageer

Ook interessant

  • Nieuws
  • Streven en floreren: Arjan van Dam over zijn promotieonderzoek

Arjan van Dam, arbeids- en organisatiepsycholoog, promoveerde aan de Erasmusuniversiteit op een onderzoek naar doeloriëntatie op het werk. Een van zijn conclusies: mensen die gericht zijn op het ontwikkelen van hun competenties en niet bang zijn om fouten te maken, zijn het gelukkigst in werk en leven. Organisaties die leergericht zijn hebben medewerkers die floreren en beter presteren. Hoe dat precies werkt legt hij uit in gesprek met Neerlands diep.

lees meer
  • Nieuws
  • Alleen samen krijgen we corona onder controle

Neerlands diep heeft in afstemming met de raad van toezicht besloten om tot eind 2020 alle fysieke bijeenkomsten af te gelasten en waar mogelijk om te zetten naar een online variant. Dat sluit aan bij het dringende verzoek van het Kabinet en tevens bij het beleid dat onze partnerorganisaties voeren. Hoe moeilijk dit besluit ons ook valt, het terugdringen van corona staat ook voor ons voorop.

lees meer
  • Nieuws
  • Nd Zomergast On Tour 2020

Heb jij de onlinesessies van de afgelopen Nd Zomergast On Tour gemist? Lees de synthese van professor André Dorée van de Universiteit Twente terug.

lees meer