Amazon dash button
Van den Hoven is hoogleraar Ethiek & Technologie aan de TU Delft, lid van het Digitaal Beraad van het kabinet Rutte en permanent lid van de European Group on Ethics van de Europese Commissie. Hij neemt de deelnemers in hoog tempo mee in het vraagstuk hoe je maatschappelijk verantwoord kunt innoveren. De combinatie van technologie en ethiek is nog een relatief onontgonnen gebied, maakt Van den Hoven duidelijk. Het is daarom zaak om de kloof tussen abstracte concepten en de dagelijkse praktijk zo snel mogelijk te dichten en te komen tot Ethics by Design. Want vernieuwingen zijn niet per definitie goed. Van den Hoven verwijst naar Middeleeuws martelinstrument de duimschroef en naar de atoombom, maar komt ook met recentere voorbeelden. Hebben we bijvoorbeeld echt een Amazon dash button op onze koelkast nodig waarmee we macaroni met kaas kunnen bestellen als we daar zin in hebben? Amazon kwam in 2019 zelf al tot de conclusie dat dit een doodlopende weg is, en voerde de innovatie met stille trom af. Van den Hoven: “De vraag ‘Dit is innovatief, maar is het ook goed?’ is daarom de eerste vraag die je je altijd moet stellen.”
Groene bushaltes
Het doel zou moeten zijn om te focussen op het oplossen van urgente en belangrijke wereldproblemen. Uitdagingen liggen er genoeg. Neem de 17 Duurzame Ontwikkelingsdoelstellingen met 169 onderliggende targets van de Verenigde Naties. Die moeten stuk voor stuk in 2030 zijn gerealiseerd. De Duurzame Ontwikkelingsdoelstellingen tackelen thema’s als armoedebestrijding, klimaat, verminderen van ongelijkheid en economische groei. De targets komen terug in concrete Nederlandse voorbeelden, zo laat de hoogleraar zien. Zoals de groene bushaltes in Utrecht, met maar liefst 300 functionaliteiten. Die zorgen onder meer voor minder fijnstof in de lucht, vangen hemelwater op, verminderen de warmte in de stad, zijn goed voor insecten, zijn economisch rendabel, enzovoorts. Of stil en reflecterend asfalt in Groningen, dat veiligheid en duurzaamheid bevordert en geluidoverlast tegengaat. Het zijn volgens Van den Hoven allemaal voorbeelden van het borgen en accommoderen van morele en maatschappelijke eisen in innovaties. Bij maatschappelijk verantwoord innoveren draait het dan ook om het ontwerpen van nieuwe functionaliteiten die ons in staat stellen om te voldoen aan meer (maatschappelijke) eisen.
Waarden decompositie
Dat waarden een ontwerp beïnvloeden is een gegeven, maakt de hoogleraar duidelijk. Hij wijst op de laaghangende viaducten in New York. Daarmee wilde de bedenker naar verluidt voorkomen dat bussen uit gekleurde wijken de stranden van Long Beach konden bereiken. Ook een uitspraak van Churchill komt voorbij: “We shape our buildings; thereafter they shape us.” Het is volgens Van den Hove daarom belangrijk dat we goed nadenken welke waarden we in een ontwerp stoppen. Sterker nog, dat we een expliciete discussie voeren welke waarden een ontwerp nodig heeft. Het ontwerpen vanuit waarden is een hiërarchisch proces. Je vertaalt waarden in normen, beleid, mechanismen en protocollen. En die vertaal je op hun beurt in ontwerpeisen. Deze waarden decompositie leidt tot gedetailleerde boomstructuren waarin bijvoorbeeld de waarde privacy wordt vertaald in normen als verantwoording, datakwaliteit, veiligheid en risicobeperking. Risicobeperking leidt dan weer tot ontwerpeisen als het clusteren van data en het gebruiken van pseudoniemen. “Je kunt als stedenbouwkundige beginnen met de waarde welzijn en dan onder meer eindigen met een ontwerpeis over de kleur van het licht van lantaarnpalen”, schetst Van den Hoven. “Deze werkwijze komt misschien omslachtig over. Maar ze is echt nodig wanneer je maatschappelijk verantwoord wilt innoveren. Het helpt je een gestructureerd gesprek te voeren over het vertalen van waarden in het ontwerp. En het maakt het mogelijk om te verantwoorden waarom het belangrijk is om geld te steken in niet-functionele eisen.”
Moral overload
Nu heb je zelden te maken met maar één waarde tegelijk, stelt de hoogleraar. Een nieuwe bus moet bijvoorbeeld duurzaam én veilig zijn. En bij een elektronisch patiëntendossier draait het niet alleen om patiëntveiligheid of efficiëntie, maar ook om privacy. Dat leidt in de praktijk tot conflicten en dilemma’s, zo wijst onder andere de gang van zaken rond het afgeschoten elektronisch patiëntendossier uit. Innovatie biedt mogelijkheden om te dealen met deze moral overload. De kunst is om met slimme oplossingen te komen waarbij bijvoorbeeld zowel veiligheid als privacy boven een bepaalde drempelwaarde komt. Dat vereist meestal meerdere pogingen en versies. Maar is er een (morele) verplichting om zowel A als B te doen? Dan hebben we ook de verplichting om ervoor te zorgen dat we zowel A als B realiseren, zo leerde de vooraanstaande Amerikaanse filosofe Ruth Barcan Marcus. Van Den Hoven stelt aanvullend: “Als je vandaag de wereld kunt veranderen door innovatie, zodat je morgen meer van je verplichtingen kunt vervullen, dan heb je de morele verplichting om vandaag te innoveren.” Duitsland heeft door deze denkwijze economische groei kunnen koppelen aan een voorloperrol op het gebied van duurzaamheid. Leren om te ontwerpen voor waarden is een must, geeft de hoogleraar zijn gehoor mee.
Super-programmamanager
Veel deelnemers worstelen nog met de manier waarop ze waarden kunnen meenemen in hun dagelijkse praktijk. Tijdens het tweede deel van de mastermodule leggen ze hun dilemma’s voor aan Van den Hoven. Die wijst erop dat je de boomstructuur kunt gebruiken om waarden tastbaar te maken en alles in samenhang te bezien. “Dan zie je bijvoorbeeld dat het bij zelfrijdende auto’s niet alleen draait om techniek. Ook van belang is hoe de persoon in de auto in geval van nood kan ingrijpen, hoe de verzekering is geregeld, hoe de APK moet plaatsvinden, enzovoorts. Vertaal je waarden in normen en protocollen en die vervolgens in ontwerpeisen? Dan kun je ook beter verantwoordelijkheden beleggen en verdelen. Zo maak je anderen mede-eigenaar van het maatschappelijk verantwoord innoveren.” Overzicht en een overall plaatje zijn sowieso erg belangrijk. “Als mensen dit op het netvlies hebben, willen ze vaak wel die stap extra zetten. Een super-programmamanager kan als moderator fungeren van een democratisch proces, waarin iedereen zijn inbreng kwijt kan. Op basis van input van experts kan deze super-programmamanager vervolgens keuzes maken om het moreel doel te bereiken. Zaak is wel dat hij iedereen dan ook meeneemt in het waarom van de keuzes. Het mooie is dat een moreel doel niet snel ter discussie staat. Niemand is bijvoorbeeld tegen meer spoorveiligheid.”
Vertrouwen
Zo’n overall plaatje kan je ook inzetten in de dialoog met kritische burgers, zegt de hoogleraar. “Het helpt om de veelheid van perspectieven een plek te geven in het grotere geheel en biedt inzicht waar je hun inbreng kunt meenemen in een project. Het overall plaatje geeft die kritische burgers daarnaast inzicht in waar je mee bezig bent en wat daarbij allemaal komt kijken. Het zou er niet om moeten gaan dat je mensen meekrijgt met behulp van technieken als framing. Mijn hoop is dat ze een plan aanvaarden omdat het ook aanvaardbaar is. Vertrouwen is cruciaal.” Van den Hoven breekt een lans voor het zoeken naar nieuwe democratische processen, zoals Rotterdam dat in 2017 deed met de G1000. “Zo kunnen we de collectieve intelligentie op een verantwoorde manier mobiliseren.”
