Introduction tot the ethics of emerging technologies (2025) Wessel Reijers, Mark Thomas Young, Mark Coeckelbergh

Het boek “Introduction tot the ethics of emerging technologies” legt de lezer de vraag voor hoe we op een ethische manier moeten omgaan met technologie en de impact van die technologie op mens en maatschappij.

Hoofdstuk 1 – De uitdagingen van opkomende technologieën

Het boek opent met een uitnodiging aan de lezer om zich een reeks denkbeeldige reizen voor te stellen van de diepten van de oceaan tot de uithoeken van de ruimte en zo na te denken over de verwevenheid van technologie en menselijkheid. Deze “droomlandschappen”, zoals de auteurs ze noemen, illustreren hoe opkomende technologieën invloed hebben op menselijke identiteit, cultuur en ethiek. Wat ooit door schrijvers als Jules Verne werd voorgesteld als verre toekomstvisies, is vandaag de dag vaak realiteit of staat op het punt dat te worden.

De centrale stelling is dat opkomende technologieën een weerspiegeling zijn van wie wij zijn, maar tegelijkertijd ook de kracht hebben om ons te hervormen. Zoals de auteurs schrijven:

“Emerging technologies are in part a reflection of ourselves, and at the same time they have the potential to profoundly change who we are.”

Deze dubbele aard maakt technologie zowel opwindend als ethisch urgent. Technologieën zijn ook ethische gebeurtenissen waarbij telkens nieuwe morele landschappen ontstaan die traditionele ethische theorieën mogelijk niet volledig kunnen omvatten.

Ethiek is geen abstracte bezigheid. Het is een geleefde, praktische en sociale activiteit die steeds belangrijker wordt naarmate technologie de grenzen van menselijke ervaring verlegt.

Nieuwe technologieën kunnen enorme voordelen opleveren, maar ook catastrofale risico’s met zich meebrengen. Daarom moet via ethische reflectie de innovatie in lijn blijven met rechtvaardigheid, menselijke waardigheid en duurzaamheid.

Hoofdstuk 2 – Van opkomende technologie naar ethiek

Ethiek in technologie komt vaak voor uit de praktische ervaringen van praktijkmensen zoals wetenschappers, ingenieurs en gebruikers. De auteurs refereren naar de mythe van Daedalus en Icarus. De geniale architect Daedalus die opgesloten zit in zijn zelf ontworpen labyrint van koning Minos op Kreta, maakt voor zichzelf en zijn zoon Icarus de vleugels die uiteindelijk leiden tot de dood van Icarus. Technologische innovatie is dus nooit neutraal is: ze kan redden of vernietigen, bevrijden of opsluiten. We moeten steeds waakzaam zijn voor menselijke overmoed (hubris).

De val van Icarus of Landschap met de val van Icarus is een schilderij van Pieter Bruegel de Oude 1565

Constante ethische reflectie en een bewust verantwoordelijkheidsgevoel is daarom zeer belangrijk. De auteurs bespreken drie historische figuren om het belang van ethische principes te illustreren:

1. Hippocrates, de grondlegger van de westerse geneeskunde, stelde de eerste ethische eed op. Zijn leer benadrukte zorg, geheimhouding en het vermijden van schade. Deze eed is een voorbeeld van hoe professionele groepen zichzelf verplichten tot ethisch gedrag.

2. J. Robert Oppenheimer, leider van het Manhattanproject, worstelde met de morele gevolgen van het bouwen van de atoombom. Zijn beroemde citaat: "I am become Death, the destroyer of worlds," toont de tragiek en het ethisch conflict van wetenschappelijke macht. Hij laat zien dat wetenschappers verantwoordelijk zijn voor de toepassing van hun ontdekkingen.

3. Norbert Wiener, grondlegger van de cybernetica, waarschuwde al vroeg voor de maatschappelijke gevolgen van automatisering en informatiesystemen. Hij pleitte voor een ethiek die zich niet beperkt tot de academie, maar actief meedenkt over de maatschappelijke rol van technologie.

   
   

Ethiek is een evoluerend systeem dat leunt op ethische zeden en gedragscodes, regelgeving en beleidskaders en, misschien minder voor de hand liggend, ethische effectbeoordeling van de impact van een technologie. Ethiek is dus geen bijzaak is, maar fundamenteel voor de ontwikkeling van technologie en toont dus het belang aan van dialoog tussen technici, beleidsmakers en burgers om technologie op een rechtvaardige en duurzame manier te ontwikkelen.

Hoofdstuk 3 – Van ethiek naar opkomende technologie

Ethiek lijkt steeds achter te lopen op de technologie, Kunnen we dit voorkomen? De auteurs drie filosofische kaders aan die mogelijk een antwoord kunnen bieden op deze vraag?

1. Deugdethiek (Aristoteles): Deze benadering richt zich op het karakter en de intentie van de handelende persoon. Een goede technoloog is niet alleen technisch bekwaam, maar streeft ook naar morele excellentie. Ontwerpers en ingenieurs moeten voortdurend reflecteren op hun rol en voorbeeldfunctie in de samenleving.

2. Plichtethiek (Kant): Volgens Kant moet men handelen volgens regels die je zou willen dat iedereen volgt. Menselijke waardigheid staat daarbij centraal.

3. Utilitarisme (Bentham, Mill): Deze stroming stelt dat een handeling goed is als zij het grootste geluk voor het grootste aantal mensen oplevert ook als er nadelige gevolgen zijn voor een minderheid. Dit roept ethische vragen op over rechtvaardigheid en wie profiteert of lijdt onder innovatie.

   
   

De auteurs stellen dat deze theorieën geen kant-en-klare antwoorden bieden, maar verschillende ethische brillen waarmee we technologische situaties kunnen analyseren. Ze benadrukken het belang van contextuele toepassing: geen enkele theorie is altijd toereikend, maar samen helpen ze om morele complexiteit beter te begrijpen.

Ze schrijven: “Having ethics is different from doing ethics.” Echte ethische reflectie vereist niet alleen kennis van theorieën, maar ook het vermogen om ze toe te passen op concrete dilemma’s: zoals de inzet van gezichtsherkenning, genetische screening of autonome wapens. Door moreel redeneren leren studenten hun intuïties onderbouwen, afwegen en kritisch bevragen.

Hoofdstuk 4 – Technologie en de menselijke conditie

Technologie heeft een impact op de menselijke conditie. In plaats van technologie te zien als een neutraal instrument dat we gebruiken, tonen de auteurs aan dat technologie ook ons vormt: hoe we denken, voelen, communiceren en zelfs hoe we onszelf begrijpen. De auteurs bespreken de visie van een aantal filosofen:

• Karl Marx stelde vast dat In een technologisch-industrieel systeem arbeiders vervreemd raken van hun product, hun arbeid en dus ook van zichzelf.

• Volgens Adorno & Horkheimer is moderne rationaliteit gereduceerd tot efficiëntie, beheersing en winst met een doel-middelen-logica

• Heidegger stelt dat moderne technologie ons dwingt de wereld te beschouwen als een 'voorraad' – iets wat klaar staat om gebruikt of geëxploiteerd te worden. Deze manier van denken leidt tot een gevaarlijke afstand tot natuur en medemens.

• Foucault wees erop dat technologieën zoals toezicht, biometrie of dataregistratie bijdragen aan subtiele vormen van gedragssturing. Ze bepalen niet alleen wat we doen, maar ook wat we normaal vinden.

• Hannah Arendt waarschuwde voor systemen waarin technologie de individualiteit en vrijheid ondermijnt.

• In haar 'Cyborg Manifesto' verkent Donna Haraway hoe technologie genderrollen kan ondergraven of versterken. De figuur van de cyborg – half mens, half machine – daagt traditionele grenzen uit tussen natuur en cultuur, lichaam en techniek, vrouw en man.

Technologie kan dus zowel bevrijdend als onderdrukkend zijn. Ze biedt nieuwe mogelijkheden voor autonomie, zelfexpressie en kennis, maar kan ook nieuwe afhankelijkheden en controlemechanismen introduceren. Daarom pleiten ze voor een kritische en filosofisch geïnformeerde omgang met technologie. Dit betekent niet afwijzen of verafgoden, maar analyseren, bevragen en herontwerpen.

Hoofdstuk 5 – Waarden en technologie

Sturen wij de technologie of de technologie ons en wat doet dat met onze sociale en morele waarden? Zijn technologieën louter functionele objecten of ook dragers en versterkers van sociale en morele waarden?

Er worden door de auteurs drie benaderingen besproken om deze relatie tussen technologie en waarden beter te begrijpen:

1. Actor-Netwerk Theorie (Latour): Deze theorie stelt dat technologieën zelf ook 'actoren' zijn in een netwerk van mens en techniek. Ze oefenen invloed uit, bepalen handelingsmogelijkheden en kunnen verantwoordelijkheden verschuiven. Een hee eenvoudig voorbeeld is de snelheidsdrempel. De techniek 'dwingt' gedrag af en wordt daarmee medeverantwoordelijk voor sociale uitkomsten.

2. Mens-Techniek-Wereldrelaties (Ihde): Filosoof Don Ihde benadrukt dat technologie onze waarneming en interactie met de wereld medieert. Technologie verandert niet alleen hoe we handelen, maar ook hoe we de wereld ervaren. Denk aan het eerste echobeeld die de ouders te zien krijgen van hun ongeboren kind.

3. Value Sensitive Design (Friedman): Deze ontwerpfilosofie stelt dat ethische waarden vanaf het begin geïntegreerd moeten worden in het ontwerp van technologie en pleit voor het betrekken van belanghebbenden tijdens het ontwerpproces. Zo kunnen ongewenste effecten zoals algoritmische vooringenomenheid of uitsluiting worden voorkomen.

   
   

Het negeren van waarden in technologie kan leiden tot schade en versterkt de nood aan een ethisch bewuste ontwerppraktijk. Zoals ze stellen: "Waarden zijn niet iets wat pas later aan technologie wordt toegevoegd – ze zitten vaak al in het ontwerp zelf ingebakken."

Hoofdstuk 6 – Verantwoord innoveren

De auteurs plaatsen vier kerncomponenten centraal

1. Verantwoordelijkheid: Wie technologie ontwikkelt, draagt verantwoordelijkheid voor de effecten ervan, ook als die niet direct zichtbaar zijn. Die verantwoordelijkheid is zowel individueel als institutioneel en vereist transparantie, aansprakelijkheid en het besef van de sociale impact van keuzes.

2. Anticipatie: Verantwoord innoveren betekent dat we vooruitdenken over mogelijke gevolgen van een nieuwe technologie – gewenst en ongewenst.

3. Ethisch ontwerp: Dit vraagt om interdisciplinaire samenwerking tussen technici, ethici, gebruikers en andere belanghebbenden. Het doel is niet alleen een functioneel product, maar een product dat aansluit bij de morele verwachtingen van de samenleving.

4. Impactanalyse: Impactanalyse helpt om structurele effecten te begrijpen en voorkomt dat technologie onbedoeld schadelijk of uitsluitingsmechanismen versterkt.

De auteurs stellen: "Responsible innovation means designing with care, foresight, and an inclusive sense of responsibility." Ze benadrukken dat ethiek een richtinggever is voor duurzame vooruitgang.

Hoofdstuk 7 – Onzekerheid en risico’s

De mythe van Pandora’s doos wordt als metafoor gebruikt om te wijzen op het gevaar dat nieuwsgierigheid en innovatie onverwachte, schadelijke gevolgen kunnen hebben. Waar Pandora uit nieuwsgierigheid de doos opent en het kwaad over de wereld verspreidt, zo kan ook technologische nieuwsgierigheid leiden tot onvoorziene neveneffecten. De auteurs benadrukken dat we zelden met zekerheid kunnen voorspellen wat de effecten van een technologie zullen zijn, en dat juist deze onzekerheid een centraal ethisch probleem vormt.

Er worden drie benaderingen besproken om met risico om te gaan:

1. Risicobeoordeling: Dit betreft systematische, kwantitatieve methoden om gevaren te identificeren, analyseren en beheersen. Deze aanpak is typisch voor technische en natuurwetenschappelijke disciplines en vormt vaak de basis voor wet- en regelgeving. Echter, puur cijfermatige analyses kunnen ethisch tekortschieten, vooral als morele waarden zoals rechtvaardigheid of transparantie buiten beschouwing blijven.

2. Het voorzorgsbeginsel: Dit principe stelt dat bij ernstige onzekerheid en potentieel onomkeerbare schade, voorzorg moet worden betracht, zelfs als er nog geen sluitend wetenschappelijk bewijs is. Dit wordt bijvoorbeeld toegepast bij genetisch gemodificeerde organismen of nanotechnologie. Het dwingt tot kritische reflectie over morele verantwoordelijkheid bij onzekerheid, en bevordert terughoudendheid waar risico’s onevenredig verdeeld zijn.

3. Regulering en standaarden: Technologische risico’s worden ook gemanaged via juridische en institutionele kaders. Standaarden zoals ISO 31000 bieden richtlijnen voor risicomanagement, en ethische commissies beoordelen of innovaties voldoen aan maatschappelijke eisen. Regelgeving fungeert als een ethisch kompas, maar vereist voortdurende herziening om gelijke tred te houden met snelle technologische ontwikkelingen.

   
   

Technologie vereist dus niet alleen technische beheersing, maar ook een diepgaand ethisch bewustzijn van wat we mogelijk niet weten. Door onzekerheid te erkennen als onderdeel van innovatie, ontstaat ruimte voor reflectie, dialoog en zorgvuldige besluitvorming.

Hoofdstuk 8 – Denkende machines

In dit hoofdstuk staat kunstmatige intelligentie (AI) centraal en er wordt het onderscheid gemaakt tussen sterke AI, systemen met bewustzijn, begrip en intentie, vergelijkbaar met menselijke intelligentie, en zwakke AI, systemen die enkel specifieke taken uitvoeren (zoals een schaakprogramma of aanbevelingsalgoritme) zonder enig zelfbewustzijn.

De ethiek van AI raakt aan fundamentele vragen over wat het betekent om te denken, te begrijpen en moreel te handelen. Kan een machine ooit verantwoordelijkheid dragen? Wat betekent het als we beslissingen over veiligheid, gezondheid of rechtvaardigheid delegeren aan algoritmes?

Belangrijke ethische kwesties hoofdstuk zijn:

• Privacy: AI-systemen verzamelen, analyseren en gebruiken grote hoeveelheden data. Denk aan surveillance door overheden of het volgen van consumentengedrag door bedrijven. De auteurs verwijzen naar de onthullingen van Edward Snowden als illustratie van hoe vergaand en onzichtbaar digitale controle kan zijn.

• Eerlijkheid en bias: Algoritmes leren van data, en als die data bestaande vooroordelen bevatten, zullen de systemen deze versterken. Zo kunnen AI-systemen onbedoeld leiden tot discriminatie, bijvoorbeeld in sollicitatieprocedures, kredietbeoordelingen of politiewerk.

• Verantwoordelijkheid: Als een AI-systeem een fout maakt—bijvoorbeeld bij het toekennen van een uitkering of in autonoom rijden—wie is dan aansprakelijk? De programmeur, de eigenaar, de gebruiker? Transparantie en uitlegbaarheid (ook wel "explainable AI") zijn hier cruciaal.

  
  

Het gaat niet alleen om het implementeren van morele principes in code, maar om het blijven voeren van een open, kritische dialoog over wat goed en juist is. AI dwingt ons om menselijke oordeelskracht niet te vervangen, maar juist bewuster in te zetten.

AI is geen neutraal instrument, maar een krachtig middel dat onze samenleving kan hervormen—ten goede of ten kwade. Daarom moeten ontwerpers, beleidsmakers en burgers samen nadenken over hoe we AI vormgeven en beheersen.

Hoofdstuk 9 – Leven maken

In dit hoofdstuk staat biotechnologie centraal—een verzamelnaam voor technologieën zoals CRISPR-Cas9, klonen en synthetische biologie. Deze technologieën stellen ons in staat om leven op fundamentele wijze te wijzigen of zelfs volledig nieuw leven te creëren. De auteurs laten zien dat dit niet alleen wetenschappelijke of technische innovaties zijn, maar ook existentiële en ethische kwesties oproepen: Wat betekent het om mens te zijn? En wie heeft het recht om leven te ontwerpen?

Aan de hand van de film Blade Runner wordt duidelijk hoe fictie ons kan helpen nadenken over de morele grenzen van kunstmatig leven. In de film zijn “replicants” genetisch gemodificeerde mensen die nauwelijks te onderscheiden zijn van echte mensen, maar juridisch en sociaal uitgesloten worden. De auteurs gebruiken dit als metafoor voor onze huidige situatie: we staan aan de vooravond van een wereld waarin het maken van leven mogelijk is, maar de morele kaders nog ontbreken.

Belangrijke concepten uit dit hoofdstuk:

• Bio-ethiek: Deze discipline houdt zich bezig met de ethische vragen rond geneeskunde en biotechnologie. Centraal staan waarden als autonomie, rechtvaardigheid, niet-schaden en weldoen. Bio-ethiek helpt ons nadenken over kwesties als embryo-onderzoek, genetische screening en het verbeteren van menselijke eigenschappen.

• Verbetering versus therapie: Een centrale vraag in dit debat is of biotechnologie enkel gebruikt mag worden om ziekten te behandelen (therapie), of ook om gezonde mensen te verbeteren (enhancement). Denk aan spierversterkende genen, verhoogde intelligentie of verlengde levensduur. Waar ligt de grens tussen medische noodzaak en menselijk perfectionisme?

• Internationale regulering: Om ongewenste toepassingen te voorkomen, bestaan er wereldwijde kaders zoals de UNESCO-verklaring over het menselijk genoom en het Cartagena Protocol over bioveiligheid. Deze documenten proberen mondiale afspraken te maken over de grenzen van genetische manipulatie.

• 
  

De auteurs waarschuwen voor een vorm van technologische overmoed (hubris): het idee dat de mens volledige controle kan of moet uitoefenen over het leven. Ze betogen dat wetenschappers, ontwerpers en beleidsmakers moeten handelen met bescheidenheid, transparantie en verantwoording naar het publiek toe. Ze stellen voor om publieke dialoog centraal te stellen bij beslissingen over genetische technologie, omdat de gevolgen collectief zijn.

Tot slot vragen de auteurs: Welke vormen van leven willen we toelaten, ondersteunen of uitsluiten? Deze vraag gaat verder dan wetenschap: het raakt aan onze visie op menselijkheid, verantwoordelijkheid en toekomst. In een tijd waarin het 'maken van leven' realiteit wordt, moeten we ook nadenken over het 'leven met dat gemaakte leven'.

Hoofdstuk 10 – Burgerschap en politiek

Technologie beïnvloedt niet alleen individuen maar ook samenlevingen. In dit hoofdstuk staat het concept van technologisch burgerschap centraal: de plicht én het recht van burgers om actief deel te nemen aan het denken en beslissen over technologische ontwikkelingen. De auteurs benadrukken dat ethische keuzes over technologie niet alleen bij ingenieurs of beleidsmakers liggen, maar ook een collectieve maatschappelijke verantwoordelijkheid zijn.

Belangrijke thema’s:

• Burgerschapsdeugden: In een digitale samenleving verandert de invulling van burgerschap. De auteurs noemen transparantie, betrokkenheid en verantwoordelijkheid als kernwaarden. Digitale geletterdheid en toegang tot informatie worden essentieel om mee te kunnen doen aan publieke debatten over technologie.

• Publieke betrokkenheid: Democratische legitimiteit vraagt om participatie. Burgers moeten inspraak hebben in beslissingen over technologie die hun leven beïnvloeden. Dit kan via protest, consultaties, burgerfora of participatief ontwerp. Het ideaal is een inclusieve technologische democratie waarin verschillende stemmen gehoord worden.

• Technologie en macht: Technologieën zoals sociale media, algoritmische besluitvorming en digitale surveillance herverdelen de macht in de samenleving. Ze kunnen politieke processen versterken (bijvoorbeeld door burgeractivisme), maar ook ondermijnen (zoals bij desinformatie of profilering). De auteurs waarschuwen dat technologie nooit neutraal is en altijd ingebed is in machtsstructuren.

Ze stellen: “Ethics has everything to do with politics.” Daarmee sluiten ze aan bij Aristoteles, die ethiek en burgerschap zag als twee zijden van dezelfde medaille. Een goed leven is een sociaal en politiek leven—ook in een tijdperk van technologische transformatie.

De oproep in dit hoofdstuk is duidelijk: burgers moeten niet alleen consument zijn van technologie, maar ook medeontwerper en criticus. Alleen zo kunnen we zorgen voor een rechtvaardige, democratische en ethisch verantwoorde technologische toekomst.

Hoofdstuk 11 – Klimaatverandering en duurzaamheid

Wat is de relatie tussen technologie en ecologie? De auteurs wijzen op de urgentie van de klimaatcrisis en de rol die technologie kan spelen in het zowel oplossen als verergeren van ecologische problemen. Ze benadrukken dat technologie niet los staat van de natuur, maar ermee verweven is—zowel in oorzaak als in oplossing.

Wat we vandaag doen met grondstoffen, biodiversiteit en klimaat heeft gevolgen voor wie nog niet geboren is. De auteurs stellen dat technologie een instrument kan zijn voor zorg, maar ook voor uitbuiting van de natuur.

We leven in een tijdperk waarin de mens een geologische kracht is geworden. Technologieën als landbouw, transport en industrie hebben de aarde fundamenteel veranderd en stelt de vraag zich hoe kunnen we leven en handelen binnen planetaire grenzen?

Er is debat over of technologische innovatie. Moeten we vertrouwen op technische oplossingen, of ook ons consumptiepatroon en economische model herzien?

De centrale vraag die de auteurs stellen luidt: “Wat voor toekomst willen we ontwerpen—voor onszelf en voor de planeet?” Ze pleiten voor duurzame technologieën die niet alleen effectief zijn, maar ook rechtvaardig verdeeld en ecologisch verantwoord.

Hoofdstuk 12 – Opkomende technologie en ongelijkheid

Het slothoofdstuk onderzoekt hoe technologie zowel ongelijkheid kan vergroten als verkleinen. In plaats van alleen te kijken naar de functies of prestaties van technologie, richten de auteurs zich op de structurele verhoudingen van toegang, invloed en opbrengst. Technologie is namelijk niet universeel beschikbaar of neutraal in haar effecten.

We moeten ons bewustzijn van ondermeer de digitale kloof wat niet alleen een kwestie is van hardware, maar ook van kennis en culturele representatie.  Achter veel technologische producten schuilt onzichtbare arbeid. Denk aan de fabrieken waar smartphones worden geproduceerd, of aan contentmoderators die traumatische beelden filteren voor sociale media. Grote technologiebedrijven bepalen vaak de richting van innovatie zonder democratische controle. Ze bepalen welke technologieën ontwikkeld worden, wie er toegang toe krijgt en hoe data gebruikt wordt. De verdeling van economische winst en politieke invloed is ongelijk.

De auteurs pleiten voor een ethiek van sociale rechtvaardigheid, waarin wordt gekeken naar wie profiteert, wie betaalt en wie buitengesloten wordt. Ze roepen op tot inclusieve innovatie: technologieën die ontworpen worden mét in plaats van alleen vóór gemarginaliseerde groepen.

Het boek eindigt met een moreel appel: technologie moet niet alleen slim, efficiënt of winstgevend zijn, maar ook rechtvaardig, duurzaam en inclusief. Alleen dan kunnen we spreken van echte vooruitgang.

Met dit slothoofdstuk eindigt het boek in een moreel appel: technologie moet niet alleen slim, maar ook rechtvaardig, duurzaam en inclusief zijn.