Wat het boek 'Technologie twijfelt ook' van Filip Van den Abeele me leert over innovatie...

Een boek van 600 pagina's lezen, het zou zomaar één van de voornemens kunnen zijn die je onbezonnen uitspreekt na het glas teveel bij een diner op de laatste dag van het jaar. Als je dagelijks voor je werk al behoorlijk wat lectuur achter de kiezen steekt, en dan heb ik het niet over boeken, verleg je na de werktijd de aandacht spontaan wat meer naar het niet-geschreven woord of andere activiteiten die om aandacht schreeuwen. Maar de doorsnede van technologie en ethiek interesseert me dusdanig dat dit boek wel erg z'n best deed om op mijn aandachtradar te komen. Als je werkt in een omgeving die zich tot doel stelt om innovatie binnen Vlaanderen te stimuleren en te ondersteunen en ingenieursbloed hebt in de aderen is technologische innovatie as-we-know-it in de 21ste eeuw een continu stromende bron. Ik omarm het uitgangsprincipe dat technologie zorgt voor enorme maatschappelijke vooruitgang, maar negeer niet dat ze steeds een schaduw meedraagt doordat ze voor verkeerde doeleinden kan ingezet worden. Filip Van den Abeele snijdt in dit boek 13 technologische thema's aan. Enerzijds met de passie van een ingenieur over de mogelijkheden die technologie biedt voor meer welzijn en welvaart. Anderzijds met een meer kritische blik van mogelijke negatieve of open vraagstukken die technologie zelf vaak onbeantwoord laat. Steeds op een zeer toegankelijke manier, doorspekt met voorbeelden en op tijd en stond een vergelijking of formulering die je mondhoeken omhoog trekken.  Aangename lectuur was het zeker. 

De zelfrijdende auto stelt meteen 2 thema's centraal die meerdere keren in het boek op de achtergrond meekijken: hoe navigeer je op moreel kompas en wat met privacy? Een wagen zelf laten rijden is één ding, maar hoe laat je algoritmes beslissen bij morele keuzes, in geval bv. mensenlevens onderling afgewogen moeten worden. Mag je een mensenleven met wiskunde wegen? En moeten die algoritmes dan hun keuzes laten afhangen van de regio en dus cultuur waarin ze gebruikt worden? Universele ethiek bestaat immers niet. Autonome technologie zoals bij wagens, vraagt een continue uitwisseling van data. Zijn we bereid om bv. onze locatie op elk moment te voeden met algoritmen? Wat mezelf betreft, als die-hard waze gebruiker, is het antwoord daarop al impliciet gegeven en dat is een vrije keuze. Maar daarmee heb ik nog geen antwoord op de vraag of privacy over de ganse lijn een gedateerd concept is, een illusie of een grondrecht. 

Wie data zegt, neemt het adjectief 'big' al snel in de mond. Algoritmes zijn obees en krijgen niet genoeg van big data om voorspellingen te doen. Te vaak wordt vergeten dat correlatie het daardoor begint te winnen van causaliteit. De correctheid van de voorspelling overvleugelt het belang van het inzicht in het 'waarom' die voorspelling juist is. Dat gebrek aan inzicht in causaliteit heeft al tot enkele accidenten geleid waar de algoritmes door bias de mist ingingen. Je zal maar de gedupeerde zijn als zo'n algoritme je lening weigert zonder dat de bankbediende nog kan uitleggen wat je dan wel moet doen om wel aanvaard te worden. Of als de politie voor de deur staat en meldt dat je een gevaar bent voor de maatschappij op basis van hun AI algoritme. Zo gek is het gebruik van AI binnen de rechterlijke macht niet.  AI kan beter recidive voorspellen dan rechters, maar het risico op bias is groot en AI kent geen mededogen. Optimum is dus dat rechters beroep kunnen doen op inzichten die AI aanreikt om een finaal oordeel te vellen, om met metabesef en mededogen een evenwicht te zoeken tussen efficiëntie, rechtlijnigheid en rechtvaardigheid 

Wie intelligentie zegt, denkt aan het potentieel om zelfstandig te leren, beslissingen te nemen en ze zelf ook uit te voeren. Bij menselijke intelligentie zou je daar nog waarden aan kunnen toevoegen, zoals het opnemen van de verantwoordelijkheid van de gevolgen van die beslissingen. Is technologie neutraal of moet ze met morele werden beladen zijn? Je kunt met een hamer een huis bouwen, maar ook iemands schedel inslaan. Bij Artificiële Intelligentie dreigt dus een verantwoordelijkheidskloof waarbij niemand nog verantwoordelijk kan gesteld worden. We moeten daarover nadenken. Allicht is de meest aangewezen conclusie dat een mens verantwoordelijk blijft, ook al is het over gedrag van een robot die hij zelf niet meer begrijpt. Vraag is dan welke mens. 

Dat geldt uiteraard niet minder voor de toekomstige robots, gestuwd door AI en robotica. Dat eenvoudige motorische handelingen nog zeer moeilijk zijn (paradox van Moravec) is een gegeven, maar allicht een overbrugbare kloof op weg naar verdere doorbraken in autonome robots. Doordat steeds meer robots de weg naar de werkvloer vinden,  verschuift personeelsbeheer van het managen van een contingent menselijke medewerkers naar een strategie van hire and wire. Het verweven van mensen en technologie richting het behalen van kortstondige doelstellingen. De mogelijkheid om ons werk meer en meer uit te besteden, dwingt ons om na te denken over de maatschappij die we in de toekomst willen. Dat geldt niet minder in de zorgsector, waarbij zorgrobots meer kunnen doen dan werken, maar ook een vorm van gezelschap kunnen invullen. De hang naar antropomorfisme lijkt daarbij onvermijdelijk, maar kan leiden tot onrealistische verwachtingen als men emoties begint te projecteren op de robot. Die heeft er immers geen. Vraag is dan hoe je bij zo'n robots een vorm van ethisch besef moet gaan programmeren: op basis van de plichtethiek (een vast moreel kompas) of de gevolgenethiek (in functie van gevolgen van gesteld gedrag) om maar iets te zeggen.

De maakbaarheid van het leven door de grote stappen die we zetten op vlak van genetica, vraagt nog meer een verantwoordelijkheidsbesef. Waar de genetica enorm veel mogelijkheden biedt om te komen tot een hogere levenskwaliteit en het vermijden van onnodig medisch leed, zijn er toch grenzen aan de maakbaarheid als je de vrijheid en autonomie van het individu als waarde inroept.  Kinderen genetisch gaan selecteren bezwaart ze met mogelijk irreële verwachtingen en kan dus bij voorbaat hun vrijheid inperken. Ingrijpen in een gen kan een beoogd effect realiseren, maar op langere tijd een niet-beoogd effect blootleggen.

Het potentieel op vlak van een verbeterde gezondheidszorg is niet enkel groot door de technologische doorbraken rond genetica. De e-health boomt als nooit tevoren, met de glorie van de preventie als leidend richtsnoer. Dat de bewijslast voor gezondheid daardoor steeds meer op de schouders van het individu komt, is een evolutie in lijn met het tekort aan gezondheidswerkers. We zijn in de toekomst misschien wel ziek tot we kunnen aantonen dat we gezond zijn, al kan het net zo goed andersom zijn, zeker wat verzekeraars betreft. Verzekeren verschuift van het collectiviseren van gemeenschappelijke risico's naar het viseren van individuele verantwoordelijkheid. Het individu wordt losgeweekt uit de populatie van risicoprofiel. Solidariteit is zo niet langer gestoeld op de gevolgen van tegenslag maar op de oorzaken ervan. Het potentieel van preventie verhoogt ook het risico op overdiagnose.  Quantified selfies (nvdr wat een prachtige term) dreigen daarbij obsessief te focussen op elk signaal dat afwijkt van een steeds strengere gezondheidsnorm, waarbij de meting misschien zelf ziek maakt. Je bent best geen quantified selfie met hypochondrie. 

Epistemologie stelt dat kennis tot stand komt door een actieve constructie, eerder dan een passieve voorstelling van de realiteit. Wat we al weten bepaalt hoe we nieuwe zaken kunnen kaderen, aanleren en begrijpen. Kennis fungeert dus als kapstok om nieuwe inzichten aan op te hangen. Het oordeelkundig raadplegen van bronnen wordt belangrijker dan het memoriseren van kennis. Onderzoek toont aan dat jongeren een goed begrip hebben van een opgelegde zoekopdracht, ze weten welke zoektermen ze moeten gebruiken, maar ontsporen eens ze in de grote WWW-zee zitten te zoeken, surfend van de ene golf naar de andere. Van de Homo sapiens dreigen we dus te evolueren naar de homo zappiens. De succeselementen voor leren bij jongeren zijn een progressief stijgende moeilijkheidsgraad, verslavende beloningsschema's en uitzicht op een topscore, een trio waarop games perfect inspelen. Die gamification aanpak werkt blijkbaar het best voor beschrijvende vakken als aardrijkskunde en geschiedenis, maar blijkbaar veel minder voor wetenschappen en wiskunde. Technologie alleen zal de achteruitgang van het Vlaamse onderwijs niet rechttrekken dus. In heel de discussie over het meer en beter inzetten van technologie in het onderwijs (E-ducatie), is vooral te vermijden dat de leerkracht wordt vervangen als instrument van de instructie. Computers moeten de docent versterken in het geven van de opdracht, niet vervangen en het bieden van ondersteuning op maat. Het detecteren van de nodige ondersteuning, daar kan AI dan weer wel bij helpen. Steeds 'human' in de loop dus.

Die opleiding zal nodig zijn om als maatschappij het klimaatprobleem onder controle te krijgen. Pessimisten zien enkel naderende ellende en verval, maar realisten zien een markt van mogelijkheden.  Er is ruimte voor optimisme, op voorwaarde dat we de mouwen opstropen en onze problemen doordacht en rationeel aanpakken. Ruim 80% van de broeikasgassen sinds begin van industriële tijdperk is veroorzaakt door het Westen. Wij zijn dus de eerste generatie die willens nillens moreel bewaard is om dit aan te pakken. Maar hoe verdeel je wereldwijd de inspanning dan? Op basis van rechtvaardigheid (Westen beduidend meer dan de rest), op basis van vergelijkbare marginale kosten (relatieve inspanning gelijk), op basis van uitstoot per inwoner of op basis van behandelbare emissierechten? Het is voer voor discussies op allerhande COP Klimaatconferenties. De dispersie van aansprakelijkheid vertroebelt onze blik stelt Filip: het is alsof we medeverantwoordelijk zijn met miljoenen anderen voor een miljard kleine acties in een triljoen momentjes. Daar komt nog bij dat onze inspanningen maar ten goede komen van volgende generaties en dat we geen robuust ethisch kader hebben om daarover op die termijn na te denken. Een perfect morele storm dus en zonder twijfel de grootste morele uitdaging waar we voor staan.  Wie klimaat zegt, zegt ook energie. De voorbije eeuw hebben we ruim 1000 miljard vaten olie opgepompt waarvan de helft de voorbije 20 jaar. Die zijn niet allemaal voor energie bestemd, maar toch grotendeels. De auteur is resoluut voorstander om verder in te zetten op nucleaire technologie om het klimaatprobleem aan te pakken. Hier spreekt zijn vooruitgangsoptimisme het hardst want natuurlijk stelt het nucleaire afval toekomstige generaties voor grote uitdagingen.

Dat de evolutie van de sport sterk door AI bepaald wordt, is op dit moment al een realiteit. Wat de denksport betreft is dat al wat langer duidelijk: geen enkele mens kan sinds Deeper Blue nog winnen van de sterkste schaalalgoritmes. Dat geldt ondertussen ook al voor het veel complexere GO spel. Als je de film Moneyball zag, kan je je een beeld vormen van het potentieel van data in de fysieke sport en die film dateert van 2011.  Algoritmes die aan de basis lagen van Alphago, worden nu gebruikt om te begrijpen hoe eiwitten zich oprollen (Alphafold), om de energie behoefte van Google voor haar datacenters te reduceren,... Het illustreert hoe AI zich vlot beweegt tussen disciplines. 

Die AI zal meer dan nodig zijn in evoluties in Smart Farming. De komende dertig jaar zullen we immers ruim 50% meer calorieën moeten produceren.  Nu dacht men in de jaren '70 al dat de landbouw niet in staat zou zijn de extra monden te voeden tegen de 21ste eeuw. Ondanks die doemscenario's, hebben veredelingstechnieken, hogere productiviteit door inzet van machines, kunstmest en gewasbeschermingsmiddelen geleid tot het opvangen van die bevolkingsgroei. Het Haber-Bosch proces is nog steeds de sleutel tot wereldwijde ammoniak productie en dus kunstmest. Volgens sommige wetenschappers dankt een derde van de wereldbevolking haar leven aan dat proces. Dat momenteel 700 miljoen mensen honger leiden en 1,5 miljard mensen ondervoed zijn, is dus niet door een tekort aan voedsel, maar wel door een gebrekkige verdeling van dat voedsel. Het potentieel om productiviteit en gewasopbrengsten verder te verhogen de volgende decennia is het argument van aanhangers van land sparing. Doel is op een minimaal areaal zoveel mogelijk te produceren om daarnaast zoveel mogelijk ruimte beschikbaar te hebben voor bv. natuur. Bij landsharing beoogt men daarentegen via agro-ecologische technieken landbouw in te bedden in de natuur. Dat resulteert natuurlijk in veel meer nood aan oppervlakte voor landbouw, die dan wel meer geïntegreerd is met natuur. Beiden hebben het goed voor met de natuur, maar op een andere manier. Het toont aan hoe moeilijk discussies zijn als ethiek en moraliteit op de schouders mee het debat voeden.  Feit is dat landbouwers meer en meer techneuten worden met ook dilemma's over het al dan niet delen van data met hun leveranciers die op basis van die data tegen betaling adviezen verstrekken. 

Slotsom: het boek telt enorm veel vraagtekens en dat illustreert hoeveel dilemma's er zijn en hoeveel extra vragen die oproepen als je het hebt over technologische vooruitgang. Ze bespreekbaar maken is een eerste belangrijke stap. Dat is de verdienste van dit boek. Rode draad doorheen alle dilemma's is dat technologie die niet zal oplossen, al zou je nog kunnen proberen om generatieve AI advies te vragen. Het is dus aan ons mensen om met de dilemma's om te gaan. Bewustwording en open dialoog vraagt dat met oog voor alle standpunten. Human in the loop blijft cruciaal bij elke technologische evolutie. Als 'human' in de AI loop wens ik je in elk geval een gezond en boeiend 2025...