Afgelopen zaterdag was ik naar een middag van het Humanistisch Verbond over de kansen en risico’s van AI. Leuk om kennis te maken met het HV in Zeeland en dit onderwerp trok me naar Middelburg vanwege mijn bemoeienis met schrijven en AI. De middag bestond uit twee delen: eerst twee inleidende sprekers, over AI in het algemeen en de ethische vragen erover in het bijzonder, en daarna gingen we in kleinere groepen uiteen voor een moreel beraad rond een casus.
In de inleidingen hoorde ik een paar nieuwe dingen die vooral mijn begrip van AI vergrootten. Oscar Bastiaens benadrukte, in de voetsporen van Heidegger, dat technologie niet alleen de wereld onthult, maar ook de relatie tussen ons en die wereld verhult. AI beïnvloedt ons zo ook; in die context viel het woord dataficering van het denken. Nieuw woord voor mij, maar ik herkende het meteen. Heidegger ga ik lezen.
Tijdens het moreel beraad vond ik het interessant om mijn ongemak te onderzoeken. Ik voelde dat bij de casus over het gebruik van AI voor het stellen van medische diagnoses. Stel dat AI dat aantoonbaar beter kan dan een arts, zou ik er dan blind op varen? Rationeel was mijn antwoord ja, maar daar kreeg ik toch een knoop van in mijn maag. Die bleek onder andere te maken te hebben met de grote afhankelijkheid van technologie die zo ontstaat. Met z’n allen leggen we ons lot zo wel heel erg in de handen van zo’n systeem en het bedrijf dat dat maakt. Stel dat daar dan problemen mee ontstaan – zoals we op dit moment zien met beïnvloeding van de politiek door grote social-media-bedrijven – hoe dan verder?
Over schrijven met AI bedacht ik zelf gaandeweg twee dingen, allebei naar aanleiding van de constatering in het moreel beraad dat als we het stellen van diagnoses overlaten aan AI, artsen dat dan niet meer hoeven te leren en het ook verleren:
- Dat is een verlies, maar mogelijk niet alleen maar. Mijn opa is ergens rond z’n 45e gestopt als huisarts en bedrijfsarts geworden omdat hij het stellen van diagnoses een te grote verantwoordelijkheid vond – althans, zo zag mijn moeder dat. Mijn opa was misschien langer huisarts (in een klein dorp in de jaren ’40) kunnen blijven als hij dat voor hem zware onderdeel van zijn werk aan technologie had kunnen uitbesteden. Ik vertelde dat zaterdag in de groep, en trok voor mezelf nog een conclusie: de meerwaarde van het benutten van AI kan per persoon verschillen. Wat voor de een verlies is, is voor de ander winst. Dat geldt voor schrijven met AI dan dus ook.
- Als AI inderdaad, zoals in onze casus, 10 procent beter is in diagnosticeren van kanker dan een arts (van 90 naar 99 procent juist), dan is het rationeel om het aan AI over te laten. Dat is echter bij schrijven met AI nog heel anders. AI kan dat gemiddeld genomen minder goed dan een mens, zeker bij gemakzuchtig gebruik van een programma als ChatGPT voor een andere taal dan Engels. Dat maakt uit voor de afweging over het gebruik ervan. Ik weet niet hoe reëel die 99 procent is, maar als AI in 99 procent van de gevallen een goede tekst zou schrijven, zou ik er enthousiaster over zijn.
Het was een boeiende, goed georganiseerde en prettige middag. Smaakte naar meer. Er is ook meer nodig: als mij één ding helder werd, was het wel dat we ons met z’n allen moeten bezinnen op de rol van AI in onze levens en in onze samenleving. Vanwege de vele ethische haken en ogen. Dus: wordt vervolgd.