Automatisering is fragmentering

Automatisering is fragmentering

Dokters worden 'diagnosestellers'

24-10-2023 · Column

Gaan we dokters vervangen door ChatGPT? In The American Journal of Bioethics stellen de filosofen Ramón Alvarado en Nicolae Morar daar vragen bij. Hun zorg is niet dat ChatGPT foute diagnoses stelt, maar dat dokters meer doen dan diagnosticeren. Dokters stellen patiënten gerust, geven persoonlijke aandacht, terwijl ChatGPT dokters reduceert tot diagnosemachines.

Wil je iets automatiseren, moet je eerst definiëren wat het is. Dat lijkt eenvoudig, maar is het niet. Het resultaat is vaak ééndimensionaliteit. Dokters worden diagnosestellers, kassamedewerkers worden scanners, docenten worden informatie-overdragers. In die reductie zit juist de kracht van automatisering: het is efficiënt omdat je je louter op die dimensie toelegt, en de rest negeert. Mensen zijn vaak inefficiënter, precies omdat ze talloze zaken tegelijkertijd aan het doen zijn.

We zien iets gelijkaardigs bij de digitalisering van het onderwijs: onlinelessen, kennisclips, of simpelweg het gebruik van ChatGPT voor al je vragen. Ook hier lijkt de efficiëntiewinst groot, maar enkel omdat de docent wordt gereduceerd tot iemand die kennis overdraagt. Wat is het precies dat we willen automatiseren? Studenten halen meer uit hun colleges dan kennisoverdracht: ze maken vrienden, leren publiek spreken, of worden geconfronteerd met alternatieve visies op mens en maatschappij. Een docent is dan misschien niet even efficiënt als een chatbot, maar weet op deze zaken in te spelen.

Efficiëntiewinst mag dus geen strategie op zich zijn, want inefficiëntie is vaak een teken dat eigenlijk veel dingen tegelijk gebeuren: de student krijgt nieuwe informatie, maar leert ook zelfstandig leven en denken; de patiënt krijgt een diagnose, maar vergezeld van context en persoonlijk advies.

Automatisering maakt vaak de fout enkel op de meest in de oog springende taak te focussen, en negeert de andere taken. Daarom moet elke automatiseringsstrategie gepaard gaan met gedegen advies van experts. Maar dan gaat het niet om te zoveelste AI expert, maar om deskundigen die helpen bij de vraag: wat je wil in de eerste plaats automatiseren. Wat doen dokters allemaal? Wat willen we eigenlijk van docenten?

Massimiliano Simons, filosoof bij de faculteit cultuur- en maatschappijwetenschappen