‘Is het voordeel van werken met AI belangrijker dan het mogelijke risico dat je introduceert?’

Toen grootmeester Gary Kasparov in 1997 een schaakwedstrijd verloor van een computer, dachten veel mensen dat de populariteit van schaken over zou zijn. Integendeel, zegt Ger Janssen, Principal Data & AI Scientist bij Philips. “Schaken is populairder dan ooit en is juist door de komst van AI veranderd, want er zijn nieuwe strategieën ontdekt om beter te kunnen spelen. AI kan op vele manieren helpen, maar dan is het wel belangrijk dat het verantwoord wordt gebruikt.”

Ger werkt samen in het Responsible AI team bij Philips. Het team helpt verschillende afdelingen binnen Philips wereldwijd om AI op een betrouwbare, ethische en robuuste manier toe te passen. Juridische en ethische kwesties staan daarbij centraal. Een aantal van deze kwesties staat ook centraal in de brAInpower-expositie in het Philips Museum, waar bezoekers worden gevraagd om zelf na te denken over de kwesties en een eigen mening te vormen. Ger en zijn collega Arlette van Wissen zijn beiden te zien in twee video’s in de expositie met dergelijke vraagstukken over het toepassen van AI.

Betere besluiten

In de video’s van Ger staat hij stil bij de vraag of het groepsbelang boven individueel belang kan staan bij het gebruiken van persoonsgegevens. In de tweede video vraagt hij zich hardop af of AI een deel van de taken van de mens kan overnemen, waardoor die andere dingen kan doen die wellicht veel leuker zijn. Maar betekent dit dan ook dat AI de rol van de arts zal overnemen? Natuurlijk zijn deze dilemma’s over het ethisch gebruik van AI zwart-wit, maar daardoor ga je er wel over nadenken en beseffen dat de realiteit niet zo zwart-wit is. Ger: “Nadenken in dilemma’s is het startpunt om jezelf goed te informeren, zodat je er een betere mening over kunt vormen en dus een beter besluit kunt nemen over het wel of niet toepassen van AI.”

Verantwoord

Ger vindt het nadenken over deze kwesties vooral interessant, omdat veel mensen tegenwoordig bezig zijn met AI, en het belangrijk is dat op een verantwoorde manier te doen. “AI is echt een ‘giga hype’ momenteel, maar in de realiteit is het veel lastiger”, erkent hij. Om AI-modellen te ontwikkelen, zijn grote hoeveelheden data nodig. Elk algoritme moet namelijk worden getraind om steeds betere en betrouwbaardere uitkomsten te genereren. Ger: “Maar hoe ga je als bedrijf verantwoordelijk om met die data? En hoe waarborg je de privacy van individuen? Dit zijn vraagstukken waar we voortdurend mee te maken hebben als bedrijf in de gezondheidstechnologie.”

Juiste manier inzetten

Ook de output van AI-modellen moet altijd kritisch worden beoordeeld, zegt Ger. Hij doelt daarbij vooral op de betrouwbaarheid van generatieve AI. Ger: “De antwoorden zijn soms goed, soms in de buurt en soms compleet verzonnen. Je moet dus altijd blijven opletten of je kunt vertrouwen op de resultaten.” Volgens Ger kun je AI bijvoorbeeld goed testresultaten of gesprekken laten samenvatten, maar zal een arts altijd de resultaten moeten controleren. “Je moet weten wanneer je AI wel en niet gebruikt. En hoe je dat gebruikt, zodat je het volledige potentieel kunt benutten.”

Risico versus voordeel

Voordat mensen die keuze maken om AI in te zetten, noemt Ger het een basisvoorwaarde om eerst altijd goed de voordelen af te wegen tegen de nadelen. Het is volgens hem cruciaal dat je voorzichtig begint en vooraf bekijkt welke risico’s je introduceert door de inzet van AI. Ger: “Dat brengt weer andere dilemma’s met zich mee, want hoe bepaal je wat prioriteit heeft: het risico of het voordeel? Artsen maken soms fouten, want het zijn mensen. We verwachten van AI dat het altijd foutloos is, maar dat is natuurlijk niet zo. AI moet minstens net zo goed zijn als de mens; dat is de basis, als er maar altijd een mens meekijkt met de resultaten.”