Algoritmen

Week van het weten

Uitreksel uit een artikel  “De Standaard”  donderdag 23 november 2017Wetenschap

Giovanni Samaey  (KU Leuven)

Wiskundige en lid van de Jonge Academie

‘Uit zichzelf hebben algoritmes geen kwaad in de zin’

Het wiskundeonderwijs kan de impact van algoritmes kaderen door te verklaren hoe ze werken.

 ‘Moeten we bang zijn voor algoritmes? Uit zichzelf hebben algoritmes geen kwaad in de zin’, zegt Giovanni Samaey. ‘Ze worden door mensen geschreven – zélf staan ze neutraal tegenover de ­taken die ze uitvoeren. Enkel als ze fout geprogrammeerd worden of afgesteld worden met vooringenomen gegevens, zullen de uitkomsten verkeerd of vooringenomen zijn.’

‘Een algoritme is een instructiepakket dat een gegevensinvoer in een vooraf bepaalde reeks stappen omrekent naar een gegevensuitvoer die mensen van nut kan zijn. Zo kan een algoritme de vaardigheden van sollicitanten omzetten in cijfers, en op basis van die cijfers een rangschikking van kandidaten opstellen in volgorde van ­geschiktheid voor de job. Of een algoritme kan een zelfsturende wagen vertellen hoe die op een onverwachte verkeerssituatie moet reageren: bijvoorbeeld door te remmen, of juist niet.’

‘Stilaan worden algoritmes beter dan mensen in dit soort “typisch menselijke” taken. Dat is voor veel mensen beangstigend, omdat gebruikers geen zicht hebben op hoe algoritmes aan hun uitkomst komen. Terwijl je als eigenaar van een zelfsturende auto waarschijnlijk wel wilt ­weten wat de auto zal doen als er onverwacht een voetganger door het rood oversteekt, terwijl er achter je een zware vrachtwagen rijdt. Laat het algoritme de zelfrijdende auto remmen om het leven van de voetganger te redden, met het risico dat de auto zelf door de vrachtwagen zal worden aangereden? Of zal het te allen prijze voorkomen dat de auto wordt aangereden, zelfs als dat het leven van de voetganger kost? Het algoritme beslist daarover uitgaande van beslissingscriteria die de maker heeft ingeprogrammeerd – zoals: neem geen risico’s om het leven van verkeersovertreders te sparen. Maar welke beslissingscriteria een algoritme heeft meegekregen, is soms moeilijk te zeggen omdat veel algoritmes onder het bedrijfsgeheim van hun maker vallen. Ze zijn voor gebruikers een black box: vooraan stop je er iets in, achteraan komt er iets uit, zonder dat je zicht hebt op wat er onderweg in de doos is gebeurd. De vrees leeft dat algoritmes ons leven bepalen zonder dat we er enige greep op hebben.’

‘De vooroordelen van een algoritme weerspiegelen de vooroordelen van diegenen die de gegevens fabriceerden waarop het zich baseert’

‘Mensen hebben dus geen idee hoe de berekeningen ver­lopen. Maar de makers van het algoritme eigenlijk vaak ook niet meer. Zeker niet bij de complexere algoritmes die ingevoerde gegevens van een “weging” voorzien – in het eindoordeel weegt de ene factor zwaarder door dan de andere. Hoe die weging gebeurt, bepalen veel ­algoritmes namelijk zelf. Een neuraal netwerk, een geavanceerde vorm van algoritme, wordt op basis van heel veel invoergegevens getraind om “dezelfde beslissing als een mens te nemen”. Pas wanneer dat lukt, wordt het losgelaten in het wild. Ook dan leert het algoritme nog bij en past het voortdurend zijn “weging” aan. Wat de belangrijkste beslissingscriteria zijn, is dan vaak ook voor de makers niet meer duidelijk. Algoritmes die op die manier werken, proberen in essentie de menselijke ervaring te vatten – die ver­zameling van impliciete criteria die mensen in staat stelt om intuïtief te beslissen.’

‘Als we niet weten wat er precies berekend wordt, is de uitkomst van een algoritme dan wel te vertrouwen? Stel dat je merkt dat een rekruteringsalgoritme systematisch kandidaten met ­jonge kinderen lager rangschikt. Is dat dan een opdracht geweest voor het algoritme? Is dat voorgeprogrammeerd? Of heeft het algoritme gewoon geleerd dat rekruteerders nu eenmaal impliciet dat criterium hanteren? Hoe dan ook zullen ­kandidaten met jonge kinderen zich benadeeld voelen. Maar is dat de schuld van het algoritme? De vooroordelen van een algoritme weerspiegelen slechts de vooroordelen van diegenen die de gegevens fabriceerden waarop het zich baseert.’

‘Kan een algoritme ook fouten maken? Natuurlijk, en die fouten kunnen meerdere oorzaken hebben. Deugden de ingevoerde ge­gevens niet? Werd het algoritme gebruikt voor iets waar het niet voor bedoeld was? Zat er een ontwerpfout in die er bij pre-releasetests niet was uitgehaald? Veel van de angst voor algoritmes komt ook voort uit de onbekendheid met de wiskunde die erbij komt kijken.’

‘Natuurlijk moeten we op onze hoede zijn voor een verkeerd gebruik van algoritmes. En voorzichtig met het zomaar weggeven van gegevens die kunnen gebruikt worden om algoritmes te trainen. Mensen horen te wéten wanneer algo­ritmes worden betrokken bij een proces waarvan de uitkomst op hen betrekking heeft. De overheid kan spelregels opleggen over hoeveel openheid van zaken de makers van algoritmes moeten geven. Het wiskundeonderwijs kan de impact van algoritmes kaderen door te verklaren hoe ze werken. Maar dat individuele gebruikers ooit van elk algoritme in detail de werking zullen kunnen vatten, lijkt me onwaarschijnlijk – en ook niet nodig.’

Lees het volledige artikel via deze link
 

Reageren is niet mogelijk