Het Turks kent geen verschillen tussen hij en zij, alles is \u2018o\u2019. Als Google Translate een Turkse zin vertaalt, moet het dus uit de context opmaken of het gezegde over een vrouw of een man gaat. U raadt het al: Google\u00a0 vertaalt \u201cO cesur\u201d steevast met \u2018hij is dapper\u2019 en \u201cO iyidir\u201d met \u201czij is lief\u201d.<\/p>\n
Kunstmatige intelligentie, gemaakt door mensen, is met andere woorden niets menselijks vreemd. Op zijn best kun je constateren, dat zelflerende machines net als mensen \u2018leren\u2019: als ze van de 100 keer dat er over \u2018dapper\u2019 gesproken wordt een man beschreven wordt, vat in de chips of de cloud het idee post, dat vooral mannen dapper zijn. Als het gaat om leren van situaties met in gebreke blijvende debiteuren kan dat tot akelige vormen van \u2018bias\u2019 leiden\u2026<\/p>\n
Steeds vaker zullen organisaties zich bij besluitvorming laten ondersteunen door dergelijke systemen, en idealiter zouden die geen vooroordelen mogen hebben, laat staan versterken, als hun gevraagd wordt grote hoeveelheden beschikbare data te analyseren. Tegelijk wordt wel van die systemen verwacht, dat zij \u2018patronen\u2019 herkennen, en daar bruikbare informatie van fabrieken. Dat noemt men \u2018predictive modelling\u2019: uit aangeboden trainingsgegevens destilleert de machine waarschijnlijke scenario\u2019s voor de toekomst. Alleen al vanwege de snelheid waarmee tot conclusies gekomen moet worden, kunnen we hoe dan ook vaststellen, dat \u2018algorithmic bias\u2019 een groot risico cre\u00ebert. Zeker als dergelijke vooroordelen verborgen blijven, kunnen ze tot kostbare vergissingen leiden, en hele organisaties op het verkeerde been zetten.<\/p>\n
Neem bijvoorbeeld kredietwaardigheidsbeoordelingen voor hypotheken. Het systeem zal cli\u00ebnten die trouw al 15 jaar rente en aflossing betaald hebben als \u2018low risk\u2019 bestempelen. Maar nu komt er een nieuwe regering die de bijbehorende belastingvoordelen afschaft. D\u00e1\u00e1r had de zelflerende kredietbeoordelaar geen rekening mee gehouden\u2026<\/p>\n
Het is logisch dat een systeem dat gedrag voorspelt en zich daarbij baseert op historische gegevens alleen maar oude vooroordelen zal bevestigen. Dat kan funest zijn voor strategische besluiten \u2013 de kunstmatige intelligentie houdt geen rekening met plotselinge veranderingen, denk aan disruptieve nieuwe technieken dan wel politieke bewegingen! \u00a0Maar denk ook aan de toenemende \u00a0maatschappelijke bubbelvorming door social media en de algoritmes die alleen niet-kwetsende \u00a0(en vooroordeel bevestigende) nieuwtjes en informatie doorlaten.<\/p>\n
Daarnaast moeten we nog steeds vaststellen, dat de kwaliteit van de beschikbare data heel vaak niet al te best is. Hoe iemands kredietwaardigheid te beoordelen, als deze onder 17 verschillende namen en 5 adressen gevonden wordt?<\/p>\n
Ook AI kan niet zonder een menselijke moderator, moeten we concluderen.<\/p>\n
V\u00e9\u00e9l meer over de gevaren van en oplossingen voor \u2018algorithmic bias\u2019 leest u via<\/p>\n