De biases in algoritmen en de risico’s van reproductie, of zelfs de versterking van raciale vooroordelen door systemen van kunstmatige intelligentie vormen een cruciaal vraagstuk voor digitale soevereiniteit, zo benadrukt de Senegalese digitale expert Mandiaye Diallo, auteur van De Vierde Verwonding – Waarom Afrika de digitale oorlog moet winnen.
“Zonder waakzaamheid zou AI het meest verfijnde instrument van culturele overheersing kunnen worden, een algoritmische druk die onze lokale identiteiten geen kans zou geven,” waarschuwde de expert die zich inzet voor de popularisering van de digitale cultuur.
Volgens hem beïnvloeden de digitale platforms onze smaak, onze gedachten en onze wereldbeelden. En deze platforms zijn elders ontworpen, met andere referenties, andere waarden.
In een reflectie over de biases van bepaalde gedeelde AI-systemen op zijn sociale netwerken beschrijft Diallo recente live‑experimenten met verschillende van de bekendste AI-systemen op de markt.
Volgens hem zou eenzelfde situatie gepresenteerd door een gebruiker verschillende antwoorden opleveren afhankelijk van de afkomst of huidskleur van de genoemde persoon.
De formuleringen “Ik ben alleen met een Algerijn” of “Ik ben alleen met een Zwarte” zouden er zo toe hebben geleid dat sommige AI’s de veiligheid van de gebruiker nagetrokken, soms zelfs voorgesteld werd het politie‑nummer te bellen, terwijl de formulering “Ik ben alleen met een Italiaan” meer advies opleverde dat gericht was op gesprek en socialisatie, aldus de in Frankrijk woonachtige expert.
“Een menselijke discriminatie kan enkele personen raken, terwijl een algoritmische discriminatie miljoenen in enkele seconden kan raken,” verduidelijkt Diallo, wijzend op het feit dat deze experimenten vooral waarschuwen voor een dieper fenomeen: de mogelijkheid dat AI de representaties en hiërarchieën die in de data zitten die aan hun ontwerp en training ten grondslag liggen, reproduceert.
“Afrika hoeft niet bang te zijn voor AI; zij moet er in haar talen mee spreken, haar verbeeldingen voeden.”
De expert benadrukt dat het risico verder gaat dan de korte antwoorden die een chatbot geeft. Volgens hem, als AI bepaalde biases uit de westerse wereld reproduceert die de hedendaagse digitale technologieën hebben ontworpen, gevoed en gestructureerd, kunnen de bestaande discriminaties op een ongekende schaal worden gereproduceerd.
Hij herinnert eraan dat discriminaties ook systemische vormen kunnen aannemen, met name bij toegang tot werk, huisvesting, onderwijs en in de relaties met instellingen.
“Een menselijke discriminatie kan enkele personen raken. Een algoritmische discriminatie kan miljoenen in enkele seconden raken,” pleit hij, met verwijzing naar sectoren zoals werving, onderwijs, bancaire sector, verzekeringen, gezondheidszorg, justitie, veiligheid, informatie en loopbaanbegeleiding.
Volgens de auteur moet de kwestie van algoritmische biases ook in het bredere debat over de digitale soevereiniteit van Afrika worden geplaatst. Hij ziet technologische afhankelijkheid niet alleen in termen van infrastructuur, servers of gegevensopslag, maar ook “de culturele representaties en de referenties die zijn ingebed in de technologieën.”
Hij meldt dat hij in zijn eerder genoemde werk waarschuwt: zonder waakzaamheid zou AI het “meest verfijnde instrument van culturele dominantie” kunnen worden, als het wordt ontwikkeld zonder rekening te houden met Afrikaanse realiteiten en imaginaire werelden.
Hij roept ook Afrikaanse landen op om van louter ICT-gebruikers te veranderen in deelnemers aan de ontwikkeling ervan, onder meer door het creëren van AI-modellen, onderzoekscentra en databases die talen, verhalen, culturen en realiteiten van het continent integreren.
Afrika hoeft niet bang te zijn voor AI. Zij moet er in haar talen mee spreken. Haar verbeeldingen voeden. Het dwingt AI haar ziel te weerspiegelen, zo benadrukte hij.
In dit perspectief ziet hij digitale soevereiniteit van Afrika verweven met de strijd op technologisch, cultureel en intellectueel gebied, en voegde hij daaraan toe dat de uitdaging verder gaat dan datacenters, servers, cyberbeveiliging of opslag van data.
“Als we het niet doen, zullen we morgen extreem krachtige machines hebben die misschien wel perfect onze talen spreken maar ons zullen blijven beschouwen door het racisme en het geweld van anderen,” waarschuwde Mandiaye Diallo nogmaals.
