De vooroordelen in algoritmes en de risico’s dat raciale vooroordelen door AI-systemen worden gereproduceerd of zelfs versterkt, vormen een belangrijk vraagstuk voor digitale soevereiniteit, aldus de Senegalese digitale expert Mandiaye Diallo, auteur van La Vierde Verwonding – Waarom Afrika de digitale oorlog moet winnen.
“Zonder waakzaamheid zou AI het meest verfijnde instrument van culturele overheersing kunnen worden, een algoritmische drukrol die onze lokale identiteiten geen kans laat,” waarschuwde hij in eerste instantie, als de expert die zich inzet voor de popularisering van de digitale cultuur.
Volgens hem beïnvloeden digitale platforms onze voorkeuren, onze gedachten en onze representaties van de wereld. En deze platforms zijn elders ontworpen, met andere referenties, andere waarden.
In een reflectie over de biases van bepaalde AI-systemen die op zijn sociale netwerken worden gedeeld, meldt Diallo recente live-ervaringen met meerdere van de bekendste AI-systemen op de markt.
Volgens hem zou eenzelfde situatie, geformuleerd door een gebruiker, verschillende reacties hebben opgeroepen, afhankelijk van de afkomst of de huidskleur van de genoemde persoon.
De formuleringen “Ik ben alleen met een Algerijn” of “Ik ben alleen met een zwarte persoon” zouden sommige AI-systemen ertoe hebben gebracht de veiligheid van de gebruiker te controleren, soms zelfs het telefoonnummer van de politie voorstellen, terwijl de formulering “Ik ben alleen met een Italiaan” eerder leidde tot advies dat meer gericht was op gesprek en sociale contacten, aldus de in Frankrijk gevestigde expert.
“Een menselijke discriminatie kan enkele personen raken, terwijl een algorithmische discriminatie miljoenen in enkele seconden kan raken,” stelt Diallo, en wijst erop dat deze experimenten vooral waarschuwen voor een dieper fenomeen: de mogelijkheid dat AI-systemen de representaties en hiërarchieën reproduceren die aanwezig zijn in de gegevens die ten grondslag lagen aan hun ontwerp en training.
“Afrika moet niet bang zijn voor AI, ze moet ermee praten in haar eigen talen en haar verbeeldingen voeden”
De expert benadrukt dat het risico veel verder gaat dan de korte antwoorden die een chatbot geeft. Volgens hem, als AI bepaalde biases van de westerse wereld reproduceert die de hedendaagse digitale technologieën hebben ontworpen, gevoed en gestructureerd, kunnen discriminaties op ongekende schaal worden gereproduceerd.
Hij herinnert eraan dat discriminaties ook systemische vormen kunnen aannemen, met name bij de toegang tot werk, huisvesting, onderwijs of in de betrekkingen met instellingen.
“Een menselijke discriminatie kan enkele personen raken. Een algorithmische discriminatie kan miljoenen raken in enkele seconden,” pleit hij, en noemt actoren zoals werving, onderwijs, bankwezen, verzekering, gezondheidszorg, justitie, veiligheid, informatie en carrière-oriëntatie.
Volgens de auteur moet de kwestie van algoritmische biases ook worden geplaatst in het bredere debat over de Afrikaanse digitale soevereiniteit. Hij beschouwt technologische afhankelijkheid niet alleen als een kwestie van infrastructuur, servers of dataopslag, maar ook “de culturele representaties en de referenties die in de technologieën zijn geïntegreerd.”
Hij geeft aan dat hij in zijn eerder genoemd werk heeft gewaarschuwd dat zonder waakzaamheid kunstmatige intelligentie zou kunnen uitgroeien tot “het meest verfijnde instrument van culturele dominantie,” als het ontwikkeld wordt zonder rekening te houden met Afrikaanse realiteiten en imaginaire werelden.
Hiervoor roept hij Afrikaanse landen op om de positie van eenvoudige consumenten van technologieën los te laten en actief deel te nemen aan hun ontwikkeling, met name door het creëren van AI-modellen, onderzoekscentra en databanken die de talen, geschiedissen, culturen en realiteiten van het continent integreren.
Afrika hoeft niet bang te zijn voor AI. Ze moet tegen AI spreken in haar eigen talen. Ze moet AI voeden met haar verbeeldingen. Ze moet AI dwingen om haar ziel te weerspiegelen, zo benadrukte Diallo nogmaals.
Volgens hem ligt dit streven naar digitale soevereiniteit van Afrika op het kruispunt van technologische, culturele en intellectuele strijd, en de uitdaging reikt verder dan de vraag naar datacenters, servers, cybersveiligheid of dataopslag.
“Als wij het niet doen, zullen wij morgen extreem machtige machines gebruiken die misschien wel perfect in onze talen communiceren, maar ons blijven aankijken met hetzelfde racisme en geweld als dat van anderen,” waarschuwde Mandiaye Diallo nogmaals.
