De AI van Google krijgt menselijke hulp om aanstootgevende zoekresultaten te vermijden

google-and-039;s-ai-krijgt-menselijke-hulp-om-aanstootgevende-zoekresultaten te vermijden foto 1 Bloomberg via Getty Images

Google doet een nieuwe poging om aanstootgevende zoekresultaten te verwijderen, zoals die van de Amerikaanse neonazi-site Stormfront als reactie op vragen over de Holocaust. Zoals Search Engine Land opmerkte, heeft de site zijn gids herzien over het beoordelen van de kwaliteit van zoekresultaten voor ongeveer 10.000 van zijn 'kwaliteitsbeoordelaars'. Dat omvat een nieuwe 'verontrustende-aanstootgevende' inhoudsvlag voor de bevordering van geweld of haat tegen minderheden en andere groepen, raciale inhoud, grafisch geweld en mensenhandel.

Bij een zoekopdracht naar 'holocaustgeschiedenis' bijvoorbeeld, instrueert Google beoordelaars hoe ze met twee verschillende resultaten moeten omgaan (zie hieronder). De eerste toont een bericht van de racistische site Stormfront over Holocaust-ontkenning, iets dat eigenlijk een misdaad is in meer dan 20 landen. Google vertelt beoordelaars dat ze dat moeten markeren met de vlag 'Verontrustend-offensief' vanwege de directe relatie tussen Holocaust-ontkenning en antisemitisme.



google-and-039;s-ai-krijgt-menselijke-hulp-om-aanstootgevende-zoekresultaten te vermijden foto 2

Google zegt echter dat het tweede voorbeeld van The History Channel de vlag 'Verontrustend-offensief' niet vereist. Ook al is het duidelijk een verontrustend onderwerp, 'dit resultaat is een feitelijk nauwkeurige bron van historische informatie' die, in tegenstelling tot Stormfront, 'niet bestaat om haat of geweld tegen een groep mensen te promoten', stelt het document.

Zodra de beoordelaars een resultaat markeren, gebeurt er niets onmiddellijk. In plaats daarvan worden ze gebruikt door het coderingsteam van Google en, op hun beurt, de AI-algoritmen, om de zoekmachine in het algemeen te verbeteren. Als dat allemaal eenmaal begint, zal iemand die op zoek is naar geschiedenis over de Holocaust minder snel een ontkenningssite tegenkomen, als alles volgens plan verloopt. Vastberaden zoekers zullen dergelijke resultaten echter nog steeds vinden als ze deze specifiek opzoeken door een site een naam te geven, benadrukt Google.

Het bedrijf heeft de nieuwe richtlijnen gebruikt bij geselecteerde beoordelaars en eind vorig jaar zijn algoritme bijgewerkt. Als u nu zoekt met een zoekopdracht als 'is de holocaust gebeurd', levert Stormfront niet langer het hoogste resultaat op, maar worden pagina's van het United States Holocaust Museum weergegeven. Andere zoekopdrachten leveren nog steeds twijfelachtige resultaten op, maar Google vertelde Search Engine Land dat het tot nu toe 'tevreden' is met het werk van de beoordelaars. 'We zullen zien hoe dit uitpakt', zegt Google-ingenieur Paul Haahr. 'We leren gaandeweg.'

Aanbevolen verhalen

DeepMind AI leert eerdere kennis te 'onthouden'

Het zou een stap kunnen zijn in de richting van echt hersenachtig computergebruik.

Netflix helpt de laatste film van Orson Welles af te maken

'The Other Side of the Wind' krijgt dankzij internet een tweede kans.

Japan krijgt een nepvriendenservice

Heb je geen vrienden, maar wil je wel een foto waarop iedereen te zien is? Family Romance heeft een dienst voor u.

Baidu's Deep Voice kan snel realistische menselijke spraak synthetiseren

Het tekst-naar-spraaksysteem kan ook de emoties veranderen die de woorden overbrengen.