Facebook gebruikt AI om terroristische accounts uit te wissen

Facebook heeft donderdag onthuld dat het nu kunstmatige intelligentie gebruikt om terroristische inhoud van groepen als ISIS en Al Qaida van het platform te houden.

'Ons standpunt is eenvoudig: er is geen plaats op Facebook voor terrorisme', schreven Monika Bickert, directeur van het wereldwijde beleidsbeheer van Facebook en Brian Fishman, beleidsmanager terrorismebestrijding, in een blogpost.



Facebook wil terroristische inhoud vinden en verwijderen 'onmiddellijk, voordat mensen in onze gemeenschap het hebben gezien', zeiden ze. Het maakt gebruik van AI, in samenwerking met menselijke expertise, om dat doel te bereiken. Om te beginnen gebruikt Facebook technologie voor het matchen van afbeeldingen om te voorkomen dat mensen foto's of video's van bekende terroristen plaatsen. Het test ook een 'taalbegrip'-algoritme dat op tekst gebaseerde terroristische propaganda kan identificeren.

AI wordt ook gebruikt om wat het 'terroristische clusters' noemt, te identificeren en te verwijderen.

'Als we pagina's, groepen, berichten of profielen identificeren die terrorisme ondersteunen, gebruiken we ook algoritmen om 'uit te waaieren' om gerelateerd materiaal te identificeren', leggen Bickert en Fishman uit. De algoritmen gebruiken signalen zoals of een account bevriend is met veel anderen die zijn uitgeschakeld wegens terrorisme, of dat het 'dezelfde kenmerken deelt als een uitgeschakeld account'.

Bickert en Fishman zeiden dat de AI van Facebook een stuk sneller is geworden in het detecteren van nepaccounts die zijn gemaakt door recidivisten. Hierdoor is het bedrijf 'in staat geweest om de periode dat accounts van recidivisten van terroristen op Facebook staan ​​drastisch te verkorten', zeiden ze.

Verwant

  • Twitter: We vechten tegen terrorismeTwitter: we bestrijden terrorisme

Facebook werkt er ook aan om deze technologieën naar zijn andere platforms te brengen, waaronder WhatsApp en Instagram.

'Dit werk is nooit af omdat het vijandig is, en de terroristen ontwikkelen ook voortdurend hun methoden', schreven Bickert en Fishman. 'We zijn voortdurend op zoek naar nieuwe manieren waarop terroristische actoren onze systemen proberen te omzeilen - en we passen onze tactieken dienovereenkomstig aan.'

Facebook richt zich momenteel op ISIS, Al Qaida en hun gelieerde ondernemingen, hoewel het ernaar streeft deze inspanningen om in de toekomst andere terroristische organisaties te blokkeren, uit te breiden.

Aanbevolen verhalen

Industrie-inzichten: AI en de toekomst van e-commerce

We gaan zitten met IBM Watson Commerce-exec Kris Hamrick om de toekomst van kunstmatige intelligentie (AI) en cognitieve computing in e-commerce te bespreken.

Onderzoekers gebruiken VR om tandartsbezoeken minder pijnlijk te maken

Tandheelkundige patiënten rapporteerden minder pijn bij het gebruik van VR, zolang ze natuurtaferelen bekeken.

Start een inzamelingsactie via Facebook Safety Check

De functie voor persoonlijke inzamelingsacties debuteerde voor het eerst in maart, maar Facebook maakt deze nu toegankelijk vanuit Safety Check.

Microsoft rolt ruimtebesparende Files on Demand uit naar Windows Insiders

Werk aan al uw OneDrive-bestanden zonder ze lokaal op te slaan.

10 eenvoudige stappen om gegevens van uw Android-apparaten bij te houden, te vergrendelen en te wissen

Als uw Android-telefoon of -tablet zoekraakt of wordt gestolen, volgt u deze stappen om Android-apparaatbeheer nu in te stellen.