Gebeurtenissen in de echte wereld zorgen voor een toename van online haatzaaiende uitlatingen, studieresultaten

Topline

Gebeurtenissen uit de echte wereld, zoals verkiezingen en protesten, kunnen leiden tot pieken in online haatzaaiende uitlatingen op zowel reguliere als marginale platforms. studie gepubliceerd op woensdag in het tijdschrift PLOS ONE gevonden, met haatberichten die de kop opsteken, terwijl veel sociale-mediaplatforms proberen hard op te treden.

Belangrijkste feiten

Met behulp van machine-learning-analyse - een manier om gegevens te analyseren die modelbouw automatiseert - keken onderzoekers naar zeven soorten online haatspraak in 59 miljoen berichten door gebruikers van 1,150 online haatgemeenschappen, online forums waarin haatspraak het meest waarschijnlijk wordt gebruikt, ook op sites als Facebook, Instagram, 4Chan en Telegram.

Het totale aantal berichten inclusief haatdragende taal in een zevendaags voortschrijdend gemiddelde vertoonde een stijgende lijn in de loop van het onderzoek, dat liep van juni 2019 tot december 2020, en steeg met 67% van 60,000 naar 100,000 dagelijkse berichten.

Soms groeide de haatzaaiende taal van gebruikers van sociale media uit tot groepen die niet betrokken waren bij de gebeurtenissen in de echte wereld van die tijd.

Onder de gevallen die onderzoekers opmerkten, was een toename van religieuze haatzaaiende uitlatingen en antisemitisme na de Amerikaanse moord op de Iraanse generaal Qasem Soleimani begin 2020, en een toename van religieuze en genderhaatuitingen na de Amerikaanse verkiezingen van november 2020, waarbij Kamala Harris werd verkozen tot de eerste vrouwelijke vice-president.

Ondanks de inspanningen van individuele platforms om haatzaaiende uitlatingen te verwijderen, bleef de online haatzaaiing volgens onderzoekers aanhouden.

Onderzoekers wezen op media-aandacht als een sleutelfactor bij het genereren van aan haat gerelateerde berichten: er was bijvoorbeeld weinig media-aandacht toen Breonna Taylor voor het eerst door de politie werd vermoord, en dus vonden onderzoekers minimale online haatzaaiende uitlatingen, maar toen George Floyd maanden later werd vermoord en de media-aandacht groeide, net als haatspraak.

Groot nummer

250%. Dat is hoeveel het aantal racistische haatzaaiende uitlatingen toenam na de moord op George Floyd. Het was de grootste piek in haatspraak die onderzoekers tijdens de onderzoeksperiode vonden.

Belangrijke achtergrond

Haatdragende taal heeft sociale netwerken jarenlang gekweld: platforms zoals Facebook en Twitter beleid hebben dat haatdragende taal verbiedt en hebben beloofd aanstootgevende inhoud te verwijderen, maar dat heeft de verspreiding van deze berichten niet geëlimineerd. Eerder deze maand werden bijna twee dozijn door de VN benoemde onafhankelijke Mensenrechtenexperts drongen er op aan meer verantwoording van sociale mediaplatforms om de hoeveelheid online haatspraak te verminderen. En mensenrechtenexperts staan ​​niet alleen in hun wens dat socialemediabedrijven meer doen: A December USA Today-Suffolk University-enquête ontdekte dat 52% van de respondenten zei dat socialemediaplatforms hatelijke en onnauwkeurige inhoud moeten beperken, terwijl 38% vindt dat sites een open forum moeten zijn.

Tangens

Dagen nadat miljardair Elon Musk vorig jaar zijn deal sloot om Twitter te kopen en een versoepeling van het moderatiebeleid van de site beloofde, zag de site een "golf van haatdragend gedrag", volgens Yoel Roth, voormalig hoofd veiligheid en integriteit van Twitter. Roth tweette destijds dat het veiligheidsteam in een periode van drie dagen meer dan 1,500 accounts verwijderde wegens haatdragend gedrag. Musk heeft te maken gehad met scherpe kritiek van belangengroepen die beweren dat onder het leiderschap van Musk en met versoepeling van de regels voor spraak, het aantal haatzaaiende uitlatingen op Twitter dramatisch is toegenomen, hoewel Musk aangedrongen vertoningen op hatelijke tweets zijn afgenomen.

Verder lezen

Twitter-veiligheidshoofd geeft toe 'toename van haatdragend gedrag' omdat formulier naar verluidt de toegang tot moderatietools beperkt (Forbes)

Enkele bedenkingen bij een consistentievereiste voor beslissingen over het modereren van sociale media-inhoud. (Forbes)

Wat moeten beleidsmakers doen om een ​​betere moderatie van platforminhoud aan te moedigen? (Forbes)