Meta steunt nieuw platform om minderjarigen te helpen naakte, seksuele afbeeldingen van internet te vegen

THet National Center for Missing & Exploited Children heeft een platform gelanceerd, gefinancierd door Meta, om kinderen en tieners te helpen naakte of seksuele foto's en video's van zichzelf van sociale media te laten verwijderen.

De nieuwe dienst voor minderjarigen, genaamd Haal het neer, werd onthuld een jaar na de release van een soortgelijke tool voor volwassenen, bekend als StopNCII (afkorting van niet-consensuele intieme beelden). Vandaag werkt Take It Down alleen op vijf platforms die ermee hebben ingestemd om deel te nemen: Facebook en Instagram, eigendom van Meta, evenals Yubo, OnlyFans en Pornhub.

"We hebben dit systeem gemaakt omdat veel kinderen met deze wanhopige situaties worden geconfronteerd", zegt NCMEC's ​​president en CEO Michelle DeLaune. "We hopen dat kinderen zich bewust worden van deze dienst en dat ze een gevoel van opluchting voelen dat er hulpmiddelen zijn om de afbeeldingen te verwijderen."

Hoe sociale-mediabedrijven kinderen en tieners beschermen - en waar ze tekortschieten - is in het nieuwe congres naar voren gekomen als een tweeledig technisch beleidsthema, en een waar wetgevers de meeste kans hebben om wetgeving goed te keuren. Toch is er nog een lange weg te gaan voor voorstellen om waarborgen te creëren of te versterken, en omdat er geen wetten op handen zijn, blijft NCMEC fungeren als een brug tussen online bedrijven en wetshandhaving op het gebied van kinderveiligheid. In 2021 ontving de non-profitorganisatie bijna 30 miljoen tips uit de hele branche over schijnbare sextortion en materiaal met seksueel misbruik van kinderen op hun platforms. Een meerderheid werd gemeld door platforms die eigendom zijn van Meta.

Minderjarigen en ouders kunnen gebruiken NCMEC's ​​gratis, anonieme tool om expliciet materiaal van een minderjarige persoon te markeren dat online is of waarvan zij denken dat het zal worden verspreid. Zodra ze de gevoelige foto's of video's op hun apparaat hebben geselecteerd, genereert het platform het equivalent van een digitale vingerafdruk van die foto (een "hash" genoemd) die NCMEC vervolgens deelt met de deelnemende sociale-mediasites zodat ze kunnen proberen ze te vinden, beperken of verwijderen, en blijf controleren op die inhoud.

De betreffende foto's of video's verlaten met name het toestel niet en worden volgens NCMEC door niemand bekeken. (De hasj zorgt er ook voor dat slachtoffers zowel voor NCMEC als voor de sociale media-app niet identificeerbaar zijn, wat alleen aangeeft dat een afbeelding schadelijk is en moet worden verwijderd.) NCMEC zei dat er geen inbreuken op de hash-database bekend zijn die mogelijk de identiteit van een persoon kunnen onthullen .

Maar een van de grootste obstakels voor deze inspanning is de opkomst van end-to-end encryptie. "Wanneer technologiebedrijven end-to-end encryptie implementeren, zonder ingebouwde preventieve maatregelen om bekend materiaal met seksueel misbruik van kinderen op te sporen, is de impact op de veiligheid van kinderen verwoestend", zei DeLaune, de president van de NCMEC, tijdens een hoorzitting deze maand tegen de Senaatscommissie voor Justitie. . De olifant in de kamer is dat de financier en het meest prominente bedrijf dat betrokken is bij Take It Down, Meta, is op weg naar end-to-end encryptie op zowel Instagram als Messenger.

Hoe de twee organisaties dit kunnen verzoenen, is "de vraag van een miljoen dollar", vertelde NCMEC-vicepresident Gavin Portnoy Forbes, erop wijzend dat NCMEC nog steeds niet precies weet wat Meta's plannen zijn voor codering en welke beveiligingen er mogelijk zijn. (Meta zei dat er aan wordt gewerkt en dat verschillende coderingsfuncties worden getest op Instagram en Messenger.)

"We bouwen Take It Down voor de manier waarop internet en de [elektronische dienstverlener] zich vandaag bevinden", zei Portnoy. "Dat is echt een brug die we zullen moeten oversteken als we een beter begrip hebben van hoe [Meta's] end-to-end encryptie-omgeving eruit ziet - en of er een wereld is waar Take It Down kan werken."

Dat heeft Meta's hoofd veiligheid, Antigone Davis, verteld Forbes dat "encryptie ertoe zal leiden dat bepaalde afbeeldingen niet door ons worden geïdentificeerd", maar dat het een industriestandaard aan het worden is in messaging die van vitaal belang is voor de privacy en veiligheid van gebruikers. Het gebruik van hash-technologie en het ondersteunen van NCMEC bij projecten als deze zijn enkele manieren waarop Meta probeert "het probleem echt voor te zijn", zei ze. (Beide partijen weigerden te zeggen hoeveel geld Meta aan NCMEC heeft gegeven om Take It Down te bouwen.)

"Er is geen wondermiddel om deze problemen aan te pakken", zei Davis in een interview, waarbij hij Meta's aanpak omschreef als "veelzijdig". Naast het samenwerken aan dit nieuwe systeem dat gericht is op het tegengaan van sextortion en de niet-consensuele verspreiding van intieme afbeeldingen, staat Meta niet toe dat volwassen vreemden contact maken met minderjarigen via de berichtenfuncties, zei ze. Het gebruikt ook classificaties om te voorkomen dat accounts en inhoud van minderjarigen worden gepusht naar volwassen Meta-gebruikers die online verdacht gedrag hebben vertoond, voegde ze eraan toe.

"Ik hoop dat mensen die dergelijke beelden hebben gehad toen ze jong waren door wie dan ook - door een ouder die hen uitbuitte, door een andere volwassene die hen uitbuitte, door een ex-vriend of vriendin - dat ze geïnteresseerd zullen zijn om gebruik deze tool, 'zei Davis.

NCMEC zei dat het wat heeft gepitcht 200 andere elektronische dienstverleners die informatie hebben ingediend bij zijn "CyberTipline" over deelname aan het Take It Down-programma. Het valt nog te bezien wie er nog meer - naast het kleine handjevol socialemediaspelers dat er vandaag voor pleit - aan boord zal komen. Yubo van zijn kant zei dat het hoopt dat deze early adopters anderen ertoe zullen aanzetten om mee te doen.

"Er is meer nodig dan alleen overheidsingrijpen om risico's te beperken en problemen online op te lossen", zei Sacha Lazimi, CEO van Yubo, via e-mail. “Alle acteurs moeten hun rol spelen. … Samenwerking is de sleutel tot het vinden van oplossingen voor grote uitdagingen, dus we hopen dat meer platforms zich aansluiten bij het Take It Down-initiatief.”

MEER VAN FORBESHoe TikTok Live 'een stripclub vol met 15-jarigen' werdBy Alexandra S. LevineMEER VAN FORBESDeze TikTok-accounts verbergen materiaal over seksueel misbruik van kinderen in het volle zichtBy Alexandra S. LevineMEER VAN FORBESTikTok-moderators worden getraind met behulp van grafische afbeeldingen van seksueel misbruik van kinderenBy Alexandra S. Levine