Instagram, Pinterest Voorgestelde inhoud heeft de dood veroorzaakt

Algoritme dood: terwijl we op weg zijn naar een meeslepend leven in de Metaverse, klinken alarmen. Techbedrijven moeten hun algoritmen op orde krijgen, anders kan dit voor sommigen een riskante toekomst zijn.

Hoewel we nog niet bij Web3 zijn, zijn problemen met Web2 nog steeds ongelooflijk zorgwekkend. Terwijl algoritmen gemaakt door big tech goed kunnen zijn voor de samenleving, zoals degenen die misdaad van tevoren voorspellen, zijn er anderen die een totale ramp zijn.

Lijkschouwer Andrew Walker identificeerde de doodsoorzaak van de 14-jarige Molly Rose Russell als de daad van zelfbeschadiging. Hij zei dat dit werd veroorzaakt door depressie en de negatieve impact van online inhoud.

Wandelaar zei dat "het voor ons niet veilig zou zijn om zelfmoord als doodsoorzaak te erkennen."

Algoritme dood: Instagram en Pinterest

De expert zei dat Instagram en Pinterest algoritmen gebruikten die ongepaste inhoud selecteerden en met de studente deelden zonder dat ze om de informatie vroeg. Walker meldt: "Sommige inhoud romantiseerde de daden van zelfbeschadiging van jonge mensen, terwijl anderen isolatie bevorderden en het onmogelijk maakten om het probleem te bespreken met mensen die zouden kunnen helpen."

Volgens de Voogd, heeft Russell in 2,000 aan de vooravond van haar dood meer dan 2017 Instagram-berichten bewaard, leuk gevonden of gepost. Ze werden allemaal geassocieerd met zelfmoord, depressie of zelfbeschadiging. Het meisje bekeek ook 138 soortgelijke films. Onder hen waren afleveringen van de serie 13 redenen waarom voor mensen 15+ en 18+.

Een kinderpsychiater zei tijdens de hoorzitting dat hij na analyse van wat Russell kort voor haar dood had gezien, wekenlang niet goed kon slapen.

"10 depressiespelden die je misschien leuk vindt"

Onderzoekers vonden honderden foto's van zelfbeschadiging en zelfmoord op het Pinterest-account van het meisje. Het bleek ook dat het platform de studenten e-mails stuurde met aanbevelingen voor ongepaste inhoud. Sommigen van hen hadden koppen met de tekst: "10 depressiespelden die je misschien leuk vindt."

Het is waarschijnlijk dat het materiaal dat door Molly werd bekeken, die al aan een depressieve stoornis leed en kwetsbaar was voor ouderdomsblessures, een negatief effect op haar had. Het heeft waarschijnlijk ook meer dan minimaal bijgedragen aan de dood van het kind.

Meta- en Pinterest-functionarissen verontschuldigden zich en gaven toe dat Russell inhoud op de platforms tegenkwam die er niet zou moeten zijn. Een Meta-woordvoerder zei: "We willen dat Instagram een ​​positieve ervaring biedt voor iedereen, vooral tieners. We zullen het volledige rapport van de lijkschouwer nauwkeurig bekijken wanneer hij het aflevert.'

Pinterest heeft verklaard dat het het platform voortdurend verbetert en zich inzet om ervoor te zorgen dat veiligheid voor iedereen.

Andere gevallen

TikTok werd in mei aangeklaagd wegens vermeende "dodelijke aanbevelingen" van zijn algoritmen. In december 2021, Amazon's virtuele assistent Alexa stelde een fatale uitdaging voore aan een kind van 10 jaar.

Het is een dappere nieuwe wereld, maar ook een enge. Big tech kan niet zelfgenoegzaam zijn over de toekomstige rol die ze in deze kwestie hebben.

Heb je iets te zeggen over de dood van het algoritme of iets anders? Neem contact met ons op of discussieer mee in onze Telegram-kanaal. Je kunt ons ook pakken op Kruis aan Tok, Facebookof Twitter.

Disclaimer

Alle informatie op onze website wordt te goeder trouw en uitsluitend voor algemene informatiedoeleinden gepubliceerd. Elke actie die de lezer onderneemt naar aanleiding van de informatie op onze website, is strikt op eigen risico.