Een nieuwe vorm van cryptocurrency-zwendel verspreidt zich op YouTube en sociale media, waarbij gebruik wordt gemaakt van geavanceerde kunstmatige intelligentie om zich voor te doen als slachtoffers en hen te bedriegen. Beveiligingsteams hebben moeite om gelijke tred te houden met de epidemie van deepfake crypto-zwendelvideo’s die zich richten op spraakmakende figuren zoals Michael Saylor van MicroStrategy.
Sleutelpunten
- Het beveiligingsteam van Michael Saylor verwijdert dagelijks ongeveer 80 nep-AI-gegenereerde YouTube-video's waarin hij reclame maakt voor oplichting met Bitcoin-weggeefacties
- De video's maken gebruik van deepfake-technologie om Saylor en andere cryptofiguren zoals Brad Garlinghouse na te bootsen om slachtoffers uit hun crypto te halen
- Er is een groeiende epidemie van deze deepfake crypto-zwendelvideo’s op YouTube en sociale media waarbij gebruik wordt gemaakt van geavanceerde AI
- Het detecteren en verwijderen van de video’s is erg moeilijk en vereist samenwerking tussen technologiebedrijven en het vergroten van het publieke bewustzijn
- AI-instrumenten kunnen ook door autoriteiten worden gebruikt om illegale deepfake-zwendelactiviteiten efficiënter op te sporen
Saylor waarschuwde onlangs zijn 3.2 miljoen volgers op X (voorheen Twitter) voor het alarmerende aantal nep-AI-gegenereerde video's op YouTube waarin hij ten onrechte afbeeldde dat hij beloofde het Bitcoin-bezit van mensen te verdubbelen. Hij onthulde dat zijn team ongeveer 80 van deze frauduleuze video’s per dag verwijdert, maar “de oplichters blijven er meer lanceren.” De deepfakes maken gebruik van geavanceerde technieken om het imago en de stem van Saylor te manipuleren, waardoor kijkers ertoe worden verleid crypto naar een oplichtingsadres te sturen.
⚠️Waarschuwing⚠️ Er is geen risicovrije manier om uw #bitcoin en @MicroStrategie geeft niet weg $ BTC voor degenen die een streepjescode scannen. Mijn team verwijdert ongeveer 80 nep-AI-gegenereerde @ YouTube video's elke dag, maar de oplichters blijven meer lanceren. Vertrouw niet, verifieer. pic.twitter.com/gqZkQW02Ji
- Michael Saylor⚡️ (@saylor) 13 januari 2024
Saylor staat niet alleen in deze strijd. Ripple-CEO Brad Garlinghouse heeft ook te maken gehad met een golf van deepfake-weggeefacties waarbij hij zich voordeed als hem om XRP van slachtoffers te stelen. Eerder in januari circuleerde een misleidende video met Solana-medeoprichter Anatoly Yakovenko op sociale media en YouTube. Volgens Austin Federa, hoofd Strategie bij de Solana Foundation, “is er de laatste tijd sprake van een substantiële toename van deepfakes en andere door AI gegenereerde inhoud.”
Het detecteren en verwijderen van deepfake-inhoud vormt een enorme uitdaging. De AI-algoritmen die worden gebruikt om nepvideo's te maken, ontwikkelen zich snel en produceren ongelooflijk realistische vervalsingen die traditionele tools voor inhoudsmoderatie moeilijk kunnen identificeren. Tot overmaat van ramp wordt de technische toegangsdrempel voor het genereren van deepfakes in de loop van de tijd lager, waardoor het voor oplichters gemakkelijker wordt om massaal nepvideo’s te verspreiden.
Hoewel de dreiging complex is, vereist de oplossing samenwerking op meerdere fronten. Technologiebedrijven en platforms moeten hun middelen bundelen om gespecialiseerde deepfake-detectiemogelijkheden rechtstreeks in hun netwerken en systemen in te bouwen. Tegelijkertijd onderzoeken de autoriteiten hoe AI het politie- en verwijderingsproces voor illegale deepfake-zwendel kan helpen versnellen. Net zo belangrijk is dat cryptofiguren en beveiligingsexperts dringend het bewustzijn moeten vergroten om het publiek voor te lichten over het opmerken en vermijden van pogingen tot misleiding.
Nu het aantal cryptofraude in 2024 al toeneemt, luidt de opkomst van AI-aangedreven deepfakes een gevaarlijke nieuwe fase in die klaar staat om zowel slimme als nietsvermoedende gebruikers te misleiden. De dreiging zal alleen maar ernstiger worden totdat de technologiewereld er tegenin gaat. Ter wille van de consumentenbescherming en fraudepreventie is het nu tijd voor actie.
Bron: https://blockonomi.com/saylor-sounds-alarm-microstrategy-ceo-battles-deepfake-youtube-epidemic/