Hur AI-röstbedrägerier och bluffsamtal fungerar

Brottslingar använder AI för att lura dig

Bluffsamtal är inget nytt fenomen. Brottslingar har använt telefonen som vapen för att lura offer långt innan internet var allmänt tillgängligt för nästan alla på planeten. Med ny teknik, som artificiell intelligens, har bedragare nya verktyg för att rikta in sig på en större grupp offer och göra sina attacker mer övertygande — och potentiellt mer lukrativa.

Mer specifikt kan brottslingar på nätet använda generativ artificiell intelligens (AI) för att fabricera övertygande samtal. Därför har generativ AI och så kallad AI-röstkloning gjort det svårare att identifiera bluffsamtal som falska. Och i takt med att AI-verktyg blir mer tillgängliga och lätta att använda kommer antalet AI-bedrägerier och andra liknande bedrägerier bara att bli vanligare.

En fördel med generativ AI för nätbrottslingar är att de kan skapa mer övertygande bluffsamtal i en aldrig tidigare skådad skala. Hittills har bedragare förlitat sig på generiska attacker som är lätta att identifiera som falska, som till exempel nätfiske-meddelanden där endast mottagarens namn har ändrats. Med AI kan bedragare generera unika bluffsamtal och meddelanden riktade mot en viss individ med en mycket mindre ansträngning.

AI-röstgenerering är ett växande näthot

Med hjälp av generativa AI-verktyg kan bedragare välja ett utdrag av någons röst och skapa ett verklighetstroget ljudklipp av vad de vill. Den AI-genererade rösten kan vara kusligt lik den verkliga personen, till exempel din familjemedlem. Med en känsla av brådska inblandad kanske offret för ett AI-bluffsamtal inte vet att de ska misstänka en bluff, även om de är bekanta med vanliga knep som används av bedragare.

Enligt US Federal Trade Commission (FTC)är bedrägerier, där bedragare kan ringa, sms:a eller mejla för att övertyga dig om att de är någon med makt, till exempel en myndighet, bland de vanligaste och tar den största delen av de totala offren på 8,8 miljarder dollar som förlorades till bedragare år 2022. I och med att AI tar över kommer denna siffra sannolikt att bli mycket högre. Även 2022 års siffror för konsumentförluster visade en ökning med mer än 30 % jämfört med föregående år.

Att fabricera någons röst kan göras med bara några sekunders utdrag, och det finns ingen brist på material på nätet. Till exempel är sociala medier fulla av videor av människor som pratar, vilket gör det till en skattkammare av material att utnyttja för bedragare. Nätbrottslingar kan också använda röstmeddelanden eller ringa dig direkt för att få ett smakprov på din röst.

Vanliga AI-bedrägerier

Röstkloningsbedrägerier är bara ett sätt för brottslingar att använda artificiell intelligens för att lura sina offer. Förutom nya former av online-bedrägerier kan AI användas för att överbelasta mer traditionella bedrägerier, såsom nätfiske och identitetsstöld. Några vanliga typer av AI-bedrägerier att hålla utkik efter är:

• Deepfakes. AI kan replikera mer än bara text och ljud. Deepfakes är AI-genererade videor och bilder av riktiga människor med sina ansikten klistrade på någon annans kropp. Deepfakes används för att fabricera explicita videor av personer som inte ger sitt samtycke, sprida desinformation och lura intet ont anande offer.
• Chatbot-bedrägerier. Med AI kan nätbrottslingar skapa chatbottar som interagerar med användaren för att lura dem. Att chatta med dessa falska människor kan kännas autentiskt, även om de i själva verket försöker stjäla din identitet eller lura dig på pengar.
• Social engineering. Mer traditionell social engineering syftar till att få dig att göra något som äventyrar dina enheter för skadlig kod eller utsätter din personliga information för risker. AI-drivna social engineering-attacker kan framstå som mer övertygande och är lättare att genomföra i större skala.

Hur du identifierar och undviker AI-bedrägerier

Du behöver inte ha ett stort bankkonto för att bli lurad på internet. Alla är frestande offer för brott på nätet, oavsett om det handlar om hackning, identitetsstöld, spridning av malware eller bedrägerier genom AI-bluffsamtal. Följ dessa råd för att undvika att bli lurad med AI-bluffsamtal eller lurad på något annat sätt:

• Bekräfta uppringarens identitet. De flesta bedrägerier involverar identitetsstöld, men AI-bluffsamtal gör det lättare att bli lurad. Ett verklighetstroget ljud från din älskade i kombination med en känsla av brådska kan få dig att agera slarvigt, så dubbelkolla att den som ringer är den de utger sig för att vara.
• Genom att rapportera bedrägerier, inklusive phishing-e‑post, bedrägliga SMS-meddelanden eller AI-röstbedrägerier, kan andra undvika att falla för nätbrottslingars knep. Bedragare utger sig ofta för att vara betrodda enheter eller myndigheter, till exempel banker, polisen eller leveranstjänster.
• Använd tvåfaktorsautentisering för att skydda dina konton. Med 2FA aktiverat blir det svårare för nätbrottslingar att komma åt ditt konto, även om de lyckas stjäla ditt lösenord. Även med 2FA, var noga med att använda starka lösenord.
• Bekanta dig med AI-verktyg som ChatGPT. När du väl är medveten om möjligheterna med generativ AI vet du att du ska vara mer misstänksam mot även legitima meddelanden och andra potentiella bedrägerier.
• Tänk efter innan du agerar. Du kommer bara att möta konsekvenserna av AI-röstbedrägerier och vishing om du agerar enligt bedragarnas önskemål. Även om rösten låter som den person du känner, verifiera uppringarens identitet genom att till exempel ringa deras telefonnummer.
• Ge inte AI någon personlig eller konfidentiell information, inte ens medvetet. Det har förekommit fall där användares information har äventyrats för att de berättat något konfidentiellt för ett AI-chattverktyg.

Även om AI-tekniken som används för bedrägerier och telefonbedrägerier blir mer nyanserad och tekniskt avancerad, så blir även verktygen för att bekämpa den skadliga användningen av AI det. Förutom att vara försiktig med AI-bedrägerier på internet kan du skydda dina enheter mot skadlig kod med prisbelönta antivirusprogram, till exempel F‑Secure Total.