Bedragare låtsades vara Lastpass VD med AI

Det var ju bara en tidsfråga.

Frågan är var bedragarna fått tag i din chefs röst?

Ja, ja. Man, höppes att fölke på seka är nöge vaken + uppdatern. M.m. etc... hehehe...

Har för mig att jag såg något på svt nyheter för någon vecka sen. Behöver knappt minut för att lära sig rösten. Så ta fram videos på nätet och träna ai tills den liknar. Sedan försämrar man ljudet för att simulera telefonsamtal .

Det är möjligt att sätta upp en fake webcam idag. Med tanke på hur lönsamt det är med telefonbedrägerier komme scammers vilja utnyttja funktionen. Det är kanske det som skrämmer mig mest inom AI-utvecklingen.

Facebook är redan fylld med många AI-genererade bilder som får stor spridning snabbt för folk ser dom som trovärdiga.

Jag tror att det är väldigt troligt att detta kommer att bli ett stort problem i framtiden.

Det är bra att börja sätta upp handlingsplaner både inom företag och institutioner men även statligt i form av information för att skydda oss från att bli lurade.

Microsoft har introducerat VASA: ett ramverk för att generera talande ansikten i realtid. Exemplen nedan visar personer som inte existerar. De talande ansiktena har skapats utifrån en enda bild och ett enda ljudklipp.

Inte perfekta men med tanke att dom är gjorda av en stillbild är det imponerande.

https://swedroid.se/microsoft-vasa-genererar-talande-ansikten-i-realtid/

Din länk funkar inte. Du kan redan idag generera live webcam med någon annans ansikte.

Fixat

Grejen här var väl att det räckte med en stillbild för att generera en video.

Det är möjligt att byta ett ansikte (bild) till vilken ansikte som helst i en video. Beroende på hårdvara kan det vara tidskrävande. Hur ansiktet rör sig i bilden påverkar trovärdigheten. Till exempel kan det vara mer trovärdigt med munrörelser, prat och leende framför en ganska orörligt ansikte, tex framför en kamera. Hastiga rörelser ger sämre resultat.

Min hårdvara räcker inte till att testa webcam funktionen eftersom den är väldigt krävande och kraschar bara efter några frames. Tekniken jag testat är ganska ny.

Röst generering funkar också vad jag kunnat se. Vill man låta som Celine Dione finns verktygen men har inte bekantat mig lika mycket i det området då jag inte sjunger (fast man ska inte kunna behöva sjunga).