Amb l'arribada de la intel·ligència artificial (IA), hem vist una revolució en molts sectors, des de la sanitat fins a l'entreteniment. Tot i això, aquest salt tecnològic no ha estat del tot positiu. La clonació de veu, fruit de la IA, s'ha convertit en una eina perquè els estafadors enganyin persones innocents. Recentment, agències com la Federal Trade Commission (FTC) han detectat un creixement alarmant de les estafes per clonació de veu amb IA.
La clonació de veu és real?
Sí, la clonació de veu és real i possible gràcies a IA avançada. Aquesta tecnologia permet crear rèpliques gairebé perfectes de qualsevol veu a partir d’una mostra sonora breu. Empreses com OpenAI, amb models com ChatGPT, lideren aquesta tecnologia generativa d’IA, que fa possibles aquestes aplicacions.
Què utilitzen per clonar veus?
Diversos programes i aplicacions d'IA es fan servir per clonar veus. Aquí tens els 8 principals:
- Lyrebird: Ara integrat a Descript, ofereix una eina fàcil per clonar veus.
- Resemble AI: Coneguda per generar veus d’alta qualitat per a empreses.
- iSpeech: Popular per la síntesi de veu realista en diversos idiomes.
- CereVoice Me: Ofereix veus digitals personalitzades per a persones amb discapacitat.
- Baidu Deep Voice: Pot clonar una veu amb pocs minuts d’àudio.
- VocaliD: Es dedica a crear veus digitals úniques per a marques o ús personal.
- Real-Time Voice Cloning Toolbox: Projecte de codi obert per clonar veus en temps real.
- Modulate: Permet personalitzar la veu en línia a temps real amb "voice skins".
Per a què serveix clonar veus?
Tot i que la clonació de veu es pot fer servir amb males intencions, també té aplicacions positives. Serveix per retornar la parla a qui l’ha perduda per una malaltia. Pot donar vida a personatges històrics o de ficció en pel·lícules o podcasts. Les empreses l’aprofiten per millorar chatbots d’atenció al client i crear experiències personalitzades.
Com funcionen les estafes de veu amb IA?
En aquestes estafes, els ciberdelinqüents usen IA per imitar la veu d’una persona de confiança—sigui un familiar o una figura pública com Elon Musk. Es pot utilitzar en trucades, bústies de veu o xarxes com TikTok per dur a terme l’engany. Per exemple, un avi pot rebre una trucada d’un suposat familiar demanant diners per un accident. També poden falsejar el número de telèfon per fer-lo semblar legítim i demanar targetes regal o criptomonedes.
Com s’utilitzen les estafes de clonació de veu?
Principalment, aquestes estafes serveixen per obtenir diners o informació sensible. Fa poc, Fox News va parlar d’un cas a Arizona on una dona va ser enganyada fent-li creure que havien segrestat el seu fill. Els estafadors van clonar la veu del fill i ella va transferir una gran quantitat de diners. També hi ha casos de robatori d’identitat, intents de phishing o difusió de falses informacions.
Com pots protegir-te de les estafes de veu?
Per protegir-te, mantén-te atent i informat. No comparteixis informació personal per telèfon, encara que la veu et sigui familiar. Desconfia de sol·licituds urgents de diners, especialment mitjançant targetes regal o criptomonedes. Acorda una paraula clau amb la família per autenticar trucades inesperades. Si sospites d'una estafa, denuncia-ho a la FTC a través del seu web (www.ftc.gov).
Què dificulta detectar una estafa de veu?
Detectar una estafa de veu és complicat: la IA millora la qualitat de clonació i la veu clonada gairebé no es distingeix de la real. Amb deepfakes, els ciberdelinqüents també poden crear vídeos molt convincents, fent l’engany encara més creïble.
Quina és la millor manera de protegir la teva veu?
Per protegir la teva veu, vigila on i com comparteixes enregistraments. Evita enviar notes de veu en xarxes socials insegures o respondre trucades desconegudes amb autenticació per veu. Mantingues privades les interaccions amb assistents de veu i no publiquis àudios en plataformes públiques sense una seguretat adequada.
Tot i les dificultats, empreses de ciberseguretat creen eines per detectar fraus de veu per IA. Les autoritats informen la ciutadania i s'està treballant en lleis contra aquestes amenaces. Amb prudència i avenços tecnològics, podem anar un pas per davant dels estafadors.
