وأورد موقع «بيزنس إنسايدر» أن أمّاً في الولايات المتحدة تلقّت مكالمة هاتفية من محتال قام باستنساخ صوت ابنتها للتظاهر بأنه خطفها، إذ قالت جينيفر ديستيفانو إنها تلقت مكالمة من رقم غير معروف، وعندما أجابت، سمعت صوت ابنتها البالغة من العمر 15 عاماً تبكي وتطلب النجدة، في وقت كانت الابنة خارج المدينة في رحلة تزلج وفق ديلي ميل.
وبحسب «بيزنس إنسايدر» سمعت ديستيفانو صوت رجل يقول إن لديه ابنتها ويريد مبلغ مليون دولار لإعادتها، وبعد أن قالت إنها لا تملك هذا المبلغ، تم تخفيضه إلى 50 ألف دولار.
وقالت الأم جينيفر ديستيفانو لمحطة WKYT التلفزيونية المحلية، وهي ترتعش من فرط الذعر، إنني «لم أشك ولو لثانية واحدة في أنها ابنتي.. كان صوتها بالفعل».
ورغم ذلك، قال والد الفتاة آنذاك إنّ ابنتهما كانت معه بأمان، وبحسب ما ورد، استخدم المحتالون صوتاً أنتجه الذكاء الاصطناعي مطابقاً لصوت الفتاة.
ويتيح النظام الذي طورته شركة «ElevenLabs» الناشئة للمستخدمين إنشاء مقاطع صوتية لتحويل النص إلى كلام يمكن استخدامه لمحتوى مثل مقاطع فيديو «يوتيوب» والكتب الصوتية، لكن المتصيدون الإلكترونيون سرعان ما بدأوا في استخدام التكنولوجيا لتقليد أصوات المشاهير بما في ذلك جو روغان وبن شابيرو وإيما واتسون.
وحاولت بعض الجهات الخبيثة استخدام التقنية للاحتيال على الناس من خلال محاكاة أصوات أقاربهم، وقال رجل لصحيفة «واشنطن بوست» إن شخصاً ادّعى أنه محامٍ قد خدع والديه بمبلغ 21000 دولار من خلال الادعاء بأنه سُجن لقتله شخصاً في حادث سيارة.
وأوضحت التقارير أن المحتالين ينتجون هذه الأصوات باستخدام تفاصيل من حسابات المستهدَفين على وسائل التواصل الاجتماعي، ولكن ديستيفانو أشارت إلى أن ابنتها ليس لديها أي حسابات عامة على وسائل التواصل الاجتماعي، وقالت إن هناك مقابلات عامة من مدرستها تتضمن عينة من صوتها.