تم ارتكاب أول عملية احتيال من نوعها على أساس الذكاء الاصطناعي من قبل محتالين قاموا بتسجيل صوت الضحية ثم قاموا بتقليد صوتها لبدء الفصول اللاحقة من الجريمة.
بينما كانت الابنة بعيدة عن المنزل في رحلة تزلج ، ورد أن أمًا في الولايات المتحدة تلقت مكالمة من محتال انتحل شخصية ابنتها لادعاء أنه اختطفها ، وفقًا لـ “بزنس إنسايدر” وصحيفة ديلي ميل.
يدعي موقع Business Insider أن ديستيفانو سمعت رجلاً يدعي أنها ابنتها ويطالب بمليون دولار لإعادتها. عندما أشارت إلى أنها تفتقر إلى هذا المبلغ ، ورد أن الطلب انخفض إلى 50000 دولار.
قالت الأم جينيفر ديستيفانو ، وهي ترتعش من الخوف ، لمحطة الأخبار القريبة WKYT ، “لم أشك لثانية واحدة في أنها ابنتي. قالت ،” كان صوتها. ”
على الرغم من ذلك ، قال والد الفتاة إن ابنتهما كانت آمنة معه في ذلك الوقت ، وزُعم أن المحتالين استخدموا صوتًا تم توليفه بواسطة الذكاء الاصطناعي بدا تمامًا مثل الفتاة.
ويتيح النظام الذي طورته شركة «ElevenLabs» الناشئة للمستخدمين إنشاء مقاطع صوتية لتحويل النص إلى كلام يمكن استخدامه لمحتوى مثل مقاطع فيديو «يوتيوب» والكتب الصوتية، لكن المتصيدون الإلكترونيون سرعان ما بدأوا في استخدام التكنولوجيا لتقليد أصوات المشاهير بما في ذلك جو روغان وبن شابيرو وإيما واتسون.
من خلال ظهور التكنولوجيا ، حاول بعض الأفراد المخادعين خداع الناس من خلال تقليد أصوات أحبائهم. أفاد أحد الأشخاص لصحيفة واشنطن بوست أن شخصًا يتظاهر بأنه محامٍ قام بالاحتيال على والديه بمبلغ 21000 دولار من خلال الادعاء بأنه سُجن بسبب حادث سيارة مميت.
وفقًا للتقارير ، يستخدم المحتالون معلومات من حسابات الأهداف على وسائل التواصل الاجتماعي لإنشاء هذه الأصوات ، لكن ديستيفانو زعمت أن ابنتها ليس لديها ملفات تعريف وسائط اجتماعية يمكن الوصول إليها للجمهور وأن هناك مقابلات عامة من مدرستها تحتوي على عينة من صوتها.