أداة استنساخ الصوت بتقنية الذكاء الاصطناعي ElevenLabs يتم إساءة استخدامها بالفعل. وتدرس الشركة الآن كيفية منع هذا الانتهاك.
قبل أيام قليلة، بدأت الشركة الناشئة المتخصصة فيالذكاء الاصطناعيصوتيأحد عشر مختبرًاأطلقت نسخة تجريبية من نظامها الأساسي تتيح للمستخدمين إنشاء أصوات اصطناعية جديدة تمامًا لتحويل النص إلى كلام أو لاستنساخ صوت شخص ما. لسوء الحظ، استغرق الأمر بضعة أيام فقطإنترنتيبدأ لاستخدام هذه الأداة بشكل ضار. وكشفت الشركة علىتغريدلاحظت "عددًا متزايدًا من حالات إساءة استخدام استنساخ الصوت" وتدرس طرقًا لإدارة المشكلة من خلال "تنفيذ ضمانات إضافية".
أداة استنساخ الصوت بالذكاء الاصطناعي ElevenLabs يُساء استخدامها بالفعل
على الرغم من أن ElevenLabs لم توضح ما تعنيه بـ "حالات إساءة الاستخدام"،اللوحة الأمعثرت على منشورات على 4chan تحتوي على مقاطع صوتية تتميز بأصوات تم إنشاؤها تشبه إلى حد كبير المشاهير الذين يقرؤون أو يقولون شيئًا مشكوكًا فيه للغاية. أحدهم، على سبيل المثال، يقدم صوتًا يشبه صوتإيما واتسونمن سيقرأ مقتطفًا منمعركتي. قام المستخدمون أيضًا بنشر مقاطع تحتوي على ملاحظات معادية للمثليين أو معادية للمتحولين جنسيًا أو عنيفة أو عنصرية. لا أحد يعرف ما إذا كانت كل هذه المقاطع تستخدم بالفعل تقنية ElevenLabs، ولكن منشورًا واحدًا يحتوي على مجموعة كبيرة من الملفات الصوتية على 4chan يتضمن رابطًا إلى النظام الأساسي للشركة الناشئة.
ربما لا يكون ظهور الصوت "المزيف العميق" مفاجئًا، على أية حال، لدرجة أننا تمكنا قبل بضع سنوات من ملاحظة ظاهرة مماثلة. أدى التقدم في الذكاء الاصطناعي والتعلم الآلي إلى زيادة في مقاطع الفيديوcom.deepfake، وعلى وجه الخصوص التزييف العميق في المواد الإباحية، مع تعديل المحتوى الإباحي الموجود ليظهر وجوه المشاهير. ونعم، استخدم البعض وجه إيما واتسون في هذا النوع من مقاطع الفيديو.
تقوم ElevenLabs حاليًا بجمع التعليقات من المستخدمين والخبراء حول كيفية منع المستخدمين من إساءة استخدام هذه التكنولوجيا. حاليًا، هناك حديث عن إضافة المزيد من الطبقات في التحقق من الحساب لتمكين الاستنساخ الصوتي، مثل جعل إدخال طريقة الدفع أو بطاقة الهوية إلزاميًا. وتدرس الشركة أيضًا إمكانية التحقق من ملكية حقوق الطبع والنشر للصوت الذي يرغب المستخدم في استنساخه، مثل جعله يرسل عينة مع نص مقروء. وأخيرًا، تدرس الشركة الناشئة سحب أداة Voice Lab الخاصة بها من السوق والعمل فقط من خلال الطلبات التي يمكنها التحقق منها يدويًا. يتبع!
عطلة نهاية أسبوع مجنونة - شكرًا للجميع على تجربة نظامنا التجريبي. بينما نرى أن تقنيتنا يتم تطبيقها بشكل كبير على الاستخدام الإيجابي، فإننا نشهد أيضًا عددًا متزايدًا من حالات إساءة استخدام استنساخ الصوت. نريد التواصل مع مجتمع تويتر للحصول على أفكار وتعليقات!
— إليفن لابس (@elevenlabsio)30 يناير 2023
الخلاصة
هل يعجبك المحتوى الخاص بنا؟
احصل على أحدث منشوراتنا كل يوم مجانًا ومباشرة في صندوق الوارد الخاص بك