ومع ذلك، تدرك شركة OpenAI أن هذا ليس حلاً معجزة.
Tl;dr
- يستخدم المحتالون الذكاء الاصطناعي التوليدي للاحتيال على الأموال.
- يتضمن OpenAI الآن بيانات تعريف المصدر في الصور التي تم إنشاؤها.
- يعمل الفحص فقط عندما تكون بيانات التعريف سليمة.
- جوجليحتوي DeepMind على SynthID لوضع علامة على الصور والتسجيلات الصوتية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.
يستخدم المحتالون الذكاء الاصطناعي التوليدي
في العصر الذي يستخدم فيه المحتالونالذكاء الاصطناعي التوليديللاحتيال على الأموال أو تشويه سمعة شخص ما، تعمل شركات التكنولوجيا على تطوير طرق لمساعدة المستخدمين على التحقق من المحتوى - بدءًا من الصور الثابتة.
كما تنبأت استراتيجية التضليل لعام 2024، تقوم OpenAI الآن بدمج البيانات الوصفية للمصدر في الصور التي تم إنشاؤها باستخدامChatGPTعلى شبكة الإنترنت وDALL-E 3 API. سيتلقى نظرائهم المحمول نفس التحديث بحلول 12 فبراير.
بروتوكول C2PA في الممارسة العملية
البروتوكول المعتمد هو المعيار المفتوح C2PA (تحالف مصدر المحتوى والأصالة) وعندما يتم تحميل مثل هذه الصورة في أداة التحقق من بيانات اعتماد المحتوى، ستتمكن من تتبع نسب مصدرها.
ومع ذلك، على الرغم من تقنية التشفير المتطورة وراء معيار C2PA، فإن طريقة التحقق هذه لا تعمل إلا عندما تكون البيانات الوصفية سليمة. على سبيل المثال، تكون الأداة عديمة الفائدة إذا قمت بتحميل صورة تم إنشاؤها بواسطة الذكاء الاصطناعي بدون بياناتها الوصفية، كما هو الحال مع أي لقطة شاشة أو صورة تم تحميلها علىالشبكات الاجتماعية.
مبادرات أخرى لإحباط المحتوى الكاذب
في حين أن الجهود الأخيرة لOpenAIلإحباط المحتوى المزيف الذي يقتصر حاليًا على الصور الثابتة، يمتلك Google DeepMind بالفعل SynthID لوضع علامة رقمية على كل من الصور والصوت الناتج عن الذكاء الاصطناعي. وفي الوقت نفسه، تقوم Meta باختبار العلامات المائية غير المرئية عبر مولد الصور AI الخاص بها، والذي ربما يكون أقل عرضة للتلاعب.
الخلاصة
هل يعجبك المحتوى الخاص بنا؟
احصل على أحدث منشوراتنا كل يوم مجانًا ومباشرة في صندوق الوارد الخاص بك