إنها تختبر أداة جديدة لتحديد ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي.
Tl;dr
- أدوات OpenAI AI للكشف عن الصور
- دقة تبلغ حوالي 98% في الصور التي تم إنشاؤها بواسطة DALL-E 3
- انخفاض الأداء مع الصور المعدلة أو المنشأة بواسطة الذكاء الاصطناعي الآخر
- دليل على صعود الصور المولدة بواسطة الذكاء الاصطناعي في انتشار المعلومات المضللة
تحديد الصور المولدة بواسطة الذكاء الاصطناعي: صراع مستمر
نعتقد جميعًا أننا مؤهلون للتعرف على الصور التي تم إنشاؤها بواسطةالذكاء الاصطناعي. نصوص خلفية غريبة، وأخطاء جنونية تنتهك قوانين الفيزياء، وقبل كل شيء، الأيدي والأصابع المقدمة بشكل غريب. لكن،التكنولوجيا تتطور باستمرارولن يمر وقت طويل قبل أن نصبح غير قادرين على التمييز بين الحقيقي والمصطنع.
OpenAI، إحدى الشركات الرائدة في الصناعة، تحاول أخذ زمام المبادرة من خلال إنشاء مجموعة أدوات لاكتشاف الصور التي تم إنشاؤها بواسطة مولد DALL-E 3 الخاص بها، بينما تدعي الشركة أنها تستطيع ذلك"اكتشف بدقة 98% من الصور التي صممها DALL-3"ومع ذلك، هناك تحفظات كبيرة.
تمت مواجهة النتائج والمشاكل المختلطة
بادئ ذي بدء، يجب أن يتم إنشاء الصورة بواسطةDALL-Eوبالتأكيد ليس هو المولد الوحيد للصور.شبكة الإنترنت مليئة بهم. استنادًا إلى البيانات المقدمة من OpenAI، كان النظام قادرًا فقط على تصنيف 5-10% من الصور التي تنتجها نماذج الذكاء الاصطناعي الأخرى بشكل صحيح.
بالإضافة إلى ذلك، يواجه النظام صعوبات إذا تم تعديل الصورة بأي شكل من الأشكال. على الرغم من أن معدل النجاح بالنسبة للتعديلات البسيطة مثل تنوعات الاقتصاص والضغط والتشبع يظل مقبولاً عند حوالي 95-97%، إلا أن تعديل الصبغة يخفض هذا المعدل إلى 82%.
بصيص أمل للكشف عن الصور المعدلة؟
على الجانب السلبي، تواجه مجموعة الأدوات صعوبات عندما تخضع الصور لتغييرات أكبر. حتى أن OpenAI اختارت عدم نشر معدل النجاح في هذه الحالات، موضحة ذلك ببساطة"التغييرات الأخرى قد تقلل من الأداء".
ومع ذلك، فهذه مشكلة حقيقية أثناء الانتخابات حيث يتم في كثير من الأحيان تعديل الصور التي ينشئها الذكاء الاصطناعي لاحقًا لإثارة ردود فعل أقوى. على أية حال، تواصل OpenAI العمل على تحسين أدوات الكشف الخاصة بها وتظل شفافة بشأن حدود التكنولوجيا الخاصة بها.
الخلاصة
هل يعجبك المحتوى الخاص بنا؟
احصل على أحدث منشوراتنا كل يوم مجانًا ومباشرة في صندوق الوارد الخاص بك