تريد Google علامة مائية رقمية غير مرئية للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. حل واعد، وليس معصومًا، لتحديد هذا المحتوى.
جوجليأخذ خطوة أخرى نحو قدر معين من الشفافية في المحتوى الذي ينشئه الذكاء الاصطناعي.أعلنت شركة جوجل DeepMind عن SynthID، أداة تعريف وعلامة مائية للفن التوليدي. توضح الشركة أن التقنية تتضمن علامة مائية رقمية، غير مرئية للعين البشرية، مباشرة في بكسلات الصورة. سيتم طرح SynthID إلى "عدد محدود" من العملاء الذين يستخدمون Imagen، وهو منشئ Google المتوفر في مجموعة أدوات الذكاء الاصطناعي السحابية.
أحد اهتمامات الفن التوليدي، بصرف النظر عن مضامينه الأخلاقية، هو قدرته على الإبداعالتزييف العميقمع كل العواقب التي قد تترتب على ذلك. وكان "إدراج علامة مائية على المحتوى الصوتي والمرئي للإشارة بشكل أكثر وضوحًا إلى أن المحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي" أحد الالتزامات الطوعية التي تعهدت بها شركات الذكاء الاصطناعي السبع في يوليو الماضي، بعد اجتماع في البيت الأبيض. جوجل هي أول هذه الشركات التي أطلقت مثل هذا النظام.
لم تخوض جوجل في الكثير من التفاصيل حول التنفيذ الفني لـ SynthID، لكنها تقول إنه لا يمكن إزالة العلامة المائية بسهولة عبر تقنيات التحرير البسيطة. كتبت الشركة في منشور على مدونة DeepMind: "إن إيجاد التوازن الصحيح بين عدم القدرة على الإدراك والقوة لمعالجة الصور أمر صعب". "لقد صممنا SynthID بحيث لا يتم المساس بجودة الصورة والسماح للعلامة المائية بالبقاء قابلة للاكتشاف، حتى بعد التعديلات مثل إضافة المرشحات وتغيير الألوان والمرور عبر خوارزميات الضغط المفقودة - غالبًا ما تستخدم لـ JPEG،" يوضح قائدا المشروع سفين جوال وPushmeet Kohli .
يقوم جزء التعريف في SynthID بتقييم الصورة على ثلاثة مستويات ثقة للعلامة المائية الرقمية: تم اكتشافها، ولم يتم اكتشافها، وربما تم اكتشافها. نظرًا لأن الأداة مضمنة في وحدات البكسل في الصورة، تقول Google إن نظامها يمكن أن يعمل جنبًا إلى جنب مع الأساليب المعتمدة على البيانات الوصفية، مثل Adobe لميزاتها التوليدية في Photoshop، وهي حاليًا في مرحلة تجريبية مفتوحة.
حل واعد، غير معصوم، لتحديد هذا المحتوى
يتضمن SynthID نموذجين للتعلم العميق: أحدهما لوضع العلامات المائية والآخر لتحديد الهوية. توضح جوجل أنه تم تدريب الاثنين على العديد من الصور، مما أدى إلى نموذج مدمج لتعلم الآلة. "تم تحسين النموذج المدمج بناءً على الأهداف، بما في ذلك تحديد محتوى العلامة المائية بشكل صحيح وتحسين عدم القدرة على الإدراك من خلال محاذاة العلامة المائية بصريًا مع المحتوى الأصلي،" كتب سفين جوال وبوشميت كوهلي.
تعترف Google بأنه ليس حلاً مثاليًا، مضيفة أنها ليست "محمية تمامًا من التلاعب الشديد بالصور"، ولكن العلامات المائية هي "نهج تقني واعد للسماح للأشخاص والمؤسسات بالعمل مع المحتوى الناتج عن الذكاء الاصطناعي بطريقة مسؤولة". » توضح الشركة أن الأداة يمكن أن تمتد إلى نماذج الذكاء الاصطناعي الأخرى، بما في ذلك تلك التي تولد النص (مثلChatGPT)، الفيديو والصوت.
في حين أن العلامات المائية يمكن أن تساعد بالفعل في مكافحة التزييف العميق، فمن السهل تخيل السباق مع المتسللين، حيث تحتاج الخدمات التي تعتمد SynthID إلى التحديث باستمرار. بالإضافة إلى ذلك، فإن طبيعة المصدر المفتوح لـ Stable Diffusion، وهي إحدى أدوات إنشاء المحتوى الأكثر شيوعًا، يمكن أن تجعل اعتماد SynthID أو ما شابه ذلك على مستوى الصناعة تحديًا. يوجد بالفعل العديد من الإصدارات التي تعمل على أجهزة الكمبيوتر المحلية. وبغض النظر عن ذلك، تأمل جوجل أن تكون قادرة على تقديم SynthID لأطراف ثالثة مهتمة "في المستقبل القريب"، وذلك لتحسين شفافية الذكاء الاصطناعي فقط.
الخلاصة
هل يعجبك المحتوى الخاص بنا؟
احصل على أحدث منشوراتنا كل يوم مجانًا ومباشرة في صندوق الوارد الخاص بك