PhotoGuard، خوارزمية معهد ماساتشوستس للتكنولوجيا التي تريد حماية صورك من الذكاء الاصطناعي. لقد حان الوقت لمعالجة هذه الأسئلة.
كان Dall-E وStable Diffusion هما الأولين فقط. أنظمةالذكاء الاصطناعي التوليديتتكاثر وتحاول الشركات تمييز نفسها. تكتسب Chatbots قدرات تحرير وإنشاء الصور، مع وجود عمالقة مثل Shutterstock وAdobe في المقدمة. لكن هذه الوظائف التي تعمل بالذكاء الاصطناعي لا تخلو من المخاطر، مثل التلاعب غير المصرح به أو سرقة حقوق الطبع والنشر. يمكن أن يساعد تقديم علامة مائية، ولكنتذهب تقنية PhotoGuard الجديدة التي طورها معهد ماساتشوستس للتكنولوجيا CSAIL إلى أبعد من ذلك.
يعمل PhotoGuard عن طريق تغيير وحدات بكسل معينة في الصورة بحيث لا يتمكن الذكاء الاصطناعي من فهم ماهية الصورة. هذه "الاضطرابات" غير مرئية للعين البشرية، ولكن يمكن للآلات قراءتها بسهولة. تستهدف طريقة هجوم التشفير لإدخال هذه المصنوعات التمثيل الكامن للنموذج الخوارزمي للصورة المستهدفة –الرياضياتمجمعات تصف موضع ولون كل بكسل – لمنع الذكاء الاصطناعي من فهم ماهيته.
تعمل طريقة "الانتشار" المتقدمة هذه على تمويه الصورة، مما يجعلها تبدو وكأنها شيء آخر في نظر الذكاء الاصطناعي. يقوم النظام بتحديد الصورة المستهدفة وتحسين الاضطرابات في تلك الصورة بحيث تشبه هدفها. سيتم تطبيق كل تعديل يحاول الذكاء الاصطناعي إجراؤه على هذه الصور "المناعة" على الصور "الهدف"، مما يؤدي إلى إنتاج صورة غير واقعية.
لقد حان الوقت لمعالجة هذه الأسئلة
وأوضح المؤلف الرئيسي لهذه الدراسة، هادي سلمان، لموقع Engadget، أن "هذا الهجوم يجعل النموذج يعتقد أن الصورة المدخلة (المراد تحريرها) هي شيء آخر (صورة رمادية، على سبيل المثال)". "يجبر هجوم الانتشار نموذج الانتشار على إجراء تعديلاته على الصورة المستهدفة (والتي قد تكون رمادية أو عشوائية تمامًا). » هذه التقنية ليست معصومة من الخطأ، ويمكن للأشخاص الأشرار عكس هذه الحماية عن طريق إضافة ضوضاء رقمية، أو قص الصورة أو تدويرها.
"نهج تعاوني يشمل مطوري النماذج، ومنصات البيانات،وسائل التواصل الاجتماعيويقدم المنظمون دفاعًا قويًا ضد التلاعب غير المصرح به بالصور. وقال هادي سلمان في بيان إن العمل على هذا الموضوع له أهمية قصوى اليوم. "وعلى الرغم من سعادتي بالمساهمة في هذا الحل، لا يزال هناك الكثير مما يجب القيام به لجعل هذه الحماية فعالة. ويجب على الشركات التي تقوم بتطوير هذه النماذج أن تعمل على توفير وسائل حماية قوية ضد التهديدات المحتملة التي توفرها أدوات الذكاء الاصطناعي هذه. »
الخلاصة
هل يعجبك المحتوى الخاص بنا؟
احصل على أحدث منشوراتنا كل يوم مجانًا ومباشرة في صندوق الوارد الخاص بك