لم يعد فريق OpenAI المسؤول عن حماية البشرية موجودًا

استقال المدير التنفيذي السابق، زاعمًا أنه تم تنحية المخاوف المتعلقة بالسلامة جانبًا لصالح المنتجات الجذابة. هل يمكن أن يكون هناك تهديد أمني بسبب هذا؟

انهيار فريق OpenAI “Superalignment”.

في عام 2023،OpenAIشكلت فريق النخبة: فريق "Superalignment"، بهدف إتقان أنظمةالذكاء الاصطناعيفي المستقبل يحتمل أن تكون قوية جداأنهم يمكن أن يهددوا الوجود البشري. وبعد أقل من عام، تم حل الفريق.

وفقًا لإعلان لبلومبرج، تدعي شركة OpenAI أن هذه الخطوة تم اتخاذها من أجل "دمج الفريق بشكل أعمق في الجهود البحثية للشركة" لتحقيق أهدافها الأمنية. لكن،سلسلة تغريدات كاشفةبقلم جان لايكي، أحد قادة الفريق الذي استقال مؤخرًا، يكشف عن التوترات الداخلية بين فريق الأمن وبقية الشركة.

صراع على الموارد واستقالة مدوية

وفي بيان نشر على يقول لايكي: "إن بناء آلات أكثر ذكاءً من البشر هو مسعى خطير بطبيعته". "تتحمل OpenAI مسؤولية هائلة بالنيابة عن البشرية جمعاء. ولكن في السنوات الأخيرة، تراجعت ثقافة السلامة وعملياتها في المرتبة الثانية أمام المنتجات اللامعة. لم يستجب OpenAI على الفور لطلب التعليق من Engadget.

وجاءت استقالة لايكي بعد ساعات من إعلان رحيل كبير العلماء في الشركة سوتسكيفار، أحد مؤسسي الشركة.

سلسلة من المغادرين داخل الفريق

إلى جانب Leike وSutskevar، شهد فريق Superalignment عمليات مغادرة أخرى. وفي إبريل/نيسان، طُرد اثنان من الباحثين، هما ليوبولد أشنبرينر وبافيل إسماعيلوف، بدعوى تسريب معلومات.

أعلنت شركة OpenAI أن المؤسس المشارك جون شولمان، الذي تركز أبحاثه على نماذج اللغات الكبيرة، سيقود جهودها الأمنية المستقبلية. جاكوب باتشوكي، المخرج الذي قاد تطويرجي بي تي-4، أحد نماذج اللغات الكبيرة الرئيسية في OpenAI، سيحل محل Sutskevar كرئيس للعلماء.

على الرغم من تفكيك فريق Superalignment، تواصل OpenAI التركيز على أمان الذكاء الاصطناعي. وفي أكتوبر، أنشأت الشركة فريقًا جديدًا "للاستعداد" لمنع المخاطر "الكارثية" المحتملة من أنظمة الذكاء الاصطناعي، بما في ذلك تحديات الأمن السيبراني والتهديدات الكيميائية والنووية والبيولوجية.

هل يعجبك المحتوى الخاص بنا؟

احصل على أحدث منشوراتنا كل يوم مجانًا ومباشرة في صندوق الوارد الخاص بك