يقوم OpenAI ببناء فريق للتحكم في الذكاء الاصطناعي الفائق. فكرة جيدة تريد إخفاء المشكلة الحالية.
OpenAIيشكل فريقًا متخصصًا لمحاولة ذلكإدارة مخاطر الذكاء الاصطناعي فائق الذكاء. الذكاء الفائق هو نموذج افتراضي للذكاء الاصطناعي والذي سيكون أكثر ذكاءً من الإنسان الأكثر موهبة وذكاءً، ويتفوق في العديد من مجالات الخبرة بدلاً من مجال واحد مثل الأجيال السابقة من النماذج.
OpenAIونحن مقتنعون بأن مثل هذا النموذج يمكن أن يرى النور قبل نهاية العقد. تقول المنظمة ذات الربح المحدود: "سيكون الذكاء الفائق التكنولوجيا الأكثر تأثيرًا التي اخترعتها البشرية على الإطلاق، ويمكن أن يساعدنا في حل العديد من المشكلات المهمة جدًا في عالمنا". "لكن القوة العظيمة للذكاء الفائق يمكن أن تكون أيضًا خطيرة للغاية وتؤدي إلى فقدان استقلالية البشرية أو حتى انقراض البشرية. »
سيشارك في قيادة هذا الفريق الجديد المدير العلمي لشركة OpenAI إيليا سوتسكيفر ومدير المحاذاة جان لايكي. بالإضافة إلى ذلك، توضح OpenAI أنها تريد تخصيص 20% من قدرتها الحاسوبية الحالية لهذه المبادرة، بهدف تطوير أداة البحث عن المحاذاة الآلية. ومن الناحية النظرية، سيساعد مثل هذا النظام شركة OpenAI في ضمان بقاء الذكاء الفائق آمنًا للاستخدام ومتوافقًا مع القيم الإنسانية. يقول OpenAI: "على الرغم من أن هذا هدف طموح للغاية وليس لدينا أي ضمان لتحقيقه، إلا أننا متفائلون بأن الجهد المركز والمتضافر يمكن أن يحل هذه المشكلة". "هناك العديد من الأفكار التي أظهرت نتائج واعدة في التجارب الأولية، ولدينا مقاييس مفيدة للغاية لقياس التقدم الذي أحرزناه، ويمكننا استخدام نماذج اليوم لدراسة العديد من هذه المشاكل تجريبيا. » وأضاف المختبر أنه سيشارك خارطة طريق أكثر دقة في وقت ما.
فكرة جيدة تريد إخفاء المشكلة الحالية
ويأتي هذا الإعلان في الوقت الذي تدرس فيه الحكومات في جميع أنحاء العالم كيفية تنظيم صناعة الذكاء الاصطناعي المزدهرة. لالولايات المتحدة، التقى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بأكثر من 100 من المشرعين الفيدراليين في الأشهر الأخيرة. ويقول علنًا إن تنظيم الذكاء الاصطناعي أمر "ضروري" وإن شركة OpenAI "حريصة" على العمل معهم. ولكن ينبغي لنا أن نظل متشككين في مثل هذه الادعاءات وفي مبادرات مثل فريق OpenAI Superalignment. ومن خلال تركيز الاهتمام العام على المخاطر التي قد لا تتحقق أبدا، تعمل منظمات مثل OpenAI على تحويل عبء التنظيم إلى وقت لاحق، عندما تصبح مشكلة الآن. لا يزال هناك الكثير مما يجب فعله للذكاء الاصطناعي في العمل،معلومات مضللة، إدارة حقوق النشر. ويجب أن يتم ذلك الآن، وليس في المستقبل.
هل يعجبك المحتوى الخاص بنا؟
احصل على أحدث منشوراتنا كل يوم مجانًا ومباشرة في صندوق الوارد الخاص بك