تقوم Anthropic بتدريب الذكاء الاصطناعي للمحادثة على احترام المبادئ الأساسية. عمل واعد، ولكن لا يزال هناك الكثير للقيام به.
على الرغم من قدرتهم على تقديم نثر حيوي بشكل لا يصدق، فإنالذكاء الاصطناعي التوليديمثلجوجلبارد أو OpenAIChatGPTتظهر بالفعل حدود التكنولوجيات الحالية، وخاصة فيما يتعلق بصحة المعلومات المقدمة للمستخدمين. ولكن مع هذه الشعبية وهذه الإمكانات المثيرة للإعجاب، ليست هذه العوائق الصغيرة هي التي ستمنع هذه الشركات العملاقة من عرض منتجاتها لعامة الناس في أسرع وقت ممكن. بعضافعل الأشياء بشكل مختلف.
على النقيض من ذلك، يتكون فريق Anthropic من العديد من موظفي OpenAI السابقين ويتبع نهجًا أكثر واقعية في تطوير برنامج الدردشة الآلي الخاص به، Claude. والنتيجة هي أن الذكاء الاصطناعي "أكثر قابلية للتوجيه" و"أقل احتمالاً لإنتاج محتوى خطير" منهChatGPT، بحسب تقرير منتك كرانش.
كان Claude في مرحلة تجريبية مغلقة منذ أواخر عام 2022، لكنه بدأ مؤخرًا فقط في اختبار قدراته على المحادثة مع شركاء مثل Robin AI وQuora ومحرك البحث الموجه نحو الخصوصية Duck Duck Go ولم يكشف بعد عن أسعار الذكاء الاصطناعي الخاص به، لكنه أكد ذلك لتك كرانشأنه سيتم توفير نسختين عند الإطلاق: واجهة برمجة التطبيقات القياسية وإصدار أخف وأسرع يسمى Claude Instant.
"نحن نستخدم كلود لتقييم جوانب محددة من العقد ولاقتراح بدائل لغوية جديدة أكثر ملاءمة لعملائنا،" أوضح ريتشارد روبنسون، الرئيس التنفيذي لشركة Robin، لـتك كرانش. "لقد وجدنا كلود موهوبًا للغاية في فهمه للغة - بما في ذلك المجالات التقنية مثل اللغة القانونية. كما أنه فعال جدًا لإنشاء المسودات الأولى والملخصات والترجمات وشرح المفاهيم المعقدة بعبارات بسيطة. »
وتعتقد أنثروبيك أن كلود سيكون أقل احتمالاً لأن يفعل ويقول هراء مثلما فعل تاي، ويرجع ذلك جزئيًا إلى تدريبه المتخصص الذي تقول الشركة إنه جعله "ذكاءً اصطناعيًا دستوريًا". وتقول الشركة إن هذا يوفر نهجًا "مبدئيًا" لمحاولة جعل البشر والروبوتات على نفس الموجة الأخلاقية. بدأت الأنثروبيا بعشرة مبادئ أساسية -دون تفصيلها-، وتدور حول "مفاهيم مثل الإحسان وعدم الإيذاء والاستقلالية"، بحسب تعبيرها.تك كرانش.
عمل واعد، ولكن لا يزال هناك الكثير للقيام به
ثم قامت الشركة بتدريب ذكاء اصطناعي آخر لإنشاء نص يتماشى مع هذه المبادئ من خلال الاستجابة للمدخلات النصية، مثل "تأليف قصيدة بأسلوب جون كيتس". ثم قام هذا النموذج بتدريب كلود. ولكن مجرد تدريبها لتكون أقل إشكالية بشكل أساسي من منافسيها لا يعني أنها لن تصل إلى القمة. على سبيل المثال، اخترع الذكاء الاصطناعي بالفعل منتجًا كيميائيًا جديدًا تمامًا وحصل على ترخيص فني، على أقل تقدير، في عملية تخصيب اليورانيوم؛ وحصلت على درجات أقل من ChatGPT في الاختبارات الموحدة لـالرياضياتوالقواعد.
"يكمن التحدي في تصميم نماذج لا تهلوس أبدًا، ولكنها لا تزال مفيدة - قد تجد نفسك في مواقف يجد فيها النموذج طريقة جيدة لعدم الكذب مطلقًا وعدم قول أي شيء ببساطة، وهذا هو الحل الوسط الذي نعمل عليه،" وقال المتحدث باسمتك كرانش. "لقد أحرزنا أيضًا تقدمًا كبيرًا في الحد من الهلوسة، ولكن لا يزال هناك الكثير للقيام به. »
الخلاصة
هل يعجبك المحتوى الخاص بنا؟
احصل على أحدث منشوراتنا كل يوم مجانًا ومباشرة في صندوق الوارد الخاص بك