OpenAI Whisper: الهلوسة المبلغ عنها في المواقف عالية الخطورة

تم الإبلاغ عن أن نموذج Whisper الخاص بـ OpenAI "يهلوس" في المواقف عالية الخطورة.

وقد اكتشف الباحثون ذلكWhisper، أداة النسخ الصوتي المعتمدة على OpenAIلديه ميل مؤسف لاختراع أشياء لم تُقال من قبل، مع عواقب خطيرة محتملة. هذا ما يكشفه تقرير جديد.

القلق "الهلوسة"

وبحسب APNews، فإن نموذج الذكاء الاصطناعيالهمسيخترع النص (ظاهرة تسمى عادة«الهلوسة»)، وبالتالي خلق نزهات سخيفة لا علاقة لها بمعدات التدريب المستخدمة. يمكن أن تشمل أخطاء Whisper التعليقات العنصرية والتحريض على العنف والعلاجات الطبية الخيالية.

التبني المبكر رغم المخاطر

تم دمج Whisper في بعض إصداراتChatGPTوهي ميزة مضمنة في منصات الحوسبة السحابيةمايكروسوفتوأوراكل. على الرغم من المخاطر، بدأ مقدمو الرعاية الصحية في اعتماد هذه الأداة لتسجيل استشارات المرضى مع الأطباء. يدعي صانع Whisper أن الأداة تتمتع "بقوة ودقة تقترب من الإنسان" وقد تم اعتمادها من قبل أكثر من 30 ألف طبيب في الولايات المتحدة.الولايات المتحدة. ومع ذلك، يحذر الباحثون من هذا التبني، بعد المشاكل التي تم تحديدها خلال الدراسات المختلفة.

عواقب وخيمة محتملة

يمكن لأخطاء ويسبر أن يكون لها "عواقب خطيرة حقا"، خاصة في مجال الرعاية الصحية، كما أشارت ألوندرا نيلسون، الأستاذة في جامعة برينستون. قالت: “لا أحد يريد تشخيصًا سيئًا”. لذلك هناك دعوات لـ OpenAI لمعالجة المشكلة. وفقًا للموظف السابق ويليام سوندرز، "إنها مشكلة إذا قمت بنشر هذا الأمر وكان الناس واثقين جدًا فيما يمكن أن يفعله ودمجه في كل هذه الأنظمة الأخرى."

على الرغم من هذه المشكلات، تواصل الشركات تطوير أدوات وبرامج الذكاء الاصطناعي، ولا تزال "الهلوسة" تمثل مشكلة سائدة. بخصوص الرد منOpenAIبالنسبة للهلوسة، توصي الشركة بعدم استخدام Whisper في "سياقات صنع القرار، حيث يمكن أن تؤدي الهفوات في الدقة إلى عيوب واضحة في النتائج".

هل يعجبك المحتوى الخاص بنا؟

احصل على أحدث منشوراتنا كل يوم مجانًا ومباشرة في صندوق الوارد الخاص بك