الموظفون في رسالة: “OpenAI متهور ويفتقر إلى الإشراف”

لا تفعل شركة التكنولوجيا OpenAI سوى القليل جدًا لمنع أنظمة الذكاء الاصطناعي (AI) من أن تصبح خطيرة. قالت مجموعة من تسعة موظفين حاليين وسابقين في الشركة ذلك في رسالة مفتوحة. تعتقد المجموعة أن OpenAI تعطي الأولوية لتحقيق الأرباح والنمو، لكنها لا تولي اهتمامًا كافيًا لمخاطر التكنولوجيا. وبحسب كاتبي الرسالة، لا يوجد إشراف فعال.
OpenAI هي الشركة التي تقف وراء مولد النصوص المتقدم ChatGPT. وفي وقت سابق من هذا العام، أطلقت الشركة أيضًا برنامج Sora: AI الذي يمكنه تحويل النص إلى مقاطع فيديو ذات مظهر واقعي.
التهور
وفقًا للموظفين الحاليين والسابقين، هناك ثقافة “التهور والسرية” في بناء أنظمة الذكاء الاصطناعي القوية هذه.
بالإضافة إلى ذلك، يزعمون أن OpenAI استخدمت “تكتيكات صارمة” لمنع الموظفين من مشاركة مخاوفهم بشأن تقنيات الشركة. على سبيل المثال، سيُجبر الموظفون على التوقيع على اتفاقيات تحظر عليهم الإدلاء بأي تصريحات حول OpenAI بعد مغادرتهم. وتدعو المجموعة إلى مزيد من الشفافية وحماية المبلغين عن المخالفات داخل المنظمة.
وتشمل المخاطر الأخرى للذكاء الاصطناعي التي ذكرها كاتبو الرسالة تعزيز عدم المساواة ونشر المعلومات المضللة. علاوة على ذلك، يشيرون إلى فقدان السيطرة على أنظمة الذكاء الاصطناعي، وهو ما يقولون إنه “من الممكن أن يؤدي إلى انقراض البشرية”.
معركة الاتجاهات
تأسست OpenAI في عام 2015 كمختبر أبحاث غير ربحي. تم إنشاء ذراع تجاري لها في عام 2019، باستثمار قدره مليار دولار من شركة مايكروسوفت.
في العام الماضي، اندلعت معركة اتجاهات داخل المنظمة الناشئة. أراد بعض الموظفين تعزيز تطوير الذكاء الاصطناعي، بينما أراد آخرون إبطاء هذا التطور. وأدى ذلك إلى أزمة كبيرة، مع طرد الرئيس التنفيذي سام التمان. ويعتقد أن التأثيرات الإيجابية للذكاء الاصطناعي تفوق التأثيرات السلبية. وبعد وقت قصير من إقالته، عاد إلى الشركة.
في انتقاداتهم، ينضم مؤلفو الرسائل التسعة إلى إيليا سوتسكيفر، من بين آخرين، وهو باحث رائد في مجال الذكاء الاصطناعي ومؤسس مشارك لشركة OpenAI. وسبق أن حذر العام الماضي من مخاطر أساليب عمل الشركة. وكان أيضًا هو الذي أقال الرئيس التنفيذي سام ألتمان نيابة عن مجلس الإدارة، لكنه ندم لاحقًا على ذلك.
صرح متحدث باسم OpenAI لصحيفة نيويورك تايمز أن الشركة فخورة بـ “أنظمة الذكاء الاصطناعي الأكثر قدرة وأمانًا” و”تشجع النقاش (حولها)”.
Source link
