كيف توصلت OpenAI إلى طريقة لمنع “التهديدات الكارثية” للذكاء الاصطناعي؟

شكلت OpenAI، مبتكر منصة الذكاء الاصطناعي الشهيرة ChatGPT، مجموعة جديدة لمعالجة “التهديدات الكارثية” للذكاء الاصطناعي.

وقالت الشركة إن أهداف فريق “الاستعداد” تشمل (الذكاء الاصطناعي) “تتبع التهديدات الكارثية وتوقعها والتنبؤ بها”.

وتشمل هذه التهديدات استخدام الذكاء الاصطناعي لإنشاء رسائل مؤثرة، وتعريض الأمن السيبراني للخطر، وتطوير الأسلحة النووية وأنواع أخرى من الأسلحة.

سيعمل الفريق أيضًا ضد “النسخ والتكيف المستقل (ARA)” الذي يهدف إلى منع الذكاء الاصطناعي من اكتساب القدرة على نسخ نفسه واستبداله.

وقالت OpenAI في بيان: “نعتقد أن نماذج الذكاء الاصطناعي الحدودية، التي ستتجاوز قدراتها قدرات النماذج الحديثة الحالية، يمكن أن تفيد البشرية ككل، ولكنها تشكل مخاطر جسيمة”. ثمة احتمال وارد.’

وأضافت الشركة أن تجنب هذه المواقف الخطيرة سيعني أن الأشخاص سيحتاجون إلى بناء أطر للتنبؤ ومن ثم الحماية ضد القدرات الخطيرة لأنظمة الذكاء الاصطناعي الجديدة، وأن الفريق الجديد سيكون أحد المهام المعينة

وفي الوقت نفسه، أطلقت OpenAI أيضًا “تحدي الاستعداد” الجديد الذي سيشجع الناس على التفكير في “أكثر حالات إساءة استخدام النموذج تفردًا ولكنها قد تكون كارثية” على سبيل المثال استخدام هذا (الذكاء الاصطناعي) لإغلاق شبكة الكهرباء.

أولئك الذين يتوصلون إلى اقتراحات جيدة بشكل خاص لمنع الاستخدام الضار للذكاء الاصطناعي سيتم منحهم اعتمادات لاستخدام أدوات OpenAI، واقترحت الشركة ضم بعض هؤلاء الأشخاص إلى فريق الشركة. يمكن أيضًا الاحتفاظ بها. وقالت OpenAI إن الفريق سيقوده ألكسندر مادري، خبير الذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا.

أعلنت OpenAI أيضًا عن حضور فريقها “قمة سلامة الذكاء الاصطناعي” في المملكة المتحدة الأسبوع المقبل.

كانت OpenIA إحدى الشركات التي تعهدت بضمان الاستخدام الآمن للذكاء الاصطناعي.

تنتج روسيا مركبات جديدة لصناعة الإلكترونيات الدقيقة

ذكرت وسائل إعلام روسية أن روسيا تعمل على مشاريع لتصنيع مركبات جديدة ستستخدم في صناعة الرقائق الإلكترونية والالكترونيات الدقيقة.

وبحسب موقع CNews، أطلقت وزارة الصناعة والتجارة الروسية ثلاثة مشاريع بحثية جديدة بقيمة 770 مليون روبل، بهدف تصنيع مواد مركبة في روسيا، للاستغناء عن المواد الأجنبية المستخدمة في صناعة الرقائق الإلكترونية والإلكترونيات الدقيقة.

وأشار الموقع إلى أن المواد التي تسعى روسيا لتطويرها حتى عام 2025 ستستخدم كمركبات في الدوائر الإلكترونية المتكاملة في الرقائق الإلكترونية، كما سيتم تطوير مواد تشحيم ومواد تنظيف جديدة للإلكترونيات الدقيقة. ولهذا الغرض، أعلنت وزارة الصناعة والتجارة الروسية عن 3 مناقصات في 30 أكتوبر.

ويأتي تطوير المواد المذكورة في إطار برنامج “تطوير الهندسة الإلكترونية” الذي أنشأته روسيا للاستغناء عن المواد المستوردة في صناعة الإلكترونيات، والذي تمتد خططه حتى عام 2030.

كما تعمل روسيا حاليا على خطط لتطوير العديد من أنواع المعالجات والمنتجات الإلكترونية، للاستغناء التام عن الإلكترونيات المستوردة.