تقارير موجزة عن التشفير – بينما يعمل المسؤولون التنفيذيون في الحكومة الأمريكية على تنفيذ الأمر التنفيذي الجديد لإدارة بايدن بشأن الذكاء الاصطناعي، فإنهم (AI) لا يتصارعون مع التأثير العالمي للتكنولوجيا المتغيرة للعالم فحسب، بل يفعلون ذلك بينما يواجهون مجموعة من التهديدات للولايات المتحدة. الأعمال التجارية والأمن القومي، والتهديدات التي تنشأ في الغالب من الصين.

“إن السرعة الفائقة التي يتطور بها الذكاء الاصطناعي ويطلق الابتكارات”، كما أشار إريك غولدستين، المدير التنفيذي لـ CISA خلال القمة الشتوية لمجموعة المبادرات السيبرانية هذا الأسبوع، تجلب معها “بعض المخاطر الحقيقية التي سنتخلص منها من بعض دروس العالم”. العقود القليلة الماضية” حول كيفية تطوير البرامج ونشرها بشكل آمن.

تقود الولايات المتحدة جهدًا عالميًا لشركاء الوكالات الحكومية بما في ذلك وكالة الأمن السيبراني وأمن البنية التحتية (CISA)، ومكتب التحقيقات الفيدرالي (FBI)، ووكالة الأمن القومي (NSA) والوكالات في جميع أنحاء العالم، لإنشاء خط أساس لـ ” تطوير وتصميم وصيانة ونشر أنظمة الذكاء الاصطناعي، وفقًا لجولدستين، “بأكثر الطرق أمانًا الممكنة”. وهذا يعني أنه بدلاً من تخفيف معايير الأمان الخاصة بالذكاء الاصطناعي، كما اقترح البعض، تتطلب التكنولوجيا “مستوى أعلى من التدقيق والأمن والسيطرة” لضمان إدارة مخاطر الوصول أو الاستخدام غير المصرح به بشكل فعال.

توافق سينثيا كايزر، نائبة مساعد مدير مكتب التحقيقات الفيدرالي لشؤون الإنترنت، قائلة في نفس القمة إن المكتب يستخدم الذكاء الاصطناعي بطريقتين مختلفتين. أولاً، المهمة الدفاعية المألوفة المتمثلة في درء التهديدات السيبرانية، وهي منطقة خطر أصبحت أكثر فعالية وتطوراً بفضل القدرات التي يوفرها الذكاء الاصطناعي. ولكن هناك جانب وقائي آخر يستحضره الذكاء الاصطناعي، وهو حماية مبتكري الذكاء الاصطناعي الأميركيين من الخطر الدائم المتمثل في التجسس الإلكتروني وسرقة الملكية الفكرية.

التهديد الأكبر، وفقًا للخبراء، يشكله الصين، سواء كمنافس في أبحاث وتطوير الذكاء الاصطناعي أو في سرقة أسرار التكنولوجيا الأمريكية. ووفقاً لكايزر، فإن “ما يقلقنا هو الخطوة التالية القادمة وكيف يمكننا الدفاع ضدها”.

هل تبحث عن طريقة للمضي قدمًا في الأسبوع في مجال الإنترنت والتكنولوجيا؟ قم بالتسجيل في مجموعة المبادرات السيبرانية النشرة الإخبارية ليوم الأحد للتعرف سريعًا على أهم عناوين الإنترنت والتكنولوجيا والاستعداد للأسبوع المقبل. اشتراك اليوم.

من الواضح أن قدرة الذكاء الاصطناعي الفريدة على تحفيز الاستخدامات الضارة والقفز من التهديدات الحالية إلى مخاطر أكبر، تثير قلق مكتب التحقيقات الفيدرالي. وأشار كايزر إلى أن فكرة “الهجمات المدمرة أصبحت أفضل”، في أعقاب حوادث مثيرة للقلق بالفعل مثل زرع شبكة فولت تايفون، أو حتى التحقيق الأحدث في مرافق المياه الأمريكية من قبل جهات التهديد الإيرانية، هي مسألة “توسيع نطاق” وهذا فريد بالنسبة للذكاء الاصطناعي.

لحسن الحظ، يشير الخبراء إلى أن هناك “ميزة المدافعين” في نشر حلول الأمن السيبراني للذكاء الاصطناعي، مثل كتابة واختبار رموز الحماية بسرعة أكبر بكثير أو توظيف الذكاء الاصطناعي لأتمتة وظائف معينة لمراقبة النظام لتوفير الوقت وتقليل النفقات. ولكن، كما قال غولدشتاين، فإن توازن هذه الميزة “هش للغاية” في ظل التوقعات بأن الخصوم سوف يستمرون بلا هوادة في تطوير قدراتهم وتطور قدراتهم، وغالباً ما تكون غير مقيدة بالضمانات الأخلاقية الموجودة في الغرب. ويشير غولدشتاين إلى أن الميزة الحالية التي نتمتع بها اليوم يمكن أن تتبدد “إذا لم نصمم وننشر أنظمة الذكاء الاصطناعي بأنفسنا بشكل آمن”.

تناول كايزر متطلبات الأمر التنفيذي لجميع الوكالات الفيدرالية لتطوير مبادئ توجيهية وضمانات داخلية بشأن استخدام الذكاء الاصطناعي، وهو موضوع حساس بشكل فريد في مكتب التحقيقات الفيدرالي. ردًا على هذا التفويض، أشار كايزر إلى أن مكتب التحقيقات الفيدرالي قد أنشأ بالفعل مجلسًا لأخلاقيات الذكاء الاصطناعي لضمان استخدام الذكاء الاصطناعي بطرق “تحافظ على العملية القانونية، وتحافظ على الخصوصية بين الأمريكيين… وهي أشياء مهمة حقًا بالنسبة لنا في مكتب التحقيقات الفيدرالي”. يحمي.”

أما بالنسبة للعناصر الأخرى من الأمر التنفيذي التي تحظى باهتمام كبير في CISA، أشار غولدشتاين إلى ثلاثة جوانب: أولاً، الدور التنسيقي لـ CISA مع وكالات إدارة مخاطر القطاع (SRM) لإجراء تقييمات المخاطر وتقديم التوجيه لكل قطاع مهم؛ ثانياً، التفويض باستخدام أنظمة الذكاء الاصطناعي لتسريع اكتشاف نقاط الضعف على الشبكات الفيدرالية؛ وثالثًا، دور CISA في توفير إرشادات الفريق الأحمر لأنظمة الذكاء الاصطناعي بحيث يؤدي الاختبار الصارم إلى فهم نقاط الضعف وكيف يمكن للخصم استغلالها.

اقرأ المزيد عن رؤى الأمن القومي ووجهات النظر والتحليلات التي يحركها الخبراء في ملخص التشفير