صرح داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك الناشئة رفيعة المستوى في مجال الذكاء الاصطناعي، للكونغرس العام الماضي أن تكنولوجيا الذكاء الاصطناعي الجديدة يمكن أن تساعد قريبًا الأشخاص غير المهرة ولكنهم حاقدين على شن هجمات بيولوجية واسعة النطاق، مثل إطلاق الفيروسات أو المواد السامة التي تسبب انتشارًا واسع النطاق. المرض والموت.

وقد شعر أعضاء مجلس الشيوخ من كلا الحزبين بالقلق، في حين ناقش باحثو الذكاء الاصطناعي في الصناعة والأوساط الأكاديمية مدى خطورة التهديد.

الآن، وقع أكثر من 90 عالم أحياء وعلماء آخرين متخصصين في تقنيات الذكاء الاصطناعي المستخدمة لتصميم بروتينات جديدة – الآليات المجهرية التي تحرك جميع الإبداعات في علم الأحياء – اتفاقية تسعى إلى ضمان أن أبحاثهم المدعومة بالذكاء الاصطناعي سوف تمضي قدمًا دون تعريض العالم للخطر. إلى ضرر جسيم.

كما جادل علماء الأحياء، ومن بينهم فرانسيس أرنولد الحائزة على جائزة نوبل، والذين يمثلون مختبرات في الولايات المتحدة ودول أخرى، بأن أحدث التقنيات ستكون لها فوائد أكثر بكثير من سلبياتها، بما في ذلك اللقاحات والأدوية الجديدة.

وجاء في الاتفاقية: “بينما يشارك العلماء في هذا العمل، نعتقد أن فوائد تقنيات الذكاء الاصطناعي الحالية لتصميم البروتين تفوق بكثير احتمال الضرر، ونود أن نضمن أن تظل أبحاثنا مفيدة للجميع للمضي قدمًا”.

ولا تسعى الاتفاقية إلى قمع تطوير أو توزيع تقنيات الذكاء الاصطناعي. وبدلاً من ذلك، يهدف علماء الأحياء إلى تنظيم استخدام المعدات اللازمة لتصنيع مواد وراثية جديدة.

وقال ديفيد بيكر، مدير معهد تصميم البروتين بجامعة واشنطن، الذي ساعد في رعاية الاتفاقية، إن معدات تصنيع الحمض النووي هذه هي في النهاية ما يسمح بتطوير الأسلحة البيولوجية.

وقال في مقابلة: “إن تصميم البروتين هو مجرد خطوة أولى في صنع البروتينات الاصطناعية”. “عليك بعد ذلك تركيب الحمض النووي ونقل التصميم من الكمبيوتر إلى العالم الحقيقي – وهذا هو المكان المناسب للتنظيم.”

يعد هذا الاتفاق واحدًا من العديد من الجهود الرامية إلى الموازنة بين مخاطر الذكاء الاصطناعي والفوائد المحتملة. وبينما يحذر بعض الخبراء من أن تقنيات الذكاء الاصطناعي يمكن أن تساعد في نشر المعلومات المضللة، واستبدال الوظائف بمعدل غير عادي وربما حتى تدمير البشرية، فإن شركات التكنولوجيا والمختبرات الأكاديمية والمنظمين والمشرعين يكافحون لفهم هذه المخاطر وإيجاد طرق لمعالجتها.

تقوم شركة الدكتور أمودي، Anthropic، ببناء نماذج لغوية كبيرة، أو LLMs، وهو النوع الجديد من التكنولوجيا الذي يحرك روبوتات الدردشة عبر الإنترنت. وعندما أدلى بشهادته أمام الكونجرس، قال إن التكنولوجيا يمكن أن تساعد المهاجمين قريبًا على بناء أسلحة بيولوجية جديدة.

لكنه أقر بأن هذا لم يكن ممكنا اليوم. أجرت أنثروبيك مؤخرًا دراسة تفصيلية توضح أنه إذا كان شخص ما يحاول الحصول على أسلحة بيولوجية أو تصميمها، فإن شهادات الماجستير في القانون كانت أكثر فائدة بشكل هامشي من محرك البحث العادي على الإنترنت.

يشعر الدكتور أمودي وآخرون بالقلق من أنه مع قيام الشركات بتحسين ماجستير إدارة الأعمال ودمجها مع تقنيات أخرى، سينشأ تهديد خطير. وأخبر الكونجرس أن هذا لن يستغرق سوى عامين أو ثلاثة أعوام.

وأجرت شركة OpenAI، الشركة المصنعة لبرنامج الدردشة عبر الإنترنت ChatGPT، في وقت لاحق دراسة مماثلة أظهرت أن حاملي شهادات الماجستير في القانون لم يكونوا أكثر خطورة بشكل ملحوظ من محركات البحث. وقال ألكسندر مادري، أستاذ علوم الكمبيوتر في معهد ماساتشوستس للتكنولوجيا ورئيس قسم الاستعداد في OpenAI، إنه يتوقع أن يستمر الباحثون في تحسين هذه الأنظمة، لكنه لم ير أي دليل حتى الآن على أنهم سيكونون قادرين على صنع أسلحة بيولوجية جديدة. .

يتم إنشاء LLMs اليوم من خلال تحليل كميات هائلة من النصوص الرقمية المنتقاة من جميع أنحاء الإنترنت. وهذا يعني أنهم يقومون بتجديد أو إعادة تجميع ما هو متاح بالفعل عبر الإنترنت، بما في ذلك المعلومات الموجودة حول الهجمات البيولوجية. (رفعت صحيفة نيويورك تايمز دعوى قضائية ضد شركة OpenAI وشريكتها مايكروسوفت، متهمة إياهما بانتهاك حقوق الطبع والنشر أثناء هذه العملية.)

ولكن في محاولة لتسريع تطوير أدوية ولقاحات جديدة ومواد بيولوجية مفيدة أخرى، بدأ الباحثون في بناء أنظمة ذكاء اصطناعي مماثلة يمكنها توليد تصميمات بروتينية جديدة. ويقول علماء الأحياء إن مثل هذه التكنولوجيا يمكن أن تساعد المهاجمين أيضًا في تصميم أسلحة بيولوجية، لكنهم يشيرون إلى أن تصنيع الأسلحة فعليًا سيتطلب مختبرًا بملايين الدولارات، بما في ذلك معدات تصنيع الحمض النووي.

وقال أندرو وايت، المؤسس المشارك لمنظمة “فيوتشر هاوس” غير الربحية وأحد علماء الأحياء: “هناك بعض المخاطر التي لا تتطلب ملايين الدولارات في البنية التحتية، لكن تلك المخاطر موجودة منذ فترة ولا تتعلق بالذكاء الاصطناعي”. الذي وقع على الاتفاقية.

ودعا علماء الأحياء إلى تطوير تدابير أمنية من شأنها أن تمنع استخدام معدات تصنيع الحمض النووي مع المواد الضارة – على الرغم من أنه من غير الواضح كيف ستعمل هذه التدابير. كما دعوا إلى إجراء مراجعات للسلامة والأمن لنماذج الذكاء الاصطناعي الجديدة قبل إطلاقها.

ولم يزعموا أن التكنولوجيات يجب أن يتم حصرها في زجاجات.

وقال راما رانجاناثان، أستاذ الكيمياء الحيوية والبيولوجيا الجزيئية بجامعة شيكاغو، الذي وقع أيضًا على الاتفاقية: “لا ينبغي أن يمتلك هذه التقنيات سوى عدد قليل من الأشخاص أو المنظمات”. “يجب أن يكون مجتمع العلماء قادرًا على استكشافها بحرية والمساهمة فيها.”