تقنية

“الذكاء الاصطناعي أوباما” ومذيعو الأخبار المزيفون: كيف يجتاح صوت الذكاء الاصطناعي تطبيق “تيك توك”.


في مقطع فيديو تم إنتاجه ببراعة على تطبيق TikTok، يمكن سماع الرئيس السابق باراك أوباما – أو صوت غريب مثل صوته – وهو يدافع عن نفسه ضد نظرية مؤامرة جديدة متفجرة حول الموت المفاجئ لطاهيه السابق.

يقول الصوت: “على الرغم من أنني لا أستطيع فهم أساس الادعاءات الموجهة ضدي، إلا أنني أحث الجميع على تذكر أهمية الوحدة والتفاهم وعدم التسرع في إطلاق الأحكام”.

في الواقع، الصوت لم يكن للرئيس السابق. لقد كانت خدعة مقنعة، تم إنشاؤها بواسطة الذكاء الاصطناعي باستخدام أدوات جديدة متطورة يمكنها استنساخ أصوات حقيقية لإنشاء دمى ذكاء اصطناعي ببضع نقرات بالماوس.

اكتسبت التكنولوجيا المستخدمة لإنشاء أصوات الذكاء الاصطناعي قوة جذب وإشادة واسعة النطاق منذ أن أصدرت شركات مثل ElevenLabs قائمة من الأدوات الجديدة في أواخر العام الماضي. منذ ذلك الحين، سرعان ما أصبحت التزييفات الصوتية سلاحًا جديدًا في ساحة معركة المعلومات المضللة عبر الإنترنت، مما يهدد بتعزيز التضليل السياسي قبل انتخابات عام 2024 من خلال منح المبدعين وسيلة لوضع نظريات المؤامرة الخاصة بهم في أفواه المشاهير ومذيعي الأخبار والسياسيين.

ويضيف الصوت المزيف إلى التهديدات التي يولدها الذكاء الاصطناعي من مقاطع الفيديو “المزيفة العميقة”، والكتابة البشرية من ChatGPT والصور من خدمات مثل Midjourney.

لاحظت هيئات مراقبة المعلومات المضللة أن عدد مقاطع الفيديو التي تحتوي على أصوات الذكاء الاصطناعي قد زاد مع اعتماد منتجي المحتوى وبائعي المعلومات المضللة للأدوات الجديدة. تسعى المنصات الاجتماعية مثل TikTok إلى وضع علامة على هذا المحتوى وتصنيفه.

تم اكتشاف مقطع الفيديو الذي بدا وكأنه السيد أوباما بواسطة NewsGuard، وهي شركة تراقب المعلومات الخاطئة عبر الإنترنت. تم نشر الفيديو بواسطة أحد حسابات TikTok الـ 17 التي تقدم ادعاءات لا أساس لها من خلال صوت مزيف حددته NewsGuard، وفقًا لتقرير أصدرته المجموعة في سبتمبر. ونشرت الحسابات في الغالب مقاطع فيديو حول شائعات المشاهير باستخدام السرد الصوتي من خلال الذكاء الاصطناعي، ولكنها روجت أيضًا للادعاء الذي لا أساس له بأن السيد أوباما مثلي الجنس ونظرية المؤامرة القائلة بأن أوبرا وينفري متورطة في تجارة الرقيق. وقد تلقت القنوات بشكل جماعي مئات الملايين من المشاهدات والتعليقات التي تشير إلى أن بعض المشاهدين يصدقون هذه الادعاءات.

قالت NewsGuard إنه على الرغم من عدم وجود أجندة سياسية واضحة للقنوات، إلا أن استخدام أصوات الذكاء الاصطناعي لمشاركة القيل والقال والشائعات البذيئة قدم خريطة طريق للجهات الفاعلة السيئة التي ترغب في التلاعب بالرأي العام ومشاركة الأكاذيب مع الجماهير عبر الإنترنت.

قال جاك بروستر، محرر المؤسسات في NewsGuard: “إنها طريقة لهذه الحسابات للحصول على موطئ قدم، وكسب أتباع يمكن أن يجذبوا المشاركة من جمهور واسع”. “بمجرد أن يتمتعوا بمصداقية وجود عدد كبير من المتابعين، يمكنهم أن يغمسوا أقدامهم في المزيد من المحتوى التآمري”.

يتطلب TikTok تصنيفات تكشف عن محتوى واقعي تم إنشاؤه بواسطة الذكاء الاصطناعي باعتباره مزيفًا، لكنها لم تظهر في مقاطع الفيديو التي تم الإبلاغ عنها بواسطة NewsGuard. وقالت TikTok إنها أزالت أو توقفت عن التوصية بالعديد من الحسابات ومقاطع الفيديو لانتهاكها السياسات المتعلقة بالتظاهر كمؤسسات إخبارية ونشر معلومات مضللة ضارة. كما قامت بإزالة الفيديو باستخدام الصوت الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي يحاكي صوت السيد أوباما لانتهاكه سياسة الوسائط الاصطناعية الخاصة بـ TikTok، لأنه يحتوي على محتوى واقعي للغاية لم يتم تصنيفه على أنه تم تغييره أو مزيف.

وقالت جيمي فافازا، المتحدثة باسم TikTok، في إشارة إلى TikTok: “TikTok هي أول منصة توفر أداة للمبدعين لتصنيف المحتوى الناتج عن الذكاء الاصطناعي، وهي عضو أول في مدونة جديدة لأفضل ممارسات الصناعة التي تشجع الاستخدام المسؤول للوسائط الاصطناعية”. إطار عمل تم تقديمه مؤخرًا من الشراكة غير الربحية حول الذكاء الاصطناعي

وعلى الرغم من أن تقرير NewsGuard ركز على TikTok، الذي أصبح مصدرًا للأخبار بشكل متزايد، إلا أنه تم العثور على محتوى مماثل منتشر على YouTube وInstagram وFacebook.

تسمح منصات مثل تيك توك بمحتوى يتم إنشاؤه بواسطة الذكاء الاصطناعي لشخصيات عامة، بما في ذلك مذيعي الأخبار، طالما أنهم لا ينشرون معلومات مضللة. انتشرت مقاطع الفيديو الساخرة التي تظهر المحادثات التي تم إنشاؤها بواسطة الذكاء الاصطناعي بين السياسيين أو المشاهير أو قادة الأعمال – بعضهم مات – على نطاق واسع منذ أن أصبحت الأدوات شائعة. يضيف الصوت الذي تم التلاعب به طبقة جديدة إلى مقاطع الفيديو الخادعة على المنصات التي ظهرت بالفعل إصدارات مزيفة من Tom Cruise و Elon Musk ومذيعي الأخبار مثل Gayle King و Norah O’Donnell. تتصارع TikTok والمنصات الأخرى مع سلسلة من الإعلانات المضللة مؤخرًا التي تعرض صورًا مزيفة لمشاهير مثل السيد كروز ونجم اليوتيوب السيد بيست.

يمكن لقوة هذه التقنيات أن تؤثر بشكل كبير على المشاهدين. قالت كلير ليبوفيتش، رئيسة الذكاء الاصطناعي وسلامة الوسائط في الشراكة من أجل الذكاء الاصطناعي، التي عملت مع شركات التكنولوجيا والإعلام على مجموعة من التوصيات لإنشاء: “نحن نعلم أن الصوت والفيديو ربما يكونان أكثر التصاقًا بذاكرتنا من النص”. مشاركة وتوزيع المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.

قالت TikTok الشهر الماضي إنها تقدم علامة يمكن للمستخدمين اختيارها لإظهار ما إذا كانت مقاطع الفيديو الخاصة بهم تستخدم الذكاء الاصطناعي. في أبريل، بدأ التطبيق يطلب من المستخدمين الكشف عن الوسائط التي تم التلاعب بها والتي تعرض مشاهد واقعية وتحظر التزييف العميق للشباب والشخصيات الخاصة. قال ديفيد جي راند، أستاذ علوم الإدارة في معهد ماساتشوستس للتكنولوجيا والذي استشاره تيك توك للحصول على المشورة بشأن كيفية صياغة التصنيفات الجديدة، إن التصنيفات كانت ذات فائدة محدودة عندما يتعلق الأمر بالمعلومات الخاطئة لأن “الأشخاص الذين يحاولون أن يكونوا المخادعون لن يضعوا الملصق على أغراضهم.

وقالت TikTok أيضًا الشهر الماضي إنها تختبر أدوات آلية لاكتشاف الوسائط التي يتم إنشاؤها بواسطة الذكاء الاصطناعي وتصنيفها، والتي قال السيد راند إنها ستكون أكثر فائدة، على الأقل على المدى القصير.

يحظر موقع YouTube الإعلانات السياسية من استخدام الذكاء الاصطناعي ويطلب من المعلنين الآخرين تصنيف إعلاناتهم عند استخدام الذكاء الاصطناعي. أضافت شركة Meta، التي تمتلك فيسبوك، ملصقًا إلى مجموعة أدوات التحقق من الحقائق الخاصة بها في عام 2020 يصف ما إذا كان مقطع الفيديو “تم تغييره”. ويتطلب X، المعروف سابقًا باسم Twitter محتوى مضلل أن يتم “تغييرها أو التلاعب بها أو تلفيقها بشكل كبير ومخادع” لانتهاك سياساتها. ولم تستجب الشركة لطلبات التعليق.

تم إنشاء صوت السيد أوباما باستخدام الذكاء الاصطناعي باستخدام أدوات من شركة ElevenLabs، وهي الشركة التي ظهرت على الساحة الدولية في أواخر العام الماضي من خلال أداة تحويل النص إلى كلام المدعومة بالذكاء الاصطناعي المجانية والقادرة على إنتاج صوت نابض بالحياة في ثوانٍ. سمحت الأداة أيضًا للمستخدمين بتحميل تسجيلات صوت شخص ما وإنتاج نسخة رقمية.

وبعد إطلاق الأداة، قام مستخدمو 4chan، وهي لوحة الرسائل اليمينية، بتنظيم نسخة مزيفة للممثلة إيما واتسون وهي تقرأ خطابًا معاديًا للسامية.

استجابت شركة ElevenLabs، وهي شركة تضم 27 موظفًا ويقع مقرها الرئيسي في مدينة نيويورك، لسوء الاستخدام من خلال قصر ميزة استنساخ الصوت على المستخدمين المدفوعين. أصدرت الشركة أيضًا أداة كشف الذكاء الاصطناعي القادرة على تحديد محتوى الذكاء الاصطناعي الذي تنتجه خدماتها.

قال ممثل لشركة ElevenLabs في بيان أرسل عبر البريد الإلكتروني: “يقوم أكثر من 99 بالمائة من المستخدمين على منصتنا بإنشاء محتوى مثير للاهتمام ومبتكر ومفيد، لكننا ندرك أن هناك حالات من سوء الاستخدام، ونعمل باستمرار على تطوير وإصدار الضمانات لكبح جماحهم.”

وفي الاختبارات التي أجرتها صحيفة نيويورك تايمز، نجح كاشف ElevenLabs في التعرف على الصوت من حسابات TikTok على أنه تم إنشاؤه بواسطة الذكاء الاصطناعي. لكن الأداة فشلت عندما تمت إضافة الموسيقى إلى المقطع أو عندما تم تشويه الصوت، مما يشير إلى أن بائعي المعلومات المضللة يمكن أن يتملصوا من اكتشافهم بسهولة.

لقد استكشفت شركات الذكاء الاصطناعي والأكاديميون طرقًا أخرى للتعرف على الصوت المزيف، وكانت النتائج مختلطة. استكشفت بعض الشركات إضافة علامة مائية غير مرئية إلى صوت الذكاء الاصطناعي من خلال تضمين إشارات تشير إلى أنها تم إنشاؤها بواسطة الذكاء الاصطناعي. وقد دفع آخرون شركات الذكاء الاصطناعي إلى الحد من الأصوات التي يمكن استنساخها، وربما حظر النسخ المقلدة من السياسيين مثل أوباما – وهي ممارسة مطبقة بالفعل مع بعض أدوات توليد الصور مثل Dall-E، التي ترفض توليد بعض الصور السياسية.

وقالت السيدة ليبوفيتش، من الشراكة من أجل الذكاء الاصطناعي، إن الصوت الاصطناعي كان يمثل تحديًا فريدًا في تحديده للمستمعين مقارنة بالتعديلات المرئية.

“إذا كنا بودكاست، هل ستحتاج إلى تسمية كل خمس ثوان؟” قالت السيدة ليبوفيتش. “كيف يكون لديك إشارة متسقة في مقطع صوتي طويل؟”

حتى لو اعتمدت المنصات أجهزة كشف الذكاء الاصطناعي، فيجب أن تتحسن التكنولوجيا باستمرار لمواكبة التقدم في مجال توليد الذكاء الاصطناعي.

وقالت TikTok إنها تعمل على بناء طرق كشف جديدة داخل الشركة وتستكشف خيارات الشراكات الخارجية.

“شركات التكنولوجيا الكبرى، الشركات التي تبلغ قيمتها مليارات الدولارات أو حتى تريليونات الدولارات – غير قادرة على القيام بذلك؟ وقال حافظ مالك، الأستاذ في جامعة ميشيغان-ديربورن والذي يعمل على تطوير أجهزة الكشف الصوتي التي تعمل بالذكاء الاصطناعي: “هذا أمر مفاجئ بالنسبة لي”. “إذا كانوا لا يريدون عمدا القيام بذلك؟ هذا مفهوم. لكنهم لا يستطيعون فعل ذلك؟ أنا لا أقبل ذلك.”

الصوت من إنتاج أدريان هيرست.





المصدر

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى