تقنية

مثل الصوتيات التي تم إنشاؤها بواسطة IA غزت TikTok


في مقطع فيديو من TikTok تم إنتاجه بشكل مذهل، يمكنك سماع الرئيس باراك أوباما – وهو صوت يشبه التسلق – يدافع عن نظرية جديدة ومتفجرة عن مؤامرة حول التوبة القاتلة من الشيف القديم.

“لا أستطيع فهم أساس التهم في وجهي”، كما يقول الصوت، “لتسجيل أهمية الوحدة والفهم وعدم إطلاق عصير”.

في الواقع، لم يكن عصر صوت الرئيس. إذا تم ذلك من خلال تزييف مقنع، تم إنشاؤه باستخدام ذكاء اصطناعي من خلال أدوات جديدة ومتطورة يمكنها استنساخ الأصوات الحقيقية لإنشاء دمى ذكاء اصطناعية بنقرات قليلة.


الصوت الناتج عن هذا المقطع من فيديو TikTok كان أصليًا، لكن الراوي وصوت الرئيس باراك أوباما تم إنشاؤه بأدوات ذكاء مصطنعة.


لقد تم استخدام التكنولوجيا لإنشاء أصوات ذكاء اصطناعية بشكل مذهل وتصفيق كبير من الشركة مثل ElevenLabs التي أطلقت سلسلة من الأدوات الجديدة على مدار العام الماضي. منذ ذلك الحين، تم تحويل التزييف الصوتي سريعًا إلى سلاح جديد في ساحة معركة التضليل عبر الإنترنت، وكل ما من شأنه أن يعزز التضليل السياسي قبل انتخابات 2024، ويمكن للمبدعين أن يجروا بطريقة ما من خلال طرح نظرياتك المتآمرة في عالم المشاهير ومقدمي الأخبار والسياسيين.

يجمع الصوت الزائف أيضًا بين التهديدات التي تولد ذكاءً اصطناعيًا من خلال مقاطع فيديو “فائقة الدقة” أو التزييف العميق باللغة الإنجليزية، ونصوص ChatGPT التي تشبه الكتبة البشرية وصور الخدمات مثل Midjourney.

لقد أدت الكائنات المحملة بمراقبة المعلومات المضللة إلى زيادة عدد مقاطع الفيديو المصحوبة بأصوات ذكاء اصطناعية بفضل قيام منتجي المحتوى وبائعي المعلومات المضللة بتبني أدوات جديدة. تعد المنصات الاجتماعية، مثل TikTok، مفيدة لترويج وترويج هذه المحتويات.

NewsGuard، شركة تراقب المعلومات التضليلية عبر الإنترنت، تكتشف الفيديو الذي صنعه مع أوباما. قم بتسجيل إخبارية بأن المجموعة نشرت في سبتمبر، سيتم نشر الفيديو ضمن إحدى المجموعات المختارة من TikTok التي تروج للتأكيدات المملوءة بصوت كاذب والتي تحدد NewsGuard. تم نشر الحسابات في معظم مقاطع الفيديو الخاصة بالإشاعات حول أشهر الروايات بصوت ذكاء مصطنع، ولكنها عززت أيضًا التأكيد على أن أوباما مثلي الجنس ونظرية تآمرية مفادها أن أوبرا وينفري متورطة في حركة الأشخاص المنبوذين. استقبلت القنوات مئات الملايين من الزيارات والتعليقات التي تقترح أن يبني بعض المشاهدين التأكيدات.

باستخدام NewsGuard، على الرغم من أن القنوات لا تحتوي على أجندة سياسية واضحة، فإن استخدام الذكاء الاصطناعي لمشاركة الشائعات والشائعات، في معظم إعلاناتها، يوفر طريقة لأشخاص فاسدين يريدون التلاعب بالرأي العام ومشاركة الأكاذيب الكاذبة مع الجمهور. ماسيفاس أون لينيا.

أكد جاك بروستر، المحرر في NewsGuard، أن “هذه هي الطريقة التي ينضم بها هؤلاء الأشخاص ويقدمون النصائح التي يمكنهم من خلالها جذب مشاركة عامة واسعة النطاق”. “عندما يكون لديك مصداقية في التعامل مع عدد كبير من المتابعين، يمكنك تقديم محتوى أكثر تآمرًا”.

يقدم TikTok إرشادات تجعل المحتوى الواقعي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي زائفًا، لكنه لا يظهر في مقاطع الفيديو التي يتم تمييزها بواسطة NewsGuard. أعلن TikTok أنه أزال أو طال انتظاره للتوصية بحسابات ومقاطع فيديو مختلفة تتعلق بالسياسات ذات الصلة بانتهاكات المرور عبر منظمات الإشعارات وتمويل المعلومات التضليلية الضارة. لقد أزالوا أيضًا الفيديو الذي تم إنشاؤه بذكاء اصطناعي والذي يقلد أوباما لأنه ينتهك سياسة الوسائط الاصطناعية في TikTok حيث يحتوي على محتوى واقعي للغاية بدون تغيير أو تغيير.

“tiktok es la primera plataforma que ofrece una herramienta para que los creadores equeten los contenidos generados con inteligencia صوت من TikTok، للإشارة إلى علامة تجارية تعرض ما لا يقل عن منظمة بدون ربح جيد، شراكة على الذكاء الاصطناعي.

على الرغم من أن أخبار NewsGuard يتم التركيز عليها على TikTok، وهي منصة ستشاهد كل مرة مصدرًا للإشعارات بشكل أكبر، فإنها ستجد محتوى مماثلًا منتشرًا على YouTube وInstagram وFacebook.

تتيح المنصات مثل TikTok إنشاء محتوى بذكاء مصطنع للأشخاص العامين، بين مديري الأخبار، دائمًا وعندما لا يتم نشر المعلومات التضليلية. تم نشر مقاطع الفيديو الساخرة التي تجري محادثات تم إنشاؤها بذكاء مصطنع بين السياسيين والمشاهير ورجال الأعمال – بعض الموتى – على نطاق واسع لأن الأدوات أصبحت شائعة. تمت معالجة الصوت بإضافة غطاء جديد إلى مقاطع الفيديو الرائعة على المنصات التي قدمت إصدارات مزيفة لتوم كروز وإيلون ماسك ومديري الأخبار مثل جايل كينغ ونورا أودونيل. تمت تجربة أحدث العروض، وTikTok ومنصات أخرى مع سلسلة من الإعلانات الممتعة التي تضم مشاهير للغاية مثل Cruise وMrBeast، نجم YouTube.

يمكن أن تؤثر قوة هذه التقنيات بشكل عميق على الجمهور. “نحن نعلم أن الصوت والفيديو سيتم التقاطهما بشكل أكبر في ذاكرتنا للنص”، أكدت كلير ليبوفيتش، مديرة الذكاء الاصطناعي وتكامل وسائل الاتصال في شراكة الذكاء الاصطناعي، وهي منظمة تعمل مع شركات تكنولوجية و الوسائط وسلسلة من التوصيات لإنشاء محتوى يتم إنشاؤه بذكاء اصطناعي ومشاركته وتوزيعه.

في الشهر الماضي، أعلن TikTok أنه سيقدم آدابًا يمكن للمستخدمين اختيارها لإظهار ما إذا كانت مقاطع الفيديو الخاصة بهم تستخدم الذكاء الاصطناعي. في أبريل، يسمح التطبيق بجذب المستخدمين الذين يكشفون عن الوسائط التي تم التلاعب بها والتي تعرض مشاهد واقعية وتمنع الشباب والشخصيات الخاصة من التزييف المفرط. ديفيد راند، أستاذ علوم الإدارة في معهد ماساتشوستس للتكنولوجيا، والذي استشار TikTok لتقديم المشورة بشأن كيفية تنقيح الآداب الجديدة، ذكر أن الاستخدام محدود في موضوع المعلومات لأن “الأشخاص الذين يعتزمون تعلمها” لا يمكنك التفكير في الآداب الموجودة في المحتوى الخاص بك”.

وأعلن TikTok أيضًا عن الشهر الماضي الذي سيختبر فيه أدوات آلية لاكتشاف الوسائط التي تم إنشاؤها واستردادها بذكاء اصطناعي، على أن يكون الراند هو الأكثر فائدة على أقل تقدير.

يحظر موقع YouTube أن تستخدم الإعلانات السياسية ذكاءً مصطنعًا، كما يحظر على المعلنين الآخرين أن ينبهوا إعلاناتهم عند استخدامها. في عام 2020، قامت شركة Meta، إحدى الشركات التابعة لـ Facebook، بدمج إرشادات لأدوات التحقق الخاصة بها والتي تصف ما إذا كان الفيديو “معدلًا”. YX، قبل التعرف على Twitter، يتطلب الأمر ذلك contenido engañoso إنه “تم تعديله أو التلاعب به أو تصنيعه بطريقة مهمة وممتعة” لانتهاك سياسته. لا تستجيب الشركة لطلبات تقديم التعليقات.

تم إنشاء صوت أوباما بذكاء اصطناعي باستخدام أدوات ElevenLabs، وهي شركة تنطلق في مشهد دولي على مدار العام الماضي باستخدام أداة الذكاء الاصطناعي المجانية التي تحول النص إلى صوتك ويمكنها إنتاج مقاطع صوتية واقعية في ثوانٍ. تسمح الأداة أيضًا للمستخدمين بتحميل أصوات الآخرين وإنتاج نسخة رقمية.

بعد إطلاق الأداة، تم تنظيم مستخدمي 4chan، منتدى مناقشة الحق، لإنشاء نسخة زائفة للممثلة إيما واتسون، لتلقي خطبة خطبة معادية للسامية واسعة النطاق.

ElevenLabs، وهي شركة مكونة من 27 شركة تقع في مدينة نيويورك الجديدة، تستجيب للاستخدام بشكل غير مباشر مما يسمح بأن وظيفة الاستنساخ الخاصة بك متاحة فقط لمستخدمي الدفع. تستخدم الشركة أيضًا أداة كشف ذكاء اصطناعي قادرة على تحديد محتوى هذا النوع الذي ينتج خدماتها.

“أكثر من 99 عامًا من مستخدمي منصتنا هم من يبتكرون محتوى مثيرًا للاهتمام ومبتكرًا ومفيدًا، ولكنهم يدركون أن لديهم أمثلة على استخدام غير مكلف ويتبعون تطوير وتنفيذ دفاعات الأصدقاء”، تعليقًا على أحد ممثلي الشركة ElevenLabs هي وسيلة تواصل يتم إرسالها عبر البريد الإلكتروني.

في الاختبارات التي أجرتها صحيفة نيويورك تايمز، تم تحديد كاشف ElevenLabs بنجاح الصوت من حسابات TikTok التي تم إنشاؤها بواسطة الذكاء الاصطناعي. لكن الأداة ستفشل عند تشغيل الموسيقى على المقطع أو عندما يكون الصوت مشوهًا، مما نقترح أن يتمكن ناشري المعلومات المضللة من تجنب الاكتشاف بسهولة.

قامت بعض شركات الذكاء الاصطناعي والأكاديميين باستكشاف طرق أخرى للتعرف على الملفات الصوتية الزائفة، مما أدى إلى اختلاف النتائج. درست بعض الشركات إمكانية إضافة علامة تجارية للمياه غير المرئية إلى الصوت الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. تم الضغط على شركات الذكاء الاصطناعي الأخرى للحد من الأصوات التي يمكن استنساخها، ومنع النسخ المتماثلة من السياسيين مثل أوباما، وهي ممارسة يتم تطبيقها على بعض أدوات إنشاء الصور مثل Dall-E، والتي لم تعد قادرة على إنشاؤها بعض الصور السياسية.

أكد ليبوفيتش، من شركة Partnership on AI، أن الصوت الاصطناعي يتطلب سردًا فريدًا للتلميحات عند المقارنة مع التعديلات المرئية.

“إذا كان لديك بودكاست، هل تحتاج إلى آداب كل خمس ثوان؟”. سؤال ليبوفيتش. “¿كيف يكون لديك مؤشر متماسك على صوت طويل؟”.

على الرغم من أن المنصات تعتمد أجهزة كشف IA، يجب أن تعمل التكنولوجيا باستمرار على الاستمرار طوال اليوم مع التقدم في جيل هذه التكنولوجيا.

قال TikTok إنه يقوم بتطوير طرق جديدة للكشف داخليًا واستكشاف خيارات التعاون الخارجي.

“الشركات التكنولوجية الكبرى، أصحاب الملايين أو حتى أصحاب المليارات، هل هي عاجزة عن العمل؟ لقد بدا مذهلاً”، أكد حافظ مالك، الأستاذ في جامعة ميشيغان-ديربورن، أنه قام بتطوير أجهزة كشف الصوت بالذكاء الاصطناعي. “إذا كانت الطريقة المتعمدة هي عدم الرغبة في القيام بذلك، فهذا أمر مفهوم. ¿Pero que no puedan hacerlo? لا تقبل ذلك”.

كتب ستيوارت أ. طومسون عن كيفية نشر المعلومات الكاذبة والممتعة عبر الإنترنت وكيف تؤثر على جميع الأشخاص في العالم. يتمركز في معلومات التضليل والمعلومات الكاذبة وغيرها من المحتويات الممتعة. المزيد من ستيوارت أ. طومسون

سابنا ماهيشواري هي مراسلة أعمال تدعم TikTok وشركات الوسائط الناشئة. ما قبل الكتابة عن التجارة الصغيرة والدعاية. اتصل بنا على sapna@nytimes.com المزيد من سابنا ماهيسواري






المصدر

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى