من المحتمل أن تكون صور تايلور سويفت التي تم إنشاؤها بواسطة الذكاء الاصطناعي وانتشرت على نطاق واسع عبر وسائل التواصل الاجتماعي في أواخر يناير، قد نشأت كجزء من التحدي المتكرر على إحدى لوحات الرسائل الأكثر شهرة على الإنترنت، وفقًا لتقرير جديد.
قامت شركة Graphika، وهي شركة أبحاث تدرس المعلومات المضللة، بتتبع الصور إلى مجتمع واحد على 4chan، وهي لوحة رسائل معروفة بمشاركة خطاب الكراهية ونظريات المؤامرة، وبشكل متزايد، المحتوى العنصري والمهين الذي تم إنشاؤه باستخدام الذكاء الاصطناعي.
قال الباحثون إن الأشخاص الذين أنشأوا صور المغنية على موقع 4chan فعلوا ذلك في نوع من اللعبة، وهو اختبار لمعرفة ما إذا كان بإمكانهم إنشاء صور بذيئة (وفي بعض الأحيان عنيفة) لشخصيات نسائية مشهورة.
انتشرت صور Swift الاصطناعية على منصات أخرى وتمت مشاهدتها ملايين المرات. واحتشد المعجبون للدفاع عن سويفت، وطالب المشرعون بحماية أقوى ضد الصور التي ينشئها الذكاء الاصطناعي.
وجدت Graphika سلسلة من الرسائل على 4chan تشجع الأشخاص على محاولة التهرب من الإجراءات الوقائية التي تم إعدادها بواسطة أدوات إنشاء الصور، بما في ذلك DALL-E من OpenAI، وMicrosoft Designer، وBing Image Creator. تم توجيه المستخدمين لمشاركة “النصائح والحيل لإيجاد طرق جديدة لتجاوز المرشحات” وقيل لهم: “حظًا سعيدًا، كن مبدعًا”.
قال الخبراء إن مشاركة المحتوى البغيض عبر الألعاب تتيح للأشخاص الشعور بالارتباط بمجتمع أوسع، ويتم تحفيزهم بالطابع الذي يتلقونه للمشاركة. قبل الانتخابات النصفية في عام 2022، انخرطت مجموعات على منصات مثل Telegram وWhatsApp وTruth Social في مطاردة تزوير الانتخابات أو الفوز بالنقاط أو الألقاب الفخرية لإنتاج أدلة مفترضة على مخالفات الناخبين. (الدليل الحقيقي على تزوير الاقتراع نادر للغاية).
في سلسلة رسائل 4chan التي أدت إلى الصور المزيفة للسيدة سويفت، تلقى العديد من المستخدمين مجاملات – “الجنرال الجميل”، كتب أحدهم – وطُلب منهم مشاركة اللغة السريعة المستخدمة لإنشاء الصور. أعرب أحد المستخدمين عن أسفه لأن المطالبة أنتجت صورة لأحد المشاهير الذي كان يرتدي ملابس السباحة وليس عارية.
القواعد التي نشرتها 4chan والتي تنطبق على مستوى الموقع لا تحظر على وجه التحديد الصور الجنسية الصريحة التي تم إنشاؤها بواسطة الذكاء الاصطناعي للبالغين الحقيقيين.
“نشأت هذه الصور من مجتمع من الأشخاص الذين يحفزهم “التحدي” المتمثل في التحايل على ضمانات منتجات الذكاء الاصطناعي التوليدية، ويُنظر إلى القيود الجديدة على أنها مجرد عقبة أخرى أمام “الهزيمة”،” كريستينا لوبيز جي، كبيرة المحللين في Graphika، قال في بيان. “من المهم أن نفهم الطبيعة المتلاعبة لهذا النشاط الضار من أجل منع المزيد من إساءة الاستخدام من المصدر.”
وقالت السيدة لوبيز ج. إن السيدة سويفت “ليست الضحية الوحيدة على الإطلاق”. في مجتمع 4chan الذي تلاعب بمظهرها، ظهر العديد من الممثلات والمغنيات والسياسيين بشكل متكرر أكثر من السيدة سويفت.
وقالت OpenAI في بيان لها إن الصور الفاضحة للسيدة Swift لم يتم إنشاؤها باستخدام أدواتها، مشيرة إلى أنها تقوم بتصفية المحتوى الأكثر وضوحًا عند تدريب نموذج DALL-E الخاص بها. وقالت الشركة أيضًا إنها تستخدم حواجز أمان أخرى، مثل رفض الطلبات التي تطلب شخصية عامة بالاسم أو تسعى للحصول على محتوى صريح.
وقالت مايكروسوفت إنها “تواصل التحقيق في هذه الصور” وأضافت أنها “عززت أنظمة السلامة الحالية لدينا لمنع إساءة استخدام خدماتنا للمساعدة في إنشاء صور مثلها”. تحظر الشركة على المستخدمين استخدام أدواتها لإنشاء محتوى للبالغين أو محتوى حميم دون موافقة وتحذر المخالفين المتكررين من احتمال حظرهم.
أصبحت المواد الإباحية المزيفة التي تم إنشاؤها باستخدام البرامج بمثابة آفة منذ عام 2017 على الأقل، حيث أثرت على المشاهير غير الراغبين، والشخصيات الحكومية، ومشغلي البث على Twitch، والطلاب وغيرهم. ولا تترك القواعد التنظيمية غير المكتملة سوى عدد قليل من الضحايا الذين يمكنهم اللجوء إلى القانون؛ وعدد أقل من ذلك لديه قاعدة جماهيرية مخصصة للتخلص من الصور المزيفة من خلال منشورات “Protect Taylor Swift” المنسقة.
وبعد انتشار الصور المزيفة للسيدة سويفت، وصفت كارين جان بيير، السكرتيرة الصحفية للبيت الأبيض، الوضع بأنه “مثير للقلق”، وقالت إن التراخي في تطبيق شركات وسائل التواصل الاجتماعي لقواعدها الخاصة يؤثر بشكل غير متناسب على النساء والفتيات. وقالت إن وزارة العدل قامت مؤخرًا بتمويل أول خط مساعدة وطني للأشخاص المستهدفين بالاعتداء الجنسي على الصور، والذي وصفته الوزارة بأنه يلبي “الحاجة المتزايدة للخدمات” المتعلقة بتوزيع الصور الحميمة دون موافقة. ووصفت SAG-AFTRA، النقابة التي تمثل عشرات الآلاف من الممثلين، الصور المزيفة للسيدة سويفت وآخرين بأنها “سرقة لخصوصيتهم وحقهم في الاستقلال الذاتي”.
تم أيضًا استخدام الإصدارات المولدة صناعيًا من السيدة سويفت للترويج لعمليات الاحتيال التي تتضمن أدوات طهي Le Creuset. تم استخدام الذكاء الاصطناعي لانتحال صوت الرئيس بايدن في مكالمات آلية لإثناء الناخبين عن المشاركة في الانتخابات التمهيدية في نيو هامبشاير. يقول خبراء التكنولوجيا أنه مع زيادة سهولة الوصول إلى أدوات الذكاء الاصطناعي وأسهل في الاستخدام، يمكن إنشاء محاكاة صوتية ومقاطع فيديو ذات صور رمزية واقعية في دقائق معدودة.
قال الباحثون إن أول صورة جنسية صريحة للذكاء الاصطناعي للسيدة سويفت على موقع 4chan ظهرت في 6 يناير، أي قبل 11 يومًا من ظهورها على Telegram وقبل 12 يومًا من ظهورها على X. وذكرت 404 Media في 25 يناير أن قفزت صور Swift الفيروسية إلى منصات وسائل التواصل الاجتماعي الرئيسية من 4chan ومجموعة Telegram المخصصة للصور المسيئة للنساء. وذكرت مؤسسة الأخبار البريطانية ديلي ميل في ذلك الأسبوع أن موقعًا معروفًا بمشاركة الصور الجنسية للمشاهير نشر صور سويفت في 15 يناير.
وقال جو بيناروش، رئيس العمليات التجارية بالشركة، إن شركة X منعت لعدة أيام عمليات البحث عن تايلور سويفت “مع قدر كبير من الحذر حتى نتمكن من التأكد من أننا نقوم بتنظيف وإزالة جميع الصور”.
