5 الوجبات السريعة من التحقيق في CNBC في تطبيقات ومواقع “Nudify”

في صيف عام 2024 ، علمت مجموعة من النساء في منطقة مينيابوليس أن صديقًا من الذكور قد استخدم صورهم على Facebook مختلطة مع الذكاء الاصطناعي لإنشاء صور ومقاطع فيديو جنسية.

باستخدام موقع AI يسمى DeepSwap ، قام الرجل بإنشاء سراً من Deepfakes للأصدقاء وأكثر من 80 امرأة في منطقة المدن التوأم. خلق الاكتشاف صدمة عاطفية وقاد المجموعة للحصول على مساعدة من عضو مجلس الشيوخ في دولة متعاطفة.

كما يوضح تحقيق CNBC ، فإن صعود تطبيقات ومواقع “nudify” جعل من الأسهل من أي وقت مضى أن يخلق الناس DeepFakes غير الطبيعية. قال الخبراء إن هذه الخدمات في جميع أنحاء الإنترنت ، حيث يتم الترويج للعديد منها عبر إعلانات Facebook ، وهي متاحة للتنزيل على متاجر تطبيقات Apple و Google ويمكن الوصول إليها بسهولة باستخدام عمليات البحث على الويب البسيطة.

وقال هالي ماكنمارا ، نائب الرئيس الأول للمبادرات والبرامج الاستراتيجية في المركز الوطني للاستغلال الجنسي: “هذا هو حقيقة المكان الذي توجد فيه التكنولوجيا في الوقت الحالي ، وهذا يعني أن أي شخص يمكن أن يكون ضحية حقًا”.

تضيء تقارير CNBC الضوء على المستنقع القانوني المحيط بـ AI ، وكيف أصبحت مجموعة من الأصدقاء شخصيات رئيسية في مكافحة الإباحية غير المستقبلية التي تم إنشاؤها.

هنا خمسة الوجبات السريعة من التحقيق.

لأن النساء لم يكن دون السن القانونية والرجل الذي أنشأت Deepfakes لم يوزع المحتوى أبدًا ، لم تكن هناك جريمة واضحة.

وقال مولي كيلي ، أحد ضحايا مينيسوتا وطالب القانون: “لم يكسر أي قوانين ندركها”. “وهذا مشكلة.”

الآن ، يدافع كيلي والنساء إلى مشروع قانون محلي في ولايتهن ، اقترحه السناتور الديمقراطي إيرين ماي ، يهدف إلى منع الخدمات في مينيسوتا. إذا أصبح مشروع القانون قانونًا ، فسوف يفرض غرامات على الكيانات التي تتيح إنشاء DeepFakes.

وقالت Maye Quade إن مشروع القانون يذكرنا بالقوانين التي تحظر على النظر في Windows لالتقاط صور واضحة دون موافقة.

وقالت Maye Quade في مقابلة مع CNBC ، في إشارة إلى سرعة تطوير الذكاء الاصطناعي: “لم نتعامل مع ظهور تقنية الذكاء الاصطناعي بنفس الطريقة”.

وقالت جيسيكا جويستوليس ، واحدة من ضحايا مينيسوتا ، إنها لا تزال تعاني من الذعر والقلق الناجمة عن الحادث العام الماضي.

وقالت في بعض الأحيان ، إن النقرات البسيطة على مصراع الكاميرا يمكن أن تسبب لها أن تفقد أنفاسها وتبدأ ترتجف ، تورم عيناها بالدموع. هذا ما حدث في مؤتمر حضرته بعد شهر من تعلم الصور أولاً.

وقال جويستوليس “سمعت أن الكاميرا تنقر ، وكنت حرفيًا في أحلك أركان الإنترنت”. “لأنني رأيت نفسي أفعل أشياء لا أفعل الأشياء.”

قارنت ماري آن فرانكس ، الأستاذة في كلية الحقوق بجامعة جورج واشنطن ، التجربة بالمشاعر التي يصفها الضحايا عند الحديث عن ما يسمى بالإباحية ، أو نشر صور ومقاطع الفيديو الجنسية للشخص على الإنترنت ، وغالبًا ما يكون من قبل شريك رومانسي سابق.

وقال فرانكس ، وهو أيضًا رئيس لمبادرة الحقوق المدنية السيبرانية ، وهي منظمة غير ربحية مكرسة لمكافحة الإساءة عبر الإنترنت والتمييز: “يجعلك تشعر أنك لا تملك جسمك ، وأنك لن تكون قادرًا على استعادة هويتك الخاصة”.

قبل أقل من عقد من الزمان ، سيحتاج الشخص إلى أن يكون خبيرًا في الذكاء الاصطناعي لصنع الأفعال العميقة الصريحة. بفضل خدمات Nudifier ، كل ما هو مطلوب هو اتصال بالإنترنت وصورة على Facebook.

وقال الباحثون إن نماذج الذكاء الاصطناعى الجديدة ساعدت في إدخال موجة من خدمات Nudify. غالبًا ما يتم تجميع النماذج ضمن تطبيقات سهلة الاستخدام ، بحيث يمكن للأشخاص الذين يفتقرون إلى المهارات التقنية إنشاء المحتوى.

وبينما يمكن أن تحتوي خدمات Nudify على إخلاء المسئولية حول الحصول على الموافقة ، فمن غير الواضح ما إذا كانت هناك أي آلية إنفاذ. بالإضافة إلى ذلك ، تقوم العديد من مواقع Nudify بتسويق نفسها ببساطة كأدوات لتبديل الوجه.

وقال أليكسيوس مانتزارليس ، خبير أمن الذكاء الاصطناعي في كورنيل تك: “هناك تطبيقات تقدم لعوب وهي في الواقع تعني في المقام الأول كإباحية في الغرض”. “هذا تجعد آخر في هذا الفضاء.”

يسمى الموقع الذي تم استخدامه لإنشاء المحتوى DeepSwap ، وليس هناك الكثير من المعلومات حوله عبر الإنترنت.

في بيان صحفي نُشر في يوليو ، استخدم Deepswap خطًا في هونغ كونغ ديتورز وشمل اقتباسًا من بينين وو ، الذي تم التعرف عليه في الإصدار كرئيس تنفيذي ومؤسس مشارك. كان الاتصال الإعلامي على الإصدار هو شون بانكس ، الذي تم إدراجه كمدير للتسويق.

لم تتمكن CNBC من العثور على معلومات عبر الإنترنت حول WU ، وأرسلت رسائل بريد إلكتروني متعددة إلى العنوان المقدم للبنوك ، ولكن لم تتلق أي رد.

يسرد موقع Deepswap حاليًا “Mindspark AI Limited” كاسم لشركته ، ويوفر عنوانًا في دبلن ، ويذكر أن شروط الخدمة الخاصة بها “تحكمها قوانين أيرلندا وتفسرها وفقًا لقوانين أيرلندا”.

ومع ذلك ، في يوليو ، لم تذكر صفحة DeepSwap نفسها أي ذكر لـ Mindspark ، وبدلاً من ذلك قالت هونغ كونغ.

سيؤدي مشروع قانون Maye Quade ، الذي لا يزال يتم النظر فيه ، إلى فرض شركات التكنولوجيا الدقيقة التي تقدم خدمات Nudify 500،000 دولار لكل DeepFake غير المستقر ، والتي تولدها في ولاية مينيسوتا.

ومع ذلك ، يشعر بعض الخبراء بالقلق من أن خطط إدارة ترامب لتعزيز قطاع الذكاء الاصطناعي ستقوض جهود الدول.

في أواخر يوليو ، وقع ترامب أوامر تنفيذية كجزء من خطة عمل الذكاء الاصطناعى في البيت الأبيض ، مما يؤكد تنمية الذكاء الاصطناعي باعتباره “ضرورة الأمن القومي”.

تأمل كيلي ألا يعرض أي دفع فدرالي من الذكاء الاصطناعى الجهود التي بذلتها نساء مينيسوتا.

وقال كيلي: “أشعر بالقلق من أننا سنستمر في تركنا وراءنا ونضحي به على مذبح محاولة الحصول على بعض السباق الجيوسياسي من أجل الذكاء الاصطناعى القوي”.

يشاهد: الصعود المقلق لتطبيقات AI ‘Nudify’ التي تنشئ صورًا صريحة للأشخاص الحقيقيين.