▪︎ مجلس نيوز
الخلاف محدث تهدف سياستها إلى حماية الأطفال والمراهقين على منصتها بعد التقارير تبين أن المحتالين يستخدمون التطبيق لإنشاء ونشر مواد الاعتداء الجنسي على الأطفال (CSAM) ، وكذلك لتهيئة المراهقين الصغار. المنصة الآن يحظر صراحة CSAM ذات الصور الواقعية التي تم إنشاؤها بواسطة AI. مثل واشنطن بوست تم الإبلاغ عنه مؤخرًا ، أدى الارتفاع في الذكاء الاصطناعي التوليدي أيضًا إلى انفجار صور نابضة بالحياة تحتوي على صور جنسية للأطفال. كان المنشور مرئي محادثات حول استخدام Midjourney – نص إلى صورة تولد AI على Discord – لإنشاء صور غير لائقة للأطفال.
بالإضافة إلى حظر CSAM الذي تم إنشاؤه بواسطة AI ، يحظر Discord الآن صراحة أي نوع آخر من المحتوى النصي أو الوسائط التي تجعل الأطفال جنسيًا. حظرت المنصة خوادم المواعدة للمراهقين أيضًا ، وتعهدت باتخاذ إجراءات ضد المستخدمين الذين ينخرطون في هذا السلوك. لسابقة ان بي سي نيوز وجد التحقيق أن خوادم Discord تم الإعلان عنها كخوادم مواعدة للمراهقين مع المشاركين الذين طلبوا صورًا عارية من القصر.
سبق أن حوكم المستخدمون البالغون لتهيئتهم للأطفال على Discord ، وهناك حتى عصابات إجرامية تبتز المستخدمين القصر لإرسال صور جنسية لأنفسهم. يمكن أن يساعد حظر خوادم المواعدة للمراهقين تمامًا في تخفيف المشكلة. أدرجت Discord أيضًا سطرًا في سياستها ، والذي ينص على أن المراهقين الأكبر سنًا الذين يتبين أنهم يعتنون بمراهقين أصغر سنًا سيتم “مراجعة واتخاذ إجراءات بموجب [its] السلوك الجنسي غير الملائم مع الأطفال وسياسة الاستمالة “.
بصرف النظر عن تحديث قواعده ، أطلقت Discord مؤخرًا أداة Family Center التي يمكن للوالدين استخدامها لمراقبة نشاط أطفالهم على خدمة الدردشة. في حين أن الآباء لن يكونوا قادرين على رؤية المحتويات الفعلية لرسالة أطفالهم ، فإن أداة الاشتراك تسمح لهم بمعرفة من هم أصدقاء أطفالهم ومن يتحدثون إليه على المنصة. تأمل Discord في أن تساعد هذه التدابير والأدوات الجديدة في الحفاظ على أمان مستخدميها القصر إلى جانب إجراءاتها القديمة ، والتي تشمل المسح الاستباقي للصور التي تم تحميلها على نظامها الأساسي باستخدام PhotoDNA.
يُعد Discord’s Family Center أداة اشتراك جديدة تسهل على المراهقين إبقاء والديهم وأولياء أمورهم على اطلاع بنشاطهم على Discord مع احترام استقلاليتهم. pic.twitter.com/UFY0ybo0LR
– ديسكورد (@ ديسكورد) 11 يوليو 2023
ظهر هذا المقال في الأصل على Engadget على https://www.engadget.com/discord-bans-teen-dating-servers-and-the-sharing-of-ai-generated-csam-071626058.html؟src=rss