حرية التعبير والقيم الاجتماعية

• إن إدارة المحتوى هي عملية يتم من خلالها التحكم في منصات التواصل الاجتماعي التي يتم قبول المحتوى بها في مساحاتها الخاصة. من خلال المصطلحات العامة، تتكامل العملية مع ثلاث مراحل: تحديد المعايير واكتشاف المخالفات وسلسلة الإجراءات.

• لقد أصبح تعديل المحتوى عبر الإنترنت موضوعًا للمناقشة ذا صلة بممارسة حرية التعبير. يتطلب قانون أنظمة الكشف عن المحتوى الآلي "المضرة أو الضائعة" تعزيزات إضافية لحجم المعلومات التي قد تخضع الآن للرقابة، ومعلمات الشكل الخاص المناسبة لحظر المحتوى، ووجود الأشخاص، بين الآخرين.

• يعد القسم 230 من قواعد السلوك في الاتصالات في الولايات المتحدة أداة قانونية أساسية لاستيعاب الالتزامات والإمكانيات للمنافع الاجتماعية فيما يتعلق بالمحتويات التي ينتجها مستخدمو العالم.

• يتفاعل الدوريون مع مشاكل خاصة عندما يتعاملون مع الشبكات الاجتماعية. على الرغم من أن هذه المنصات لا تحتوي على معايير خاصة لتحقيق هذه الأهداف، إلا أن القواعد العامة التي تفكر فيها يمكن أن تكون مفيدة في هذه الحالات.

• تعلم المنصات أن عملية الاعتدال الخاصة بها تحتوي على أخطاء. ولهذا السبب تم إنشاء آليات استدعاء حتى يتمكن المستخدمون من طلب مراجعة قراراتهم.

مقدمة

من المؤكد أن الشبكات الاجتماعية قد عززت حرية التعبير في العالم. ومع ذلك، فقد أدى اعتماده أيضًا إلى إنشاء علاقات قانونية واجتماعية ستحافظ على قوتها حاليًا. هل يجب أن تكون المعايير قابلة للتطبيق بحيث لا تكون لها حدود طبيعية؟ كيف تتحكم في المنصات ذات المحتوى الإشكالي الذي أنشأه مستخدموك؟ هل لديك شبكات التواصل الاجتماعي وجوب التحكم في محتوى القصص؟ في هذه الوحدة يتم استخدام هذه الأسئلة وغيرها المتعلقة بالمجتمعات الاجتماعية وحرية التعبير.

I. معتدلة المحتوى

ما هو الاعتدال في المحتوى على الشبكات الاجتماعية؟

إدارة المحتوى هي عملية مراقبة وتقييم المحتوى الذي تم إنشاؤه بواسطة المستخدمين على المنصات عبر الإنترنت، مثل شبكات التواصل الاجتماعي أو المنتديات أو مواقع الإشعارات أو تطبيقات المراسلة. 

تعديل المحتوى الذي يحققه منصات الشبكات الاجتماعية، في النهاية العامة، العملية المتكاملة ثلاث مراحل:

1. تعريف ونشر القواعد: الأنظمة الأساسية المحددة للتحكم في مساحاتك. يمكن أن تكون هذه القواعد نتيجة لحظر نشر المحتوى الذي يجهله الآخرون، مما يؤدي إلى منع بيع الأجهزة باستخدام هذه المساحات. كما أوضح أنجيل دياز ولورا هيشت فيليلا، "على الرغم من أن الصيغ المحددة تختلف من منصة إلى أخرى، إلا أنها تميل إلى أن تكون أكثر تشابهًا مع الاختلاف. من الناحية العملية، فإن عمليات الحذف في حالة ارتفاع الملف الشخصي في منصة تميل إلى أن تكون كذلك" مراجعات لمنصات مهمة أخرى، بشكل مستقل عن الاختلافات في اللغة الخاصة بكل من هاتين اللغتين القياسيتين”¹.

لا يتم وضع القواعد على الحجر. وعلى العكس من ذلك، فهي تتغير باستمرار. في بداياتها، تحتوي المنصات مثل Facebook وYouTube على مجموعات من القواعد الذكية للغاية التي تستمر في التطور مع تطور المنصات نفسها. على سبيل المثال، في عام 2006، تم وضع قواعد YouTube في صفحة واحدة²:

اليوم، تتضمن معايير YouTube موقعًا مخصصًا لعقود من الصفحات الفرعية وعقود من القواعد³. يمكن أن تكون القواعد مفصلة جدًا، وأكثر مما ينبغي أن تكون عيونًا وطنية. على سبيل المثال، تمنع السياسة المتعلقة باللغة التي تحث على الكراهية التعليقات الجيدة ضد الأشخاص الذين يعملون في "الخصائص المحمية" للرز، والأعراق، والجنسية، والإعاقة، والدين، والطبقة، والتوجه الجنسي، والجنس، والهوية الجنسية، وما إلى ذلك. قبر انفرميداد. تسبق هذه السياسة حالات محددة مثل ما يلي: يحظر فيسبوك الإهانات "باستثناء الإهانات المحددة على أساس نوعي في سياق انقطاع الحب، والتي يتم تعريفها على أنها (...) عبارات أو مصطلحات مؤذية بقصد الإهانة، بما في ذلك، ما بين أخرى: "cabrón"، "hijo de perra"".

2. اكتشاف المخالفات المحتملة: استمرارًا، توفر المنصات أنظمة اكتشاف المخالفات المحتملة، حيث تجمع الإرشادات بين الأدوات الآلية كاعتدال إنساني. تستخدم هذه الأنظمة الآلية الخوارزميات والذكاء الاصطناعي لتحديد المحتوى الذي قد ينتهك المعايير. على سبيل المثال، يمكنك اكتشاف الصور أو النصوص التي تحتوي على رسومات عنف أو محتوى جنسي صريح. ومع ذلك، بسبب الاكتمال والطبيعة الموضوعية للمحتوى، يتطلب الاعتدال أيضًا تدخلاً إنسانيًا. يقوم المشرفون البشريون بمراجعة وتقييم المحتوى الذي تم تحديده من خلال الأنظمة الآلية أو التقارير من قبل المستخدمين، مع الأخذ في الاعتبار عوامل مثل السياق الثقافي الذي لا يمكن للأنظمة الآلية أن تأخذه في الاعتبار دائمًا.

بناءً على Meta، تكتشف الأنظمة الآلية أكثر من 90% من المحتوى الذي تقوم به في معظم سياساتها⁴. تنشر هذه الشركة معلومات شفافة تشير إلى أن نسبة حالات المخالفات التي يتم اكتشافها بشكل استباقي عبر المنصة وكميات من خلال تقارير المستخدمين⁵.

3. Toma de acciones: أخيرًا، يمكن للمنصات إزالة المحتويات التي تعتبر مخالفات وتؤدي إلى أنواع أخرى من الإجراءات. على سبيل المثال، في المصطلحات العامة، ميتا توما ثلاثة أنواع من الوسائل: إزالة (المحتوى أو البيانات)، تقليل (توزيع المحتوى، "بما في ذلك عندما لا تفكر في كل شيء في قاعدة الإزالة بحكم سياستنا") والإعلام (الموافقة على الإعلانات أو المعلومات) إضافية لسياق المستخدمين)⁷.

ثانيا. تعديل المحتوى تلقائيًا

إن إدارة المحتوى هي عملية مراقبة وتقييم المحتوى الذي تم إنشاؤه بواسطة المستخدمين على المنصات عبر الإنترنت، مثل شبكات التواصل الاجتماعي أو المنتديات أو مواقع الإشعارات أو تطبيقات المراسلة. من الناحية العامة، العملية متكاملة: (i) إنشاء القواعد التي تحدد فئة المحتوى غير المسموح بها، (ii) نشر الأنظمة لاكتشاف المخالفات المحتملة، (iii) فرض القيود على المحتويات والعقوبات على المستخدمين. ستتم هذه العملية من خلال مزيج من الاعتدال اليدوي الذي يتم تنفيذه من قبل البشر، وخوارزمية الاعتدال الآلية لكل شيء.

يمكن لاعتدال المحتوى أن يتبع نماذج مختلفة⁸:

• الاعتدال المسبق: في حين أن هذا هو النموذج، بحيث يتمكن المستخدم من نشر محتوياته على الشبكات الاجتماعية أو المنصات عبر الإنترنت، فإن الأمر نفسه يتطلب المرور أولاً من خلال مراجعة دليل المشرف. تحدد المراجعة ما إذا كان المحتوى مناسبًا للنشر أو إذا كان يجب إعادة شرائه.

• التعديل: بعد أن يكون هذا النموذج، المستخدم تحت المعلومات التي يريدها ويتم نشرها على الفور، دون الحاجة إلى المرور عبر مرشح أو مشاهدة جيدة من خلال وسيط.

• الإشراف التفاعلي: في هذا النموذج، يتم نشر المحتوى الذي يرسله المستخدمون إلى المنصات الرقمية دون قيود، ويحدث الإشراف فقط مثل الرد على الأسئلة أو التنديد أو الالتماسات المقدمة من قبل المستخدمين. نحن نقرر أن المحتوى الضار يظل دائمًا عبر الإنترنت دون أن يتم إدانته.

• الإشراف الموزع: أسفل هذا النموذج، القرار بشأن ما يمكن الاحتفاظ به من محتويات وما يجب إزالته يتم إجراؤه بالكامل في المجتمع، من خلال آلية انتخابية أو مساعدة من خلال مبادرة إزالة أو حظر محدد.

بشكل عام، تجمع المنصات الأكثر شعبية بين هذه النقاط: الانتقال إلى كل مرشح يحتوي على محتوى يتم نشره للتعرف على الانتهاكات الأكثر خطورة لسياساتك (على سبيل المثال، محتويات الاستغلال الجنسي للأطفال)، ولكن أيضًا تفتح المجال أمام الإمكانية لاس إدانات المجتمع.

يتم تقديم الإشراف التلقائي على المحتوى كأفضل بديل في هذه الحالات، مما يسمح بإدارة فورية ومتاحة في جميع الأوقات. يسمح هذا النوع من الاعتدال بإزالة المحتويات الضارة طوال الوقت بحيث لا يعيق تجربة المستخدم مع أوقات انتظار طويلة الأمد. بالإضافة إلى ذلك، قم بإزالة جزء من العبء النفسي عن طريق عرض آلاف الأشخاص المعتدلين في اليوميات، طالما أنك تقوم بمراجعة المحتوى العنيف⁹.

أ. تعديل المحتوى والذكاء الاصطناعي

يجب التمييز بين السيناريوهات:

لقد جادل بعض مطوري IA في عملية قانونية مفادها أنهم يستخدمون أداة واحدة، لأنه لا يوجد مسؤولون حقيقيون عن المحتوى الذي تم إنشاؤه، دون المستخدم. 

تدرس الولايات المتحدة قضية تتعارض مع OpenAI تُطالب بالتشهير بعد أن يستأنف ChatGPT دعوى قضائية ويفترض خطأً أن مارك والترز قام بالاحتيال. الحجة الرئيسية للدفاع هي أنه يتم استخدام أداة لا تنشرها، حتى لو كان لديك بعض الأخطاء (تعليمات) الخوارزمية، والتي تكون النشر بمثابة ثالث يجب أن يكون مسؤولاً عن التعرف على قيود الأداة وعدم اتخاذ الاحتياطات المقابلة. لمزيد من المعلومات، https://aibusiness.com/responsible-ai/is-there-freedom-of-speech-for-ai-chatgpt-is-sued-for-libel

كانت هذه السابقة ذات صلة في سياق ما يستكشفه الدوريون كأدوات جديدة مدمجة في تحقيقات العمل الخاصة بهم. 

ب. تعديل المحتوى والمحتوى الدوري

يمكن للمؤرخين أيضًا تجنب أخطاء تعديل المحتوى. تتطلب قواعد المنصات، في بعض الأحيان، أن تقوم المنشورات المخصصة بإبلاغ الجمهور عن بعض الأحداث دون إزالة الظلم.

على سبيل المثال، في أغسطس 2019، نشرت صحيفة Suecia صورة فوتوغرافية تمثل فتاة في حالة من القلق ومرافقة مع وصف لحادثة عنف جنسي موجهة إلى فتاتين. نشر تفاصيل عن الضحايا والأحداث، بالإضافة إلى انتقاد طريقة الإهمال في النظام القضائي الذي تعامل مع الحادث. لقد ألغى هذا المنشور اعتبارًا أنه ينتهك أقاربهم السياسيين من خلال الاستغلال الجنسي للأطفال والإساءة إليهم وتجاهلهم. ومع ذلك، ستقوم الشركة لاحقًا باستعادة المنشور للإشارة إلى أن الواقع سيبحث عن المعلومات¹¹. حدثت حالات مماثلة أخرى في عام 2022، عندما أُعلنت فترة في اللغة الأردية مقرها في الهند على فيسبوك أن الطالبان يعيدون إنشاء مدارس للنساء والفتيات المارزو. لقد تم حذف النشر لأنه بسبب أنظمة تعديل المحتوى الخاصة بك، تم تحديد الخطأ بشكل خاطئ بأن المحتوى مرسل إلى المنظمة، مما أدى إلى انتهاك سياستك ضد المجموعات الإرهابية. بعد استدعاء، تقوم Meta باستعادة النشر وإزالة القيود المطبقة على الصفحة للعثور على ما تكتبه من نغمة محايدة حتى لا تضطر إلى الاعتذار عن الإرهاب¹².

ج. مبادئ المجتمع المدني حول الاعتدال في المحتوى

نظرًا لأن المجتمع المدني العالمي قد قدم مجموعتين مهمتين من المبادئ فيما يتعلق بالمحتوى الموجود على المنصات ومسؤولية الشركات. من أجل طرف واحد، هناك مبادئ مانيلا حول مسؤولية الوسطاء، تم نشرها في عام 2015. تعتبر هذه المبادئ الستة بمثابة علامة مرجعية لصانعي القرارات فيما يتعلق بالتشريعات والسياسة العامة المرتبطة بوسطاء الإنترنت للمحتوى الذي ينتجونه لمستخدميهم¹³. في المصطلحات العامة، يتم تحديد المبادئ التالية:

1. لا داعي للمطالبة بتقييد المحتوى دون أمر صادر عن سلطة قضائية.
2. يجب أن تكون طلبات تقييد المحتوى واضحة وغير واضحة وتستمر في تنفيذ العملية
3. يجب أن تكتمل القراءات والأوامر وممارسات تقييد المحتوى باختبارات الضرورة والتخصيص.
4. يجب أن تؤدي النظرات والسياسة وممارسات تقييد المحتوى إلى تأخير العملية.
5. يجب أن تشتمل الشفافية وعرض المعلومات على المعايير والسياسات والممارسات المتعلقة بتقييد المحتوى

لاحقًا، في عام 2018، قامت منظمات المجتمع المدني بنشر مبادئ سانتا كلارا، ما يتمحور حول الشفافية والعمليات وعرض الحسابات في تعديل المحتوى¹⁴. على سبيل المثال، تحدد المبادئ أن الشركات يجب أن تنشر معلومات حول عدد المحتويات والحسابات التي يتم حذفها في الدولة أو المنطقة، من خلال معلومات حول الانتهاكات السياسية. بالإضافة إلى ذلك، يجب أن توفر المنصات معلومات كافية للمستخدمين حول العقوبات المطبقة على محتوياتهم أو حساباتهم، وفضلًا عن فرصة الاستئناف على قراراتهم.

ثالثا. مشكلات تعديل المحتوى

تكمل الشبكات الاجتماعية ورقة رئيسية تسهل الاتصال بين الأشخاص الموجودين في العالم وتحفز حرية التعبير. ومع ذلك، فإن عملية الاعتدال الخاصة بها غير كاملة. كيف أشرح دياز وهيشت فيليلا: 

…يمكن أن تؤدي المعايير الخاصة التي توفر الوصول إلى هذه الخدمة إلى تجارب متباينة بين سكان مختلفين. على الرغم من أن شركات الحقوق الاجتماعية تزين سياساتها المعتدلة في المحتوى بلغة حقوق الإنسان، فإن تحركاتها تعتمد بشكل أساسي على الأولويات التجارية، وتعزيز التنظيم الحكومي، والضغط الخارجي للرأي العام والدولي. وسائل الاتصال التقليدية¹⁵.

في الواقع، هناك العديد من المخاوف المرتبطة بالاعتدال الآلي¹⁶. يمكن تصنيف بعض هذه الأشياء على النحو التالي:

• الدقة والموثوقية: تعتمد دقة أداة الاعتدال على قدر كبير من العمل حتى تتمكن من التدريب. توجد أدوات موجهة للكشف عن جميع أنواع المحتوى، مثل المخالفات المتعلقة بحقوق المؤلف أو المحتوى الذي يحتوي على استغلال جنسي للأطفال. ومع ذلك، قد تواجه هذه الأنظمة مشكلات في الوقت المناسب لاكتشاف التباينات المفيدة في اللغة¹⁷.

في عام 2017، أوقف فيسبوك الجدل حول حظر صورة لحالة نبتون في إيطاليا، معتبرًا أنها "جنسية صريحة".18.تعتزم الكاتبة إليسا بارباري مشاركة هذه الصورة من الحالة على صفحتها على فيسبوك المخصصة لتاريخ بولونيا. ومع ذلك، ستتم إزالة المحتوى تلقائيًا. إذا كان Facebook يتنصل من قراره ويتراجع عنه، فإن هذه الحادثة هي عبارة عن حالات أخرى تتم فيها مراقبة الصور غير الضارة، بما في ذلك لونها19.

• التحيزات: قد يؤدي وجود هذه المجتمعات إلى تفاقم التمييز ضد المجموعات المهمشة. على سبيل المثال، أدوات معالجة اللغة الطبيعية هي أقل دقة من النصوص التي لا يمكن أن تلحق الضرر بالأشخاص الذين لا يستطيعون استخدام مصطلحات أخرى، خاصة في حالة المصطلحات الممثلة فرعيًا على الإنترنت. يمكن أيضًا أن تؤثر ثقافات المحققين على مجموعات بيانات التدريب، مما يؤثر على ما يعتبره الحديث عن الصوت أو ما إذا كان له الأولوية في البيانات.

في مارس 2024، قام Instagram بمراقبة صورة منشورة لـ Men Have Babies، وهي منظمة لا خير فيها من المال تدعم الرجال المثليين جنسيًا الذين يرغبون في أن يكونوا آباء، والذين يعشقون ممارسة الرياضة بشخصيتهم، ويصنفون المحتوى "المعقول" و"الجرافيكي"20.رون بول دايان، المدير التنفيذي للمنظمة، تحدث عن حياته الاجتماعية ضد حضانة الأطفال من جانب أزواج من نفس الجنس.

• الفهم السياقي للحديث: تتساقط أدوات الاعتدال تلقائيًا مرات عديدة في الوقت المناسب للحصول على مزيد من المعلومات السياقية للمواقف حيث لا يصبح القصد واضحًا. على سبيل المثال، يمكن لـ IA أن ترسم صورة لامرأة رائعة كما لو كانت عارية عندما تقوم بتعبير مسموح به على العديد من المنصات.

•  خطأ شنيع الإيجابيات والسلبيات الخاطئة من الاعتدال في المحتوى:جلسة الأتمتة والتدريب عليها قد تؤدي إلى نتائج غير صحيحة من حيث الاعتدال، والتي تؤثر على حقوقك. توجد العديد من الحالات في المنشورات التي لا تمثل خطرًا على السكان يتم إزالتها بشكل غير عادل، كما أنها أيضًا حالات يمكن أن تؤدي إلى أحكام ضارة دائمة عبر الإنترنت طوال الوقت.

رابعا. الاعتدال ومعالجة المحتوى تحت نظام البلدان الأمريكية

أ. الاختبار الثلاثي والمعايير الإقليمية

إن حماية الحق في حرية التعبير عبر الإنترنت كما هو الحال دون الاتصال بالإنترنت يجب أن تكون واسعة النطاق، وذلك من خلال الحق الطبيعي في الحق الأساسي ودورها الجوهري في ظل النظام الديمقراطي والمشاركة العامة. ومن هذا المنطلق، أكدت اللجنة الدولية للبلدان الأمريكية أن "المحطات المخصصة للمادة 13 من الاتفاقية الأمريكية تحمي بطريقة مماثلة وسائل الاتصال التقليدية مثل التعبير المنتشر عبر الإنترنت".²⁴ يحق له فهم حرية البحث وتلقي ونشر المعلومات والأفكار من جميع أنحاء العالم، وأي طريقة أخرى، لأنه لا يمكن فرض رقابة مسبقة عليه، ومنع تقييده للوسائط غير المباشرة.²⁵

العلاقة الخاصة لحرية التعبير، إخطارًا بها لعام 2024، الشمول الرقمي وإدارة المحتوى على الإنترنت، يوصي الدول "باعتماد التصرفات الداخلية الضرورية التي تتوافق مع شروط التشغيل الخاصة بها، وتطبيق المنصات الرقمية على الاختبار الثلاثي والضمانات الشاملة في ممارسات تعديل المحتوى الخاصة بها؛ وإنشاء آليات تقييم riesgo، بذل العناية والإجراءات اللازمة لإخلاء ما يتعلق بتداول المحتوى من غير حماية من أجل حرية التعبير، وتطبيق الاجتهاد وحسن تنفيذ هذه العملية.²⁶

بالإضافة إلى ذلك، تشير العلاقة إلى أن تعديل المحتوى في أمريكا اللاتينية يجب أن يتوافق مع المعايير الإقليمية، وهو ما يمثل قيودًا أكبر على حماية حرية التعبير، مما يعني تحديًا خاصًا:

"197. أمام ما سبق، النقطة ذات الصلة التي تم الإعلان عنها في المحكمة الدولية الأمريكية هي أن تفسير حق مخالف للاتفاقية الأمريكية، قد يؤدي إلى تقييد أكبر في إطار قانوني دولي آخر، ولا يبرر اعتماد هذه المعايير الأكثر تقييدًا في سياق الاتفاقية ومع ذلك، إذا كان مركز الاتحاد الأوروبي يُظهر أنه أحد الحقوق، فيجب أن ندرك أن العلامة التجارية القانونية بين الأمريكيين تختلف عما ينطبق في سياق المعاملات الأساسية للاتحاد الأوروبي والاتفاقية الأوروبية لحقوق الإنسان بموجب الشعور بأن "ضمانات حقوق الإنسان" حرية التعبير "المحتوى الوارد في الاتفاقية الأمريكية تم تصميمه من أجل زيادة السخاء وتقليل الحد الأدنى من القيود على تداول الأفكار الحرة". هذا ليس اعتبارًا نقاشيًا، لكنه يمكن أن يكون خلال المادة 10 من الاتفاقية الأوروبية التي تسمح بـ "الشكليات والشروط والقيود" الذين فسروا لصالح فرض الرقابة من خلال التدقيق الصارم، تنص المادة 13.2 من الاتفاقية الأمريكية بشكل واضح على أن ممارسة حرية التعبير "لا يمكن أن يكون موضوع الرقابة دون مسؤوليات" الخفية ". Asimismo، la تفكر CADH في المادة 13.3 من الحماية الصريحة ضد القيود غير المباشرة لحرية التعبير، كما أن الاتفاق الأوروبي والميثاق الدولي بشأن الحقوق المدنية والسياسة يوفران أحكامًا قابلة للتجهيز. لقد تم أيضًا تمييز RELE أيضًا بين أحكام CADH وغيرها من الممارسات الدولية المتعلقة بحقوق الإنسان فيما يتعلق بالمناقشات غير المحمية، مثل تعبيرات الصوت، وخلص إلى أن التطبيق على SIDH هو الأكثر تقييدًا. (سوبرايادو بروبيو)

ب. أنظمة تصفية المحتوى وحرية التعبير

وبطريقة أكثر دقة، فيما يتعلق بأنظمة تصفية المحتوى – كشكل من أشكال تقييد تداول المعلومات الفعلي – فقد نبهت ضرائب المستخدمين أو موردي الخدمات التجارية إلى أنه عندما لا يتم التحكم فيها من قبل المستخدم النهائي الذي يشكل شكلاً من أشكال إن الرقابة المسبقة لا تمثل قيدًا مبررًا لحرية التعبير.²⁷

بسبب هذا الأمر، من المهم أن نفكر في إساءة استخدام حرية التعبير التي تخص حقوق الإنسان، حيث اعتمدت المنصات إستراتيجيات مختلفة، خلال إجراءات الاعتدال التي تسعى إلى فرز مخاطر الرقابة المسبقة. توفير آلية لحماية الحقوق المعرضة للخطر.

إحدى هذه الدراسات، التي نشأت في دراسة الضمان العام للمسؤولية عن الوسطاء، تشير إلى "آلية الإشعار والإزالة" التي تمنح أصحاب الحقوق فرصة تتكرر مباشرة إلى وسيط الإنترنت لمعالجة المخالفة التي ارتكبوها.²⁸ علاوة على ذلك، يتم إعادة توجيه آلية "الإشعار والإشعار"، المستمدة من مواقف المسؤولية المحدودة للمنصات، بما يتوافق مع تلقي الوسيط أمرًا، والذي يجب عليه إخطار مولد المحتوى المحتمل حدوث مشكلات، والذي يوفر الإعلانات. فرصة لتصحيح سلوكك، أو إيقاف الإجراء، أو الدفاع عنه في ساحة انتظار مسبقة، أو ما يمكن أن يكون مكانًا للحلول الإضافية²⁹. توجد آلية أخرى تسمى "الإشعار والبقاء في الأسفل" التي تطلب من الوسيط أن يتلقى إشعارًا بشأن الشخصية غير القانونية أو مخالف المحتوى المسموح به، ثم بعد ذلك إذا لم يطلب منك حذف المعلومات فقط، ولكن عليك أيضًا اتخاذ وسائل إضافية لضمان عدم البحر قم بالنشر لاحقًا، سواء من خلال نفس المستخدم أو من قبل مستخدمين آخرين.³⁰

ومع ذلك، فإن كل استراتيجية من هذه الاستراتيجيات توفر فرصة لممارسة حرية التعبير، حيث أن لها تأثيرًا مباشرًا على حق حرية التعبير مما يؤدي إلى إزالة المحتوى المحظور على الإنترنت (أو بدلاً من ذلك تقليل ظهورها)، يجب أن يكون تابعًا لكل ولاية قضائية، بموجب علامته القضائية والمعايير التكميلية الموجودة³¹.

في هذا السيناريو، صدرت في عام 2010 علاقة خاصة حول تعزيز وحماية حق حرية الرأي والتعبير لمنظمة الأمم المتحدة، معلنة أن إمكانية تحمل المسؤولية من قبل الوسطاء تخلق تأثيرًا مثبطًا للحرية دي التعبير. هذا لأن الوسطاء يختارون الحفاظ على السلوك و"يخضعون للرقابة الأمنية باستثناء المحتوى المحتمل أن يكون غير قانوني"، بالإضافة إلى أن "الوسطاء، فيما يتعلق بالمعلومات الخاصة، لا يقفون ضمن التحسينات لتحديد ما إذا كانوا يريدون ذلك" إن المحتوى المحدد غير قانوني، لأنه يفشل في التهرب من حماية الاهتمامات المتباينة وفحص الدفاعات. ³²

لقد دمرنا أيضًا أن استراتيجيات تعديل المحتوى لدينا لها حدود خاصة. على سبيل المثال، قد يكون عرض الاعتبارات المتعلقة بنظام الإشعارات والسحب "خيارًا لمنع الوسطاء من اعتماد سلوكيات غير لائقة أو إثارة في إطار خدماتهم، مما قد يكون هدفًا لإساءة الاستخدام من جانب الوكلاء العقاريين والخاصين" والإصرار على أن القيود اللاحقة لا ينبغي تفويضها إلا في فترة خاصة. ³³

في الآونة الأخيرة، في عام 2017، حذرت العلاقة أيضًا من أنها تزيد من التزامات المراقبة الثابتة للدول وتزيل بسرعة المحتوى الذي ينشئه المستخدمون، مع علامات عقابية تكتسب حرية التعبير في المجتمعات الديمقراطية. على وجه الخصوص، أشارت إلى أن هذه اللوائح "تتضمن تفويض الكفاءات التنظيمية ووظائف الجهات الفاعلة الخاصة التي تهتم بالأدوات الأساسية لتقديم الحسابات. ويؤدي الطلب السريع والحذف التلقائي إلى إمكانية التوحيد من خلال أشكال جديدة من التقييد المسبق" مما يعني أن الإبداع في سياق حق المؤلف يجب أن يتم الفصل فيه عمومًا من قبل المؤسسات العامة، وليس من قبل الجهات الفاعلة الخاصة، حيث قد تتعارض العمليات الفعلية مع معايير عملية الالتزام والواجبات. الدوافع هي في المقام الأول الاقتصاديون.³⁴

من خلال العرض، يتضح أن الاعتدال في المحتوى يواجه صعوبة في عدم إنهاء الاهتمامات الأساسية مثل حرية التعبير. وذلك بسبب قيام الوسطاء بتسليم بعض الحلول التكنولوجية، على سبيل المثال، للاستجابة لالتزامات الحماية لحقوق المؤلف. ومع ذلك، لا يضمن هذا اليوم الحماية الأساسية لحرية التعبير في المصطلحات الموصوفة.

تتمثل إحدى فوائد الاعتدال الآلي في صعوبة تضمين العديد من العوامل التي يجب أن تكون متوافقة مع المعايير القانونية للحد المحتمل من التعبير.

ومع ذلك، فإن اللون الأحمر في الدفاع عن الحقوق الرقمية (R3D) يوضح بعض الصعوبات لتحقيق اعتدال المحتوى على نطاق واسع.³⁵ وبالتالي، فإن هذا "يطرح معضلة مفادها أن التعبيرات بشكل عام تنبعث من سياق محدد يتضمن أسئلة ذات قيمة، وقصص مثل التعمد والظروف التاريخية والثقافات والاجتماعية للحالة الملموسة، لأن الكثير من المحتويات يمكن أن تصبح في كثير من الأحيان "تجاوز أو تعديل الطريقة غير الصحيحة من قبل الأنظمة التي تسمح بالعجز الذي يجب أن تتحمله في هذا السياق".³⁶ هذا يعني في حد ذاته أن النظام الناقص يحتوي على خلل في النسبة الأكبر مما هو مطلوب. بالإضافة إلى ذلك، إذا كان عليك أن تمتلك تأثيرًا يمكنك من خلاله الحفاظ على تركيز معتدل للمحتوى من قبل هؤلاء الممثلين الخاصين، فإن ذلك يعود إلى موقعك في السوق واختلال القدرة على التعامل مع المستخدمين.³⁷

فيما يتعلق بالجوانب التقنية الأخرى، فإن منظمة كاريزما، التي تتخلص من الأهداف المتمثلة في زرع الكشف الآلي عن مخالفات حقوق الإنسان من أجل حرية التعبير: i) توفير قوة "حقيقية وفعالة" و"ظلم" من التحكم المنتظم والتأثير في التداول الرقمي المحتويات، 2) انتشار الإشعارات غير المشروعة (حول محتوى السيادة العامة، ملكية جزء الإشعارات، تطبيق مقيد لقانون حقوق المؤلف لتوليد المواقف الظالمة؛ و، 3) أوجه القصور في عملية الإشعارات والاستدعاء. فشل النظام، يؤدي تشغيل الاستوديو إلى إنشاء معلومات فردية (إضافة محتوى للمؤلف) بالإضافة إلى مجموعة جماعية (مثبط فعال) من أجل استخلاص قدرة المبدعين وتحفيزهم على إنشاء جمهور للمحتوى الخاص بهم والحفاظ عليه^.38

ج. التزامات المنصات فيما يتعلق باعتدال المحتوى، بما يتوافق مع الحقوق الدولية لحقوق الإنسان

"الولايات هي الأسماء الرئيسية للالتزامات المتعلقة بحقوق الإنسان، ولا سيما اعتماد التشريعات التي تتسق مع تنازلاتها في المادة، مثل تلك الناشئة والمشتقة من المواد 19 و 20 من الميثاق الدولي للحقوق السياسية والمدنية والمادة" 13 من الاتفاقية الأمريكية حول حقوق الإنسان، تشير إلى حرية التعبير.

في هذا السياق، أدركت أن الاعتماد على نظام جديد لأدوات التعرف التلقائي والتصفية يؤدي إلى خطر "الحظر الزائد". يجب أن تكون الإجراءات المعتمدة من قبل الموردين المستحقين "محددة تمامًا" للسماح بحماية فعالة لحقوق المؤلف ولكنها لا تؤثر على المستخدمين الذين يستخدمون المنصات بشكل قانوني.

حسنًا، نظرًا لتعدد الجهات الفاعلة في التفاعلات عبر الإنترنت وأدوارها المختلفة، أنشأت اليونسكو دراسة حول الاحتياجات وشروط العمليات التنظيمية لأنظمة تحسين المحتوى ومعالجته، من أجل تحقيق التماسك مع ضمانات حقوق الإنسان باعتبارها حرية التعبير.

لقد دمرنا جميعًا أن المنصات ومقدمي الخدمات يجب عليهم أيضًا اتخاذ الإجراءات اللازمة لاحترام خدماتهم لحقوق الإنسان.³⁹ لقد ظهر هذا في اعتماد الأدوية مثل:

• "يمكنك إظهار النظام التنظيمي للوفاء بمحطات الخدمة الخاصة بك وفعالية الإجراءات التي ستساعدك على اكتشاف المحتويات أو تحديدها أو إزالتها".

• "إشعار المستخدمين عند إزالة المحتوى أو الموضوع عن طريق تعديل المحتوى والسبب وراء ذلك. يسمح هذا للمستخدمين بفهم ما يجب القيام به في المحتوى الخاص بهم، والطريقة المستخدمة (الخوارزمية أو بعد مراجعة بشرية) وما الذي يتم تنظيمه من خلال النظام الأساسي. […]"

• قم بإجراء عملية تسمح للمستخدمين باتخاذ قراراتهم (...). يمكن أن يختلف هذا الوضع حسب حجم الشركة والدرجة التي توجد بها إجراءات إصلاح فعالة حتى يتمكن المستخدمون من اتخاذ الإجراءات.”²³

• إثبات آلية فعالة لإصلاح المستخدمين على المنصة التي تسمح بذلك (نحن لسنا مستخدمين، إذا كانوا متأثرين بمحتوى محدد) فرص كبيرة لزرع مخاوفهم والحصول على إصلاح عند المقابلة. يجب أن يتضمن هذا قناة إدانة واضحة يسهل الوصول إليها ومفهومة للمستخدمين. يجب أن يتم إخطار طلبات المستخدمين بشأن نتيجة الاتصال الخاص بهم؛ يجب أن تتبع آلية الاستئناف هذه المبادئ الموصوفة في مديري الأمم المتحدة حول الشركات وحقوق الإنسان لآليات العمل الفعالة (الشرعية، وإمكانية الوصول، والرؤية، والمساواة، والشفافية، والتوافق الحقوق والتعلم المستمر).²⁴

• “يجب أن تكون المنصات الرقمية إخطار المستخدمين وشرح عملية الإلغاء عندما يتم حذف المحتوى أو آداب التعبير عنه، أو تقييده بشروط التعليقات أو مشاركة الدعاية، أو حدود خاصة في مصطلحات التضخيم أو التوصية (الفرق بين "العضوية/الخوارزمية"، والتضخيم والتوصيات)، نعم لماذا. يسمح هذا للمستخدمين بفهم الأسباب التي تجعلهم يتعاملون مع الوسائط المتعلقة بالمحتوى الخاص بهم، والطريقة المستخدمة (الخوارزمية أو بعد مراجعة بشرية) وما هي قواعد النظام الأساسي التي تستخدم الأدوية. علاوة على ذلك، يجب التعامل مع عملية تسمح للمستخدمين باتخاذ القرار والحصول على تعويض مناسب.

لمعرفة المزيد عن الاعتدال والتصعيد: https://www.alsur.lat/sites/default/files/2022-05/moderacion_contenidos_alsur.pdf

V. عملية الاستئناف على المنصات

يمكن لأنظمة تعديل المحتوى أن تخلق بيئة آمنة لمستخدمي المنصات. ومع ذلك، كما تم الإعلان عنها، فإن هذه الأنظمة في بعض الأحيان تفشل في وقت اكتشاف الانتهاكات ويمكنها إزالة المواد التي لا تنتهك السياسة أو تتركها عبر الإنترنت مما قد يؤدي إلى انتهاكها. في هذه الحالات، أنشأت منصات الشبكات الاجتماعية المهيمنة آليات استدعاء من خلال عملاء المستخدمين، ويمكنها الطعن في القرارات مثل إزالة المنشورات أو الحسابات. بهذه الطريقة، قد يتم إعادة ضبط جزء من المحتوى الذي تمت إزالته مع الجزء السابق أو قد يتحول المستخدم الموقوف إلى استخدام المنصة بشكل طبيعي.

من خلال المصطلحات العامة، تتكون عملية الاتصال من إرسال مكالمة إلى المستخدم مع مساحة صغيرة لتقديم الحجج أو شرح السياق، وإعادة النظر من خلال النظام الذي سيكون سريعًا، والإشعار النهائي للمستخدم. تختلف التفاصيل المحددة بين المنصات المختلفة. ومع ذلك، من أجل التأثيرات التوضيحية، ستستمر في تقديم عمليات الإشراف والتسجيل على YouTube وMeta، حيث يضم الجميع تفاصيل مثيرة للاهتمام.

يوتيوب: ثلاث ضربات وتصفيات

يزيل موقع YouTube المحتوى الذي ينتهك معايير المجتمع، والذي يتضمن قواعد مكافحة البريد العشوائي والمحتوى العنيف والمحتوى الصوتي، وغير ذلك من المحتويات. عندما يعتبر موقع YouTube أن السياسات قد تم انتهاكها يرسل إشعارًا إلى المستخدم. إذا قمت بالخطوة الأولى عندما يتلقى المستخدم "إعلانًا".

مثال على إشعار YouTube بشأن المخالفة السياسية الخاصة بك بشأن المنظمات الإجرامية والعنيفة.

*تفاصيل الحالة غامضة.

ومع ذلك، سيتم اعتبار كل مخالفة مستقبلية، كنتيجة للمخالفة الأولى، بمثابة "خطأ" أو "إضراب". مع كل ضربة يمكن أن تطالب بالعقوبات، كل مرة على حدة، مثل القفل المؤقت للقناة من نشر مقاطع الفيديو. عدد كبير من الضربات، يحظر YouTube الحساب بشكل دائم.

يمكن للمستخدمين استئناف قرار YouTube قبل أي أخطاء لتجنب العقوبات⁴⁰. في هذه الحالات، تنتقل العناصر غير المطابقة إلى استوديو YouTube إلى لوحة التحكم الخاصة بالمستخدمين لقنواتهم على YouTube. يمكن أن تؤدي عملية الإلغاء إلى إزالة استعادة المحتوى أو تثبيت قيود نهاية أو إزالة نهائية والحفاظ على الإضراب.

مساحة الاسم داخل استوديو YouTube. يمنح YouTube 800 حرفًا لنشر تعليق باستخدام حجج أو سياق إضافي⁴¹.

ميتا: مجلس الرقابة

كما يتم أيضًا إزالة المحتوى من Facebook وInstagram مع الأخذ في الاعتبار أن هذا ينتهك معايير المجتمعات. في هذه الحالات، ترسل المنصات إشعارًا إلى المستخدمين عندما يعتبرون أن بعض المحتوى المنشور ينتهك السياسة. يمكن للمستخدمين الذين يعتقدون أن المحتوى الخاص بهم قد تمت إزالته بطريقة غير قانونية استخدام الزر "Expresa tu desacuerdo" للاتصال بالمحتوى الخاص بهم⁴². ينشئ Facebook وInstagram رقم تعريف من خلال الاتصال. بالإضافة إلى ذلك، يمكن لأعضاء المنصات الحصول على مساحة حيث يمكن للمستخدمين استشارة حالة الاتصال. 

إذا قمت بدراسة الاستئناف، إذا كنت تعتقد أن المحتوى ينتهك، فسيكون لدى المستخدم خيار إضافي: إرسال الحالة إلى مجلس الرقابة أو مستشار محتوى Meta. إنه واحد من أحدث التطورات في أنظمة إدارة المنصات وهو فريد من نوعه في فئته.

نظرًا لأنه تم تسجيله في نموذج سابق، فإن مجلس الرقابة هو نوع من المحكمة العليا التي تتخذ قرارات نهائية في قضايا مناقشة تعديل المحتوى على Facebook وInstagram. تم إنشاؤه في سياق نقاشات عميقة حول طريقة المعلومات الكاذبة أو المزعجة أو التمييزية أو المتعلقة بالحقوق الاجتماعية وتمثل نية لإرسال سوابق في قراراتنا لاعتدال المحتوى، وتحسين العملية، وزيادة الشفافية، وتقديم الملاحظات من خلال تطبيق خارجي ومستقل عن الشركة.

لم تتم مراجعة جميع الحالات التي يتم إرسالها إلى مجلس الرقابة في هذه "الحالة الأخيرة". تتطلب هذه العملية رقم تعريف الاسم الأصلي لـ Meta. ومع ذلك، يتم تنفيذ البرنامج مباشرة على صفحة مجلس الرقابة. يتمتع المستخدم الذي يتصل بفرصة تقديم جدال قصير حول ما يجب أن يتم اختياره. منذ بداية عملياتها في عام 2020، تم اختيار هذه النصيحة وإرجاعها إلى 92 حالة⁴³.

تستبعد هذه الآليات إمكانية استعادة المنشورات التي تمثل مخاطر أمنية متطرفة (مثل تلك المتعلقة بالاستغلال الأطفالي) وتوسع أيضًا إلى المنشورات التي تم التنديد بها فقط، حتى إذا لم تتم إزالتها، أو المنشورات المرئية مستخدمون آخرون يعتبرون riesgosas⁴⁴.

الالتماسات في حالات اتهامات المخالفات لحقوق المؤلف

في هذه النقطة، يجب أن يشير القلم إلى عمليات الاستئناف السابقة للمنصات بسبب المخالفات المتعلقة بحقوق المؤلف. في هذه الحالات، يتم إجراء عملية خاصة تم إجراؤها بواسطة Ley de Derechos de Autor del Milenio Digital de Estados Unidos (قانون حقوق النشر الرقمية للألفية أو "قانون الألفية الجديدة لحقوق طبع ونشر المواد الرقمية"). قانون الألفية الجديدة لحقوق طبع ونشر المواد الرقمية هو تشريع ينشئ علامة قانونية لحماية حقوق المؤلف على المستوى الرقمي. أحد العناصر الرئيسية لقانون الألفية الجديدة لحقوق طبع ونشر المواد الرقمية هو عملية "الإخطار والسحب" (أو "الإشعار والإزالة")، والتي تسمح بإخطار حقوق ملكية المؤلف إلى وسطاء الإنترنت الذين يحظرون المحتوى المنشور من قبل المستخدمين، مثل الشبكات الاجتماعية، من المخالفات التي ارتكبوها com.derechos⁴⁶.

بالنسبة للحالات التي تتطلب معلومات عن مخالفات، فإن قانون الألفية الجديدة لحقوق طبع ونشر المواد الرقمية يفكر أيضًا في آلية دفاع للمستخدمين الذين يعتبرون أن المحتوى الخاص به لا ينتهك حقوق المؤلف أو أنه يعتمد على ترخيص صالح لاستخدام المادة المذكورة. تُعرف هذه العملية بأنها "contranotificación" ("الإشعار المضاد"). عندما تقوم إحدى منصات التواصل الاجتماعي بسحب المحتوى ردًا على إشعار بمخالفة حقوق المؤلف، فيجب منح المستخدم نسخة من هذا الإشعار وسحب المحتوى بشكل مخالف للواقع. في هذه المرحلة، يمتلك المستخدم خيار تقديم مخالفة.

يجب أن تتضمن المخالفة معلومات معينة، مثل تحديد المحتوى المسحوب، وإعلان أن المستخدم يعتقد أنه من الجيد أن يتم سحب المحتوى بسبب خطأ أو بسبب خطأ في تحديد المادة، وإرادة الانتقال إلى اختصاص المحكمة الفيدرالية في المنطقة حيث يقيم المستخدم أو عندما يلتقي بالموقع القانوني للشبكة الاجتماعية الحمراء.

بمجرد أن تتلقى المنصة المخالفة، يجب إعادة تسمية حقوق المؤلف التي تقدم الإشعار الأصلي بالمخالفة. إذا لم يكن مالك حقوق المؤلف قد بدأ إجراءات قانونية، فيجب على مورد الشبكات الاجتماعية استعادة المحتوى الذي تم سحبه⁴⁷.

من المهم الإشارة إلى أن عملية الإشعارات والسحب التي تم تحديدها بموجب قانون الألفية الجديدة لحقوق طبع ونشر المواد الرقمية قد أثارت انتقادات بسبب تأثيرها على حرية التعبير لأسباب مختلفة⁴⁸:

• فشل التوازن بين حقوق المؤلف وحرية التعبير: تُفضل هذه العملية بشكل زائد على حقوق المؤلف على حساب حرية التعبير للمستخدمين. يجب أن يكون من السهل على أي شخص يتلقى إخطارًا بالمخالفة أن يسحب المحتوى دون تقييم مناسب إذا كان يمثل في الواقع انتهاكًا لحقوق المؤلف أو إذا كان محميًا من خلال استثناءات قانونية.

• سهولة استخدام النظام: تم استخدام العملية بطريقة مسيئة من قبل جزء من الرقابة على التعبير الشرعي والنقد.

• التأثير المثبط للمستخدمين: تخلق العواقب القانونية المقررة بموجب قانون الألفية الجديدة لحقوق طبع ونشر المواد الرقمية تأثيرًا محبطًا يمكن أن يساعد المستخدمين على عدم المطالبة، حتى لا يحصلوا على الحق في القيام بذلك.

استنتاجات

توفر منصات التواصل الاجتماعي رسالة أساسية لدرجة أنها تربط الأشخاص الموجودين في العالم مثل تثبيت السياسات والعمليات لحماية حكايات الأشخاص وتعبيراتهم. من خلال معايير مجتمعاتها وعمليات الاعتدال، يمكن للمنصات أن تخلق بيئة آمنة وتسمح بالتعبير عن مستخدميها. بدون حظر، هناك عيوب في العملية. الدوريون، على وجه الخصوص، هم أيضًا ضحايا هذه العيوب، ويواجهون مخاطر مثل الرقابة على محتوياتهم والعرض في الخارج.

تعتبر الرقابة والرقابة على الدوريات في الشبكات الاجتماعية من المشكلات الكبيرة التي تؤدي إلى تهديد حرية التعبير وممارسة الدورية المستقلة. من خلال البحث عن آليات الاستئناف والسياسات المخصصة لحماية الدوريين، توجد تحديات في التنفيذ الفعال لهذه الوسائل.