الخصوصية والذكاء الاصطناعي

مخاطر الخصوصية للذكاء الاصطناعي

مع تزايد تطور واستخدام الذكاء الاصطناعي بشكل سريع في السنوات الأخيرة، برزت المخاوف بشأن استخدام المعلومات الشخصية في تطوير هذه الأدوات، فضلاً عن قدرة هذه الأدوات على انتهاك الخصوصية. وعلى وجه الخصوص، أثار إطلاق برنامج ChatGPT العام، إلى جانب نماذج مماثلة، مخاوف جدية على عدة أصعدة.

• أولاً، لأن هذه الأنظمة تعتمد على كميات هائلة من المعلومات بهدف تدريب خوارزمياتهم وتحسين أدائها باستمرار، لا سيما فيما يتعلق بالمعلومات التي يتم جمعها من الإنترنت، أشار النقاد إلى أن حتى المعلومات المتاحة للجمهور، مثل المنشورات على وسائل التواصل الاجتماعي، لم يتم نشرها أبدًا بقصد معين، وبالتالي موافقة، من موضوعات البيانات لاستخدامها بواسطة نماذج اللغة الكبيرة.

• ثانيا، التجميع والتخزين إنّ وجود كميات هائلة من المعلومات، بما فيها المعلومات الشخصية، يثير مخاوف بشأن أمن التخزين وتداعيات وصول جهات غير مصرح لها إلى هذه البيانات عبر القرصنة أو غيرها من الاختراقات الأمنية. وتُستخدم تقنية التعرف على الوجوه، التي تعتمد بدورها على خوارزميات متطورة لمعالجة كميات كبيرة من البيانات، بشكل متزايد في جميع أنحاء القارة من قبل الحكومات ظاهريًا لأغراض إنفاذ القانون والأمن، ولكنها قد تُستخدم أيضًا لأغراض أخرى. التتبع والمراقبة في الوقت الفعلي وبشكل متطفل وهذا يعرض العديد من حقوق الإنسان للخطر، بما في ذلك الحق في الخصوصية وحرية التنقل وحرية تكوين الجمعيات.

• ثالثًا، أدوات الذكاء الاصطناعي مثل هذه قادرة على إنشاء الصور والمحتوى بسرعة حول شخص ما بناءً على بيانات التدريب التي قد لا ترتبط بالحقيقة إلا قليلاً، مما يثير مخاوف بشأن المعلومات المضللة والمغلوطة وتصوير المعلومات الشخصية في النظام البيئي الإلكتروني. إن قدرة الذكاء الاصطناعي على تحليل كميات هائلة من البيانات وفهمها بسرعة قد تؤدي إلى القدرة على استنتاج معلومات شخصية عن شخص لم يقدمها بنفسه، بما يتجاوز نطاق متطلبات الموافقة المنصوص عليها في قوانين حماية البيانات.

تطوير المعايير الدولية

نتيجةً لهذه المخاطر، حظي الذكاء الاصطناعي مؤخراً باهتمام متزايد من هيئات حقوق الإنسان الدولية والإقليمية الساعية إلى توفير التوجيهات والمعايير لحماية الحقوق المتأثرة وضمان التطوير المسؤول لهذه التقنيات الجديدة. على سبيل المثال:

• في عام 2021، نشر المقرر الخاص للأمم المتحدة المعني بالحق في الخصوصية تقريراً حول الذكاء الاصطناعي والخصوصية وخصوصية الأطفال، يقدم فيه إرشادات حول معايير حماية البيانات للذكاء الاصطناعي على المستوى المحلي، كما يدعو الدول والشركات إلى تطوير حلول الذكاء الاصطناعي بشكل أخلاقي ومسؤول في إطار حقوق الإنسان.1)

• وفي عام 2021 أيضاً، أصدرت المفوضية السامية للأمم المتحدة لحقوق الإنسان تقريراً حول الحق في الخصوصية في العصر الرقمي، حلل فيه كيف يؤثر الاستخدام الواسع النطاق للذكاء الاصطناعي على الحق في الخصوصية والحقوق الأساسية الأخرى، مشيراً إلى أنها أصدرت مجموعة من التوصيات للدول والشركات لتصميم وتنفيذ ضمانات للحقوق.2يشير التقرير إلى أن أنظمة الذكاء الاصطناعي "تحفز جمع البيانات وتخزينها ومعالجتها على نطاق واسع"، على عكس مبدأ تقليل البيانات، ويسلط الضوء على المخاوف في قطاعات إنفاذ القانون والخدمات العامة والتوظيف وأنظمة إدارة المعلومات عبر الإنترنت.

• وبناءً على ذلك، قدمت المقررة الخاصة الجديدة في عام 2023 تقريرها إلى الجمعية العامة للأمم المتحدة، والذي سلط الضوء على الحاجة إلى الشفافية وإمكانية التفسير في استخدام الذكاء الاصطناعي، لكي يتمكن أصحاب البيانات من ممارسة حقوقهم فيما يتعلق باستخدام معلوماتهم الشخصية في مثل هذه الأنظمة.3)

والجدير بالذكر أن لجنة الاتحاد الأفريقي لحقوق الإنسان والشعوب قد اتخذت أيضاً خطوات لاستجواب مخاطر الذكاء الاصطناعي من خلال إصدار القرار ACHPR/Res. 473 (EXT.OS/ XXXI) لعام 2021: بشأن الحاجة إلى إجراء دراسة حول حقوق الإنسان والشعوب والذكاء الاصطناعي والروبوتات وغيرها من التقنيات الجديدة والناشئة في أفريقيا في عام 2021.4) وفيها، اللجنة الاستشارية المعنية بحقوق الإنسان والشعوب—

• يقر بالمخاطر العديدة التي تهدد حقوق الإنسان والتي لا تقتصر على الخصوصية؛
• يدعو الدول إلى وضع آليات تضمن تطوير واستخدام هذه التقنيات في أفريقيا بما يحترم الحقوق، بما في ذلك العمل على وضع إطار حوكمة قانوني وأخلاقي شامل للذكاء الاصطناعي؛
• يلتزم بإجراء دراسة لوضع مبادئ توجيهية بشأن الذكاء الاصطناعي.

بدأت الدراسة رسمياً في يونيو 2023.5)

العودة إلى مركز الموارد