الميثاق المصري للذكاء الاصطناعي المسؤول للأطفال

مسودة إطار سياساتي

تمهيد

يستند هذا الميثاق إلى التزام مصر الرسمي بحماية حقوق الأطفال وتعزيزها، وهو التزام راسخ في إطار قانوني وتنظيمي شامل وملزم على المستويين الوطني والدولي

. على المستوى الدستوري، تكفل المادة (۸۰) من دستور جمهورية مصر العربية حقوق كل طفل لم يبلغ الثامنة عشرة، وتلزم بحمايته من جميع أشكال العنف والإساءة وسوء المعاملة والاستغلال والإهمال.

. ويُفعل هذا الالتزام من خلال قانون الطفل رقم ۱۲ لسنة ۱۹۹٦ ، المعدل بالقانون رقم ١٢٦ لسنة ۲۰۰۸ ، الذي يُعد التشريع الوطني الأساسي المنظم لحماية الطفل، بما في ذلك الأحكام التي تتناول المخاطر الناشئة في البيئات الرقمية.

. وتعزز التشريعات المكملة هذا الإطار، وفي مقدمتها قانون مكافحة جرائم تقنية المعلومات رقم ١٧٥ لسنة ۲۰۱۸ ، الذي يجرم الأضرار المرتكبة عبر الإنترنت، بما في ذلك الاستغلال والإساءة.

. ويوفر قانون حماية البيانات الشخصية رقم ١٥١ لسنة ۲۰۲۰ ضمانات معززة لمعالجة بيانات الأطفال.

. كما تسهم أحكام تنظيمية إضافية، بما فيها قانون تنظيم الاتصالات رقم ١٠ لسنة ۲۰۰۳ وأطر الأمن السيبراني ذات الصلة، في ضمان بيئات رقمية واتصالية آمنة.

. وعلى المستوى الدولي، تُعد مصر دولة طرفاً في اتفاقية الأمم المتحدة لحقوق الطفل وبروتوكولاتها الاختيارية، والميثاق الأفريقي لحقوق الطفل ورفاهيته، وبروتوكول منع وقمع ومعاقبة الاتجار بالأشخاص، وبخاصة النساء والأطفال بروتوكول باليرمو)، وهي صكوك تفرض التزامات ملزمة بحماية الأطفال من الاستغلال والضرر، بما في ذلك في السياقات الرقمية.

كما يستند هذا الميثاق إلى الإطار الوطني المصري لحوكمة الذكاء الاصطناعي، بما يشمل الميثاق المصري للذكاء الاصطناعي المسؤول (۲۰۲۳ ) ، والاستراتيجية الوطنية للذكاء الاصطناعي، الإصدار الثاني (٢٠٢٥ - ۲۰۳۰)، والإرشادات الوطنية ذات الصلة بالذكاء الاصطناعي الجدير بالثقة والمسؤول. ويراعي كذلك الأطر الدولية المتعلقة بالذكاء الاصطناعي وحقوق الطفل، بما في ذلك التعليق العام رقم ٢٥ بشأن حقوق الطفل فيما يتعلق بالبيئة الرقمية، وإرشادات اليونيسف بشأن الذكاء الاصطناعي والأطفال، وتوصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي، وأطر الاتحاد الدولي للاتصالات ذات الصلة بحماية الأطفال على الإنترنت.

وترسي هذه الصكوك مجتمعة أساساً قانونياً متيناً يبني عليه هذا الميثاق لمعالجة التحديات الناشئة المرتبطة بالذكاء الاصطناعي والتكنولوجيات الرقمية.

1. المقدمة والخلفية

يشكل الذكاء الاصطناعي بصورة متزايدة حياة الأطفال في مصر وحول العالم. ويتعامل الأطفال مع أنظمة الذكاء الاصطناعي من خلال منصات التعليم، والخدمات عبر الإنترنت، وأنظمة التوصية، ووسائل التواصل الاجتماعي، والألعاب والمساعدات الرقمية، وأدوات الذكاء الاصطناعي التوليدي، والخدمات العامة. ويمكن لهذه الأنظمة أن تتيح فرصاً مهمة للتعلم والإدماج وإمكانية الوصول والإبداع والصحة والحماية. وفي الوقت نفسه، قد تعرض الأطفال لمخاطر جديدة ومعقدة، تشمل المحتوى الضار، والمعلومات المضللة، والتحيز الخوارزمي، وانتهاكات الخصوصية، والتلاعب، والتزييف العميق، والتنمر الإلكتروني، والاستغلال والإفراط في الاعتماد على المخرجات المؤتمتة، والتفاعلات غير الآمنة مع روبوتات المحادثة أو أنظمة الرفقة القائمة على الذكاء الاصطناعي.

وقد يواجه الأطفال أيضاً مخاطر رقمية ومخاطر مرتبطة بالذكاء الاصطناعي، منها مخاطر المحتوى، مثل المحتوى الضار أو الذي يحض على الكراهية أو المضلل أو غير الملائم للعمر؛ ومخاطر المستهلك، مثل الاحتيال، والتنميط، وانتهاكات الخصوصية، والخروقات الأمنية والمخاطر المرتبطة بالسلوك، مثل التنمر الإلكتروني، والإفراط أو عدم التوازن في وقت استخدام الشاشات، والإساءة القائمة على الصور والمخاطر المرتبطة بالتواصل، مثل الاستدراج، والإغواء، والاستغلال، وغيرها من أشكال الإساءة عبر الإنترنت.

تدرك مصر أن الأطفال ليسوا مستخدمين عاديين للتكنولوجيا، بل أصحاب حقوق متميزون تتطلب مراحل نموهم البدني والمعرفي والنفسي والاجتماعي والعاطفي حماية وإرشاداً خاصين، لا سيما وأنهم من المستخدمين المكثفين للتكنولوجيات. ويجب احترام قدراتهم المتطورة، ولكن لا يجوز معاملتهم كبالغين لمجرد قدرتهم على الوصول إلى الخدمات الرقمية أو التفاعل مع أدوات الذكاء الاصطناعي. ويظل جميع الأطفال دون سن الثامنة عشرة مستحقين للحماية الكاملة التي تقررها اتفاقية حقوق الطفل والقوانين الوطنية ذات الصلة.

يبني هذا الميثاق على البنية الوطنية الشاملة للذكاء الاصطناعي في مصر، بما في ذلك الميثاق المصري للذكاء الاصطناعي المسؤول، والإصدار الثاني من الاستراتيجية الوطنية للذكاء الاصطناعي، ودليل إطار الحوكمة الوطنية للذكاء الاصطناعي في مصر، والإرشادات الوطنية للذكاء الاصطناعي الجدير بالثقة والمسؤول، إضافة إلى الصكوك القانونية المشار إليها أعلاه. كما يستند بصورة موسعة إلى إرشادات اليونيسف بشأن الذكاء الاصطناعي والأطفال، ويستلهم مبادئ منظمة التعاون الاقتصادي والتنمية للذكاء الاصطناعي، والبيان المشترك الذي يقوده الاتحاد الدولي للاتصالات بشأن الذكاء الاصطناعي وحقوق الطفل، ونهج مجلس أوروبا ذات الصلة بحوكمة الذكاء الاصطناعي القائمة على حقوق الإنسان.

يهدف هذا الميثاق إلى تحديد التوجه الوطني المصري للذكاء الاصطناعي المتمحور حول الطفل، وهو نهج يتيح الابتكار مع ضمان أن يكون كل نظام ذكاء اصطناعي يستخدمه الأطفال أو يُصمم لهم أو يُرجح أن يؤثر عليهم آمناً وشاملاً وشفافاً وخاضعاً للمساءلة وحافظاً للخصوصية ومحترماً للحقوق ومتوافقاً مع مصالحالطفل الفضلي.

2. الغرض والنطاق والأهداف

٢,١ الغرض

يوفر هذا الميثاق إطاراً وطنياً للسياسات من أجل الحوكمة والتصميم والتطوير والشراء والنشر والرصد والاستخدام المسؤول لأنظمة الذكاء الاصطناعي التي قد تؤثر على الأطفال في مصر. ويترجم مبادئ حقوق الطفل إلى متطلبات قابلة للتنفيذ لحوكمة الذكاء الاصطناعي بالنسبة للحكومة وقطاع الأعمال والتعليم والمجتمع المدني والأسر والجهات الفاعلة في مجال التكنولوجيا.

ويهدف الميثاق إلى ضمان استخدام أنظمة الذكاء الاصطناعي في مصر لحماية الأطفال وإرشادهم وتمكينهم لا لتعريضهم للضرر. كما يهدف إلى دعم انتقال مصر من المبادئ العامة للذكاء الاصطناعي المسؤول إلى طبقة حوكمة مخصصة ومتمحورة حول الطفل ضمن الإطار الوطني لحوكمة الذكاء الاصطناعي.

٢,٢ النطاق

ينطبق هذا الميثاق على:

• أنظمة الذكاء الاصطناعي المصممة للأطفال؛
• . أنظمة الذكاء الاصطناعي التي يستخدمها الأطفال، حتى إن لم تكن مصممة لهم في الأصل؛
• . أنظمة الذكاء الاصطناعي التي تؤثر بصورة غير مباشرة على الأطفال، بما في ذلك الأنظمة المستخدمة في التعليم، والرعاية الصحية، والحماية الاجتماعية، والإشراف على المحتوى، والخدمات العامة، وخدمات الاتصالات، وإنفاذ القانون، وحوكمة المنصات والهوية الرقمية
• . السلطات العامة التي تشتري أو تطور أو تنشر أو تنظم أنظمة ذكاء اصطناعي تؤثر على الأطفال؛
• . جهات القطاع الخاص التي تصمم أو تطور أو توفر أو تسوق أو تنشر أو تشغل أنظمة ذكاء اصطناعي أو منصات رقمية يستخدمها الأطفال أو تؤثر عليهم؛
• . المؤسسات التعليمية، ومنظمات المجتمع المدني والمؤسسات البحثية، والوالدين، ومقدمي الرعاية وجميع الأطراف المنخرطة في البيئة الرقمية للأطفال.

تعريف الطفل

الأغراض هذا الميثاق، يُقصد بالطفل كل شخص لم يبلغ الثامنة عشرة من عمره وفقاً للقانون المصري. ويقر الميثاق بأن الأطفال باختلاف أعمارهم ومستويات نضجهم ومراحل نموهم قد يحتاجون إلى ضمانات وحمايات متمايزة.

العلاقة بالقوانين القائمة

يكمل هذا الميثاق التشريعات المصرية وأطر الحوكمة القائمة ذات الصلة بالأطفال وحماية البيانات والاتصالات والأمن السيبراني وحماية المستهلك والذكاء الاصطناعي المسؤول، ويُفعلها. ولا يحل محل أي التزام مقرر بموجب القانون واجب التطبيق.

 قابلية التطبيق

ينطبق هذا الميثاق على أنظمة الذكاء الاصطناعي المصممة للأطفال أو المستخدمة من جانبهم أو الموجهة إليهم أو التي يُرجح بصورة معقولة أن تؤثر عليهم في مصر، سواء بصورة مباشرة أو غير مباشرة. كما ينطبق على الكيانات الأجنبية متى أتيحت أنظمة أو خدمات الذكاء الاصطناعي للأطفال في مصر، أو عالجت بيانات الأطفال في مصر، أو أحدثت بأي صورة أخرى آثاراً جوهرية عليهم في مصر، وذلك مع مراعاة القانون المصري واجب التطبيق.

٢,٣ الأهداف

تتمثل أهداف هذا الميثاق في 

• صون حقوق الأطفال في حوكمة الذكاء الاصطناعي وتصميم أنظمته.
• . ضمان أن تكون أنظمة الذكاء الاصطناعي المؤثرة على الأطفال آمنة ومأمونة وحافظة للخصوصية وعادلة وشفافة وخاضعة للمساءلة وملائمة للعمر.
• تعزيز الاستخدام المسؤول للذكاء الاصطناعي لتحسين تعلم الأطفال ونموهم وإدماجهم وصحتهم وحمايتهم ورفاههم.
• . منع الأضرار التي تسببها أو تضخمها أنظمة الذكاء الاصطناعي، والتخفيف منها وجبرها.
• . تعزيز التنسيق المؤسسي الوطني بشأن الذكاء الاصطناعي والأطفال.
• دعم البحوث القائمة على الأدلة والاحتياجات والأولويات لتوجيه صانعي القرار في سياسات الذكاء الاصطناعي.
• . إعداد الأطفال والمعلمين والوالدين والجهات التنظيمية والمجتمع للتطورات الحالية والمستقبلية في الذكاء الاصطناعي.
• . ترسيخ مكانة مصر بوصفها مساهماً فاعلاً في التعاون الدولي والمعايير المتعلقة بالذكاء الاصطناعي المتمحور حول الطفل.

3. المبادئ التأسيسية للذكاء الاصطناعي المتمحور حول الطفل

يقوم هذا الميثاق على ثلاثة أسس مترابطة الحماية، والإتاحة، والمشاركة. وتعكس هذه الأسس النهج القائم على حقوق الطفل الوارد في الإرشادات المرفوعة وفي اتفاقية حقوق الطفل.

٣,١ الحماية عدم التسبب بالضرر

يجب تصميم أنظمة الذكاء الاصطناعي وتطويرها ونشرها ورصدها بطرق تحمي الأطفال من الضرر والاستغلال والإساءة والتمييز والتلاعب والمحتوى غير الآمن وانتهاكات الخصوصية والقرارات المؤتمتة الضارة. ويجب ألا يؤدي الذكاء الاصطناعي إلى تفاقم أوجه الضعف القائمة أو إنشاء أشكال جديدة من المخاطر التي تهدد الأطفال.

٣,٢ الإتاحة: تحقيق الخير

ينبغي استخدام الذكاء الاصطناعي، حيثما كان ذلك ملائماً وقائماً على الأدلة، لدعم حقوق الأطفال وتعلمهم وإمكانية وصولهم وإدماجهم وصحتهم وإبداعهم وحمايتهم ورفاههم. وينبغي أن يوسع الذكاء الاصطناعي الفرص المتاحة للأطفال، ولا سيما من يواجهون الإعاقة أو الفقر أو الحرمان الجغرافي أو ضعف الاتصال أو النزوح أو غير ذلك من أشكال الهشاشة.

٣,٣ المشاركة: المشاركة الهادفة

ينبغي الاعتراف بالأطفال بوصفهم أصحاب حقوق فاعلين وأصحاب مصلحة في حوكمة الذكاء الاصطناعي. وينبغي التماس آرائهم بصورة هادفة، والنظر فيها، وإيلاؤها الوزن الواجب عند تصميم أنظمة الذكاء الاصطناعي التي تؤثر عليهم وتقييمها وحوكمتها ورصدها، وفقاً لأعمارهم ونضجهم وقدراتهم المتطورة وسلامتهم ومصالحهم الفضلي.

٤. القيم الأساسية

استناداً إلى الميثاق المصري للذكاء الاصطناعي المسؤول، ومع تكييفه مع السياق الخاص بالأطفال، ينتظم هذا الميثاق حول القيم التالية: التمحور حول الإنسان والطفل، والقدرات المتطورة، والسلامة والأمن والإنصاف وعدم التمييز، والشفافية وقابلية التفسير، والمساءلة والإشراف البشري، والخصوصية وحماية البيانات، والإدماج وإمكانية الوصول، واحترام حقوق الإنسان وحقوق الطفل. ويحدد الميثاق المصري للذكاء الاصطناعي المسؤول قيماً وطنية أساسية، تشمل التمحور حول الإنسان والشفافية وقابلية التفسير والإنصاف، والمساءلة والسلامة والأمن.

٤,١ التمحور حول الإنسان والطفل

تكون مصالح الطفل الفضلى اعتباراً أساسياً في جميع القرارات المتعلقة بالذكاء الاصطناعي التي تؤثر عليه. ويجب تصميم أنظمة الذكاء الاصطناعي لدعم نمو الأطفال ورفاههم، لا لاستبدال الرعاية البشرية أو التعليم أو الحماية أو الحكم البشري حيثما تكون المسؤولية البشرية لازمة.

٤,٢ القدرات المتطورة

ينبغي أن يراعي تصميم أنظمة الذكاء الاصطناعي المؤثرة على الأطفال ونشرها واستخدامها قدراتهم المتطورة بما في ذلك العمر والنضج والاحتياجات النمائية وسياق الاستخدام. وينبغي معايرة الضمانات المتعلقة بالنفاذ والاستقلالية والموافقة والمعلومات والتعرض للمحتوى والتفاعل ومشاركة الوالدين أو مقدمي الرعاية تبعاً لذلك، مع الحفاظ على الحمايات المقررة لجميع الأطفال.

٤,٣ السلامة والأمن

يجب أن تكون أنظمة الذكاء الاصطناعي المؤثرة على الأطفال آمنة ومأمونة ومتينة وقادرة على الصمود. ويجب حمايتها من إساءة الاستخدام، والتلاعب والهجمات السيبرانية، والمخرجات الضارة، والتفاعلات غير الآمنة.