أخلاقيات الذكاء الاصطناعي والمسؤولية

أنتم الحين قربتوا تخلصون هالدورة، ونأمل إن الصورة صارت واضحة لكم: الذكاء الاصطناعي يعتمد على مجموعة من الأساليب الرياضية الرسمية اللي تخلينا نلقى العلاقات داخل البيانات، وندرّب النماذج عشان تقلّد بعض جوانب السلوك البشري. وبوقتنا هذا نعدّ الذكاء الاصطناعي أداة قوية جدًا تستخرج الأنماط من البيانات، وبعدها تطبّقها لحل مشكلات جديدة.

بس بالخيال العلمي كثير نشوف قصص يصير فيها الذكاء الاصطناعي خطر على البشر. وغالبًا تدور هالقصص حول تمرّد للذكاء الاصطناعي، يوم يقرر يواجه الإنسان. وهذا يفترض إن عنده مشاعر، أو إنه يقدر يتخذ قرارات ما توقعها مطوروه.

نوع الذكاء الاصطناعي اللي تعلمنا عنه بهالدورة مب أكثر من حسابات على مصفوفات كبيرة. ومع إنه أداة قوية جدًا تساعدنا نحل مشكلاتنا، فهو مثل أي أداة قوية: نقدر نستخدمه في الخير أو في الضرر. والأهم إننا ممكن نسيء استخدامه.

مبادئ الذكاء الاصطناعي المسؤول

عشان نتفادى إساءة استخدام الذكاء الاصطناعي، سواء صارت بالغلط أو بالقصد، حدّدت Microsoft مبادئ الذكاء الاصطناعي المسؤول (Responsible AI). وهذي أهم المفاهيم اللي تقوم عليها المبادئ:

الإنصاف (Fairness) يرتبط بمشكلة مهمة، وهي التحيز (bias) في النماذج. وقد يجي هالتحيز من بيانات تدريب (training data) متحيزة. مثلًا، إذا بغينا نتنبأ بفرصة حصول شخص على وظيفة مطور برمجيات، ممكن يعطي النموذج الرجال أفضلية أعلى؛ لأن مجموعة البيانات (dataset) اللي تدرّب عليها قد تكون أصلًا منحازة لهم. لذلك نحتاج نوازن بيانات التدريب بعناية، ونفحص النموذج عشان نتفادى التحيز، ونتأكد إنه يعتمد على سمات (features) أكثر صلة بالقرار.
الموثوقية والسلامة (Reliability and Safety). نماذج الذكاء الاصطناعي بطبيعتها ممكن تخطئ. الشبكة العصبية (neural network) ترجع احتمالات، ولازم نحسب حساب هالشي يوم نتخذ قرار. ولكل نموذج مستوى من الإحكام (precision) والاستدعاء (recall)، ونحتاج نفهم هالمقاييس عشان نمنع الضرر اللي قد تسببه توصية خاطئة.
الخصوصية والأمان (Privacy and Security) لهما اعتبارات خاصة مع الذكاء الاصطناعي. مثلًا، إذا استخدمنا بيانات لتدريب نموذج، تصير هالبيانات بشكلٍ ما «مدمجة» داخل النموذج. من جهة، هذا يرفع الأمان والخصوصية، ومن جهة ثانية لازم نتذكر وش البيانات اللي تدرّب عليها النموذج.
الشمولية (Inclusiveness) معناها إننا ما نبني الذكاء الاصطناعي عشان يستبدل الناس؛ نبنيه عشان يدعمهم ويخلي شغلهم أكثر إبداعًا. وهي مرتبطة بالإنصاف بعد، لأن مجموعات البيانات اللي نجمعها عن المجتمعات ناقصة التمثيل غالبًا تكون متحيزة. لذلك لازم نتأكد إن هالمجتمعات مشمولة، وإن الذكاء الاصطناعي يتعامل معها بالشكل الصحيح.
الشفافية (Transparency) تعني إننا نكون واضحين دائمًا إذا كان الذكاء الاصطناعي مستخدم. ونبي، متى ما كان هذا ممكن، نستخدم أنظمة ذكاء اصطناعي .