فيما يبدو، فإن الذكاء الاصطناعي يمكنه القيام تقريبًا بكل شيء. يمكنه محاكاة الكون، وحل مكعب روبيك بيد واحدة! ومن المفترض أن يكون كل هذا التقدم في مصلحتنا، ولكن ماذا إذا لم يكن كذلك؟ ماذا إذا أوقع علينا الضرر؟ هناك خوارزميات موجودة بالفعل أظهرت مستويات مقلقة من الانحيازية في عملها، مثل توقع مدى قابلية الشخص لأن يسلك سلوكًا إجراميًا بناءً على عرقه! فكيف يمكننا التغلب على هذا العيب ليكون الذكاء الاصطناعي أكثر عدلًا أو أمنًا؟
دراسة جديدة قادها باحثون من “جامعة ماساشوستس – The University of Massachusetts Amherst” تحاول إيجاد حل لهذه المشكلة، باستخدام إطار عمل للذكاء الاصطناعي يمنعه من اتخاذ الإجراءات التي يمكن وصفها بأنها (غير مرغوبة). يقول “فيليب توماس – Philip Thomas”، الباحث في التعلم الآلي (Machine learning): “عندما يُطَبِّق أحد ما خوارزمية تعلم آلي معينة (Machine learning algorithm)، فإنه من الصعب توقع تصرفها أو نتائجها”.
إطار العمل الجديد المقترح لن يغرس في الآلات ضميرًا أو إحساسًا داخليًا بالخير والشر أو العدل، لكنه فقط سيسهل على باحثي التعلم الآلي تحديد وتجنب الإجراءات غير المرغوب فيها، وهم يصممون الخوارزميات الأساسية للآلة. العنصر الأساسي في هذا النظام الجديد هو ما يطلق عليه الفريق (خوارزميات سيلدونية – Seldonian algorithms)، تيمنًا بالشخصية الرئيسية لسلسلة روايات “Foundation” للكاتب “إسحق أزيموف – Isaac Asimov”، ولن تكون مهمة هذه الخوارزميات فقط ضمان أخلاقية تصرفات الآلة، بل ستسمح بالتحكم في كل العمليات، مثل العمليات المعقدة في الأجهزة الطبية لضمان سلامة المستخدم.
يقول (فيليب توماس): “إذا استخدمت خوارزمية سيلدونية لعلاج السكري، فيمكنني جعل الآلة تتجنب اتخاذ إجراء يؤدي لخفض مستوى السكر في الدم لدرجة خطيرة، عن طريق وصف هذا الإجراء بأنه (غير مرغوب). وميزة كهذه لم تكن موجودة في التصميمات المسبقة”.
وكجزء من البحث، صمم الفريق مضخة إنسولين تعمل بخوارزمية سيلدونية تستطيع تحديد جرعات الإنسولين المناسبة للمريض، حسب قراءة مستوى السكر في الدم. وفي تجربة أخرى، صمموا خوارزمية تتوقع معدلات الطلبة، مع تجنب الانحياز لجنس أو ظلم جنس، وهو ما كان يحدث في النسخ المسبقة لهذه الخوارزميات.
يقول الباحثون أن هذه التجارب توفر فقط دليلًا على ما تستطيع الخوارزميات السيلدونية أن تفعله، وأن البحث منصب الاهتمام على تصميم إطار العمل. ويمكن للعلماء أن يستخدموا تلك النتائج لتصميم أنظمة ذكاء اصطناعي أفضل. يقول (توماس): “نحن نرى أن مجال التطوير والتحسين في هذا المجال واسع”.
كتابة: أحمد عبدالستار
مراجعة: سمية عبدالقوي
تحرير: زياد محمد
تصميم: أحمد محمد
