بيتر سنجر*
برينستون- في الشهر الماضي، أحدث برنامج الكمبيوتر "ألفا غو" (AlphaGo)، المصمم خصيصاً لممارسة لعبة تسمى (Go)، موجة من الصدمة والذهول بين المعجبين المتحمسين لهذه اللعبة، عندما تمكن هذا البرنامج من هزيمة لي سيدول، وهو واحد من أعلى المصنفين المحترفين الممارسين لهذه اللعبة، والفوز ببطولة تتألف من خمس مباريات بنتيجة أربعة إلى واحد.
ولعل المرء يتساءل: هل يشكل هذا الحدث خبراً جديداً؟ قبل عشرين عاماً، نجح الكمبيوتر ديب بلو (Deep Blue) من صنع شركة (آي بي إم) في هزيمة بطل العالم في الشطرنج جاري كاسبارو. ونحن نعلم جميعاً أن أجهزة الكمبيوتر تحسنت كثيراً جداً منذ ذلك الحين. ولكن "ديب بلو" فاز بالاستعانة بقوة حاسوبية هائلة، مستخدماً قدرته على حساب نتائج عدد هائل من النقلات إلى مستوى أعمق حتى من ذلك الذي قد يبلغه بطل العالم في لعبة الشطرنج. ومع ذلك، تمارس اللعبة (غو) على رقعة أكبر بكثير من رقعة الشطرنج (تسعة عشر مربعاً عرضاً وتسعة عشر مربعاً طولاً، مقارنة بثمانية مربعات عرضاً وثمانية مربعات طولاً في لعبة الشطرنج)، كما أن عدد النقلات المحتملة على هذه الرقعة أكثر من عدد الذرات في الكون، ولذلك لم يكن من المرجح أن تتمكن العمليات الحاسوبية الصِرفة من هزيمة إنسان يتمتع بحس بديهي قوي يوجهه إلى اختيار أفضل النقلات.
ولكن بدلاً من ذلك، تم تصميم الكمبيوتر "ألفا غو" للفوز من خلال المشاركة في عدد هائل من المباريات ضد برامج أخرى من نوع مشابه، ثم تبني الاستراتيجيات التي تثبت نجاحها. وبوسعك القول إن "ألفا غو" قد تطور ليصبح أفضل ممارس للعبة "غو" في العالم، وحقق في غضون عامين فقط ما قد يستغرق حدوثه ملايين السنوات من خلال الانتخاب الطبيعي.
يشعر إيريك شميت، الرئيس التنفيذي للشركة الأم لشركة "غوغل"، ومالك الكمبيوتر "ألفا غو"، بالحماس إزاء ما قد يعنيه الذكاء الاصطناعي للبشرية. وفي كلمة ألقاها قبل المباراة بين لي سيدول والحاسوب "ألفا غو"، قال: "إن الإنسانية هي الفائز، أياً كانت نتيجة المباراة، لأن التقدم في مجال الذكاء الاصطناعي من شأنه أن يجعل كل إنسان أكثر ذكاء، وأكثر قدرة، وإنسانا أفضل".
ولكن، هل هذا هو ما يحدث حقاً؟ في نفس وقت انتصار "ألفا غو" تقريباً، كان (chatbot) التابع لشركة ميكروسوفت -وهو برنامج يدعى "تايلور" والذي تم تصميمه للرد على الرسائل من الأشخاص الذين تتراوح أعمارهم بين 18 و24 عاماً- يمر بتجربة فاشلة مؤلمة؛ إذ كان من المفترض أن يتمكن "تاي"، كما يسمي الكمبيوتر نفسه، من التعلم من الرسائل التي يتلقاها ويعمل تدريجياً على تحسين قدرته على إجراء محادثات ممتعة. ولكن للأسف الشديد، وفي غضون 24 ساعة فقط، تعلم "تاي" من الناس الذين تواصل معهم أفكاراً عنصرية وجنسية. وعندما بدأ "تاي" يتحدث بعبارات إيجابية عن هتلر، قررت شركة ميكروسوفت إغلاقه وحذف أكثر رسائله عدوانية وقبحاً.
لا أدري ما إذا كان الناس الذين حولوا "تاي" إلى شخصية عنصرية هم أنفسهم يتسمون بالعنصرية، أو أنهم قرروا إفساد لعبة ميكروسوفت الجديدة على سبيل التسلية والمرح. ولكن، وفي كل الأحوال، يخدم التقارب الزمني بين انتصار "ألفا غو" وهزيمة "تايلور" كرسالة تحذير. والواقع أن إطلاق العنان للذكاء الاصطناعي في سياق لعبة تخضع لقواعد محددة وترمي إلى تحقيق هدف واضح هي أمر يختلف تمام الاختلاف عن إطلاق الذكاء الاصطناعي في العالم الحقيقي؛ حيث قد يفضي نقص القدرة على التنبؤ بالبيئة المحيطة إلى الكشف عن أخطاء برمجية ذات عواقب وخيمة.
في كتابه "الذكاء الخارق"، يزعم نِك بوستروم، مدير معهد مستقبل الإنسانية في جامعة أكسفورد، أنه لن يكون من السهل دائماً إيقاف تشغيل آلة ذكية مثلما كان من السهل إيقاف "تاي". وهو يُعَرِّف الذكاء الخارق باعتباره عقلاً "أذكى من أفضل العقول البشرية في كل مجال عملياً، بما في ذلك الإبداع العلمي، والحكمة العامة، والمهارات الاجتماعية". وربما يكون مثل هذا النظام قادراً على التفوق على كل محاولاتنا لإيقاف تشغيله.
ويشك البعض في إمكانية تحقيق الذكاء الخارق على الإطلاق. فقد طلب بوستروم بالاشتراك مع فينسنت مولر من كل الخبراء أن يذكروا موعداً يوافق احتمال بلوغ آلات مستوى الذكاء البشري بنسبة واحد إلى اثنين، وموعداً يوافق احتمال حدوث الأمر نفسه بنسبة تسعة إلى عشرة. فجاء متوسط التخمينات لاحتمال الواحد إلى الاثنين في نطاق العام 2040 إلى العام 2050، ولاحتمال التسعة إلى العشرة بحلول العام 2075. وتوقع أغلب الخبراء أن يحقق الذكاء الاصطناعي مستوى الذكاء الخارق في غضون ثلاثين عاماً من بلوغ مستوى الذكاء البشري.
لا ينبغي لنا أن نأخذ هذه التقديرات على محمل الجد. فقد كان معدل الاستجابة الكلي للدراسة 31 % فقط، ومن الواضح أن الباحثين العاملين في مجال الذكاء الاصطناعي لديهم الحافز لتعزيز أهمية مجالهم بالتباهي بإمكاناته وقدرته على تحقيق نتائج عظيمة.
ربما يبدو احتمال بلوغ الذكاء الاصطناعي مستوى الذكاء الخارق أبعد من أن يحملنا على القلق بشأنه، وخاصة في ظِل مشاكل أكثر إلحاحاً. ولكن الحجة قوية لصالح البدء في التفكير في الكيفية التي يمكننا بها تصميم الذكاء الاصطناعي بحيث يضع في الاعتبار مصالح البشر، بل وجميع الكائنات الحساسة الواعية (بما في ذلك الآلات، إذا كانت هي أيضاً كائنات واعية لها مصالحها الخاصة).
ومع خروج السيارات بدون سائق بالفعل إلى الطرق في ولاية كاليفورنيا، فليس من السابق لأوانه أن نتساءل ما إذا كان بوسعنا أن نبرمج آلة للعمل والتصرف بشكل أخلاقي. فمع تحسن أداء مثل هذه السيارات، يصبح بوسعها إنقاذ الأرواح لأن أخطاءها ستكون أقل من الأخطاء التي يرتكبها السائقون من البشر. ولكنها في بعض الأحيان قد تواجه الاختيار بين أكثر من روح واحدة. فهل ينبغي لصناعها أن يبرمجوها بحيث تنحرف لتجنب الاصطدام بطفل يركض عبر الطريق، حتى ولو عرضت بذلك ركابها للخطر؟ وماذا عن الانحراف لتجنب دهس كلب؟ ماذا لو كان الخطر الوحيد متمثلا في إلحاق الضرر بالسيارة ذاتها وليس الركاب؟
ربما نصادف دروسا ينبغي لنا أن نتعلمها مع بدء مثل هذه المناقشات حول السيارات التي تعمل بدون سائق. ولكن السيارات بدون سائق ليست كائنات خارقة الذكاء. ومن المؤكد أن تعليم الأخلاق لآلة أكثر ذكاء من البشر، في نطاق واسع من المجالات، مهمة شديدة الصعوبة.
يبدأ بوستروم كتابه "الذكاء الخارق" بحكاية رمزية عن مجموعة من عصافير الدوري ارتأت أنها لفكرة عظيمة أن تعمل على تدريب بومة لمساعدتها في بناء أعشاشها ورعاية صغارها. وعلى هذا، بدأت العصافير في البحث عن بيضة بومة. ولكن إحداها اعترضت ناصحة بقية العصافير بالتفكير أولا في كيفية ترويض البومة؛ ولكن العصافير الأخرى كانت متلهفة للبدء بتنفيذ المشروع الجديد المثير. فقررت تأجيل مواجهة التحدي المتمثل في تدريب البومة (على عدم افتراس عصافير الدوري على سبيل المثال) إلى ما بعد نجاحها في تربيتها.
إذا كنا راغبين في صنع بومة تتسم بالحكمة، وليس الذكاء فحسب، فلا ينبغي لنا أبدا أن نكون مثل تلك العصافير المتلهفة نافدة الصبر.
*بيتر سنجر، أستاذ الأخلاق الحيوية في جامعة برينستون، وأستاذ فخري في جامعة ملبورن. ومن بين مؤلفاته كتب: "تحرير الحيوان"، "الأخلاق العملية"، "أخلاقية الطعام الذي نأكله" (بالاشتراك مع جيم ماسون)، "إعادة نظر في الحياة والموت"، "وجهة نظر الكون"، (بالاشتراك مع كاتارزينا دي ازارى-راديك"، "أقصى الخير الذي يمكنك فعله"، وفي الآونة الأخيرة، "المجاعة، الثراء، والأخلاق". اعتبره معهد غوتليب دوتويلر في العام 2013 "أكثر المفكرين المعاصرين تأثيراً" في العالم.
*خاص بـ"الغد"، بالتعاون مع "بروجيكت سنديكيت"، 2016.
