يوفال نواه هراري* – (الإيكونوميست) 28/4/2023
ترجمة: علاء الدين أبو زينة
يقول المؤرخ والفيلسوف يوفال هراري إن الحواسيب التي تحكي القصص سوف تغير مسار التاريخ البشري.
* *
لطالما طاردت المخاوف من الذكاء الاصطناعي البشرية منذ بداية عصر الحاسوب. وحتى الآن، ركزت هذه المخاوف على إمكانية استخدام الآلات الوسائل المادية لقتل الناس أو استعبادهم أو الحلول محلهم.
ولكن، ظهرت على مدى العامين الماضيين أدوات ذكاء اصطناعي جديدة تهدد بقاء الحضارة الإنسانية من اتجاه غير متوقع.
فقد اكتسب الذكاء الاصطناعي بعض القدرات الرائعة للتلاعب باللغة واستغلالها وتوليدها، سواء بالكلمات أو الأصوات أو الصور. وبذلك، يكون الذكاء الاصطناعي قد اخترق نظام تشغيل حضارتنا نفسه.
اللغة هي الشيء الذي تتكون منه كل الثقافة البشرية تقريبًا. ليست حقوق الإنسان، على سبيل المثال، منقوشة في حمضنا النووي. إنها، بالأحرى، مصنوعات يدوية أنشأناها من خلال سرد القصص وكتابة القوانين.
وليست الآلهة حقائق مادية. إنها، بدلاً من ذلك، مصنوعات ثقافية أخرى أنشأناها من خلال اختراع الأساطير وكتابة الكتب المقدسة.
والنقود، أيضًا، هي مصنوعات ثقافية. الأوراق النقدية مجرد قطع ملونة من الورق، وفي الوقت الحاضر لم تعد أكثر من 90 في المائة من النقود حتى أوراقًا نقدية -إنها مجرد معلومات رقمية في أجهزة الحاسوب.
والشيء الذي يعطي لها قيمة مالية هو القصص التي يخبرنا بها المصرفيون ووزراء المالية وأساتذة العملات المشفرة.
لم يكن سام بانكمان فرايد وإليزابيث هولمز وبيرني مادوف جيدَين بشكل خاص في خلق قيمة مادية حقيقية، لكنهما كانا رواة قصص قادرين للغاية.
ما الذي سيحدث بمجرد أن يصبح الذكاء غير البشري أفضل من الإنسان العادي في سرد القصص، وتأليف الألحان، ورسم الصور، وكتابة القوانين والكتب المقدسة؟
عندما يفكر الناس في “تشات جي بي تي”
Chatgpt وأدوات الذكاء الاصطناعي الجديدة الأخرى، فإنهم غالبًا ما ينجذبون إلى أمثلة من نوع استخدام أولاد المدارس الذكاء الاصطناعي لكتابة مقالاتهم.
ما الذي سيحدث للنظام المدرسي عندما يفعل الأولاد ذلك؟ لكن هذا النوع من الأسئلة يفوّت الصورة الكبيرة. انسوا أمر المقالات المدرسية، وفكروا في السباق الرئاسي الأميركي القادم في العام 2024، وحاولوا تخيل تأثير أدوات الذكاء الاصطناعي التي يمكن استخدامها لإنتاج محتوى سياسي ضخم وقصص إخبارية مزيفة وكتابة كتب مقدسة لطوائف دينية جديدة.
في السنوات الأخيرة، تجمعت عقيدة “كيو أنون”
Q Anon حول رسائل مجهولة تُرسل عبر الإنترنت، تعرف باسم “قطرات كيو”. وقام المتابعون بجمع وتبجيل وتفسير “قطرات كيو” هذه باعتبار أنها نص مقدس.
وبينما كانت جميع “قطرات كيو” السابقة، على حد علمنا، من تأليف البشر، وساعدت الروبوتات فقط في نشرها، فإننا قد نرى في المستقبل الطوائف الأولى في التاريخ التي تُكتَب نصوصها الموقرة بواسطة ذكاء غير بشري.
وقد ادعت الأديان عبر التاريخ وجود مصدر غير بشري لكتبها المقدسة، وربما يصبح ذلك قريبًا حقيقة واقعة.
على مستوى أكثر واقعية، قد نجد أنفسنا في وقت قريب ونحن نخوض مناقشات مطولة عبر الإنترنت حول الإجهاض أو تغير المناخ أو الغزو الروسي لأوكرانيا مع كيانات نعتقد أنها بشر -لكنها في الواقع ذكاء اصطناعي.
والمهم في هذا هو أنه من غير المجدي على الإطلاق بالنسبة لنا قضاء بعض الوقت في محاولة تغيير الآراء المعلنة لروبوت ذكاء اصطناعي، في حين يمكن للذكاء الاصطناعي أن يشحذ رسائله بدقة بحيث تكون لديه فرصة جيدة للتأثير علينا.
من خلال إتقانه اللغة، يستطيع الذكاء الاصطناعي تكوين علاقات حميمة مع الناس، واستخدام قوة العلاقة الحميمة لتغيير آرائنا ورؤانا للعالم.
وعلى الرغم من عدم وجود ما يشير إلى أن الذكاء الاصطناعي لديه أي وعي أو مشاعر خاصة به، إلا أنه يكفي لتعزيز علاقة حميمة مزيفة مع البشر، أن تكون لدى الذكاء الاصطناعي القدرة على جعلهم يشعرون بالارتباط العاطفي به.
في حزيران (يونيو) 2022، ادعى بليك ليموين، مهندس “غوغل”، على الملأ، أن روبوت دردشة الذكاء الاصطناعي “لامدا”
Lamda، الذي كان يعمل عليه، أصبح واعيًا.
وقد كلفه الادعاء المثير للجدل فقدان وظيفته. ولم يكن الشيء الأكثر إثارة للاهتمام في هذه القصة هو ادعاء السيد ليموين، الذي ربما كان كاذبًا.
كان المهم هو استعداده للمخاطرة بوظيفته المجزية من أجل روبوت ذكاء الاصطناعي. وإذا استطاع روبوت دردشة للذكاء الاصطناعي التأثير على الناس بحيث يخاطرون بوظائفهم من أجله، فأي شيء آخر يمكن أن يحثهم على فعله؟
في معركة سياسية على كسب العقول والقلوب، تشكل العلاقة الحميمة السلاح الأكثر فعالية، وقد اكتسب الذكاء الاصطناعي للتو القدرة على تكوين علاقات حميمة مع ملايين الأشخاص.
ونحن نعلم جميعًا أنه على مدار العقد الماضي أصبحت وسائل التواصل الاجتماعي ساحة معركة للسيطرة على اهتمام الإنسان. ومع الجيل الجديد من الذكاء الاصطناعي، تتحول جبهة القتال من مجرد الاهتمام إلى العلاقة الحميمة.
ماذا سيحدث للمجتمع البشري وعلم النفس البشري عندما يشتبك الذكاء الاصطناعي في معركة لتزييف العلاقات الحميمة معنا، والتي يمكنه استخدامها بعد ذلك لإقناعنا بالتصويت لسياسيين معينين أو شراء منتجات معينة؟
حتى من دون خلق “حميمية مزيفة”، سوف يكون لأدوات الذكاء الاصطناعي الجديدة تأثير هائل على آرائنا ونظراتنا إلى العالم.
وربما يصل الناس إلى استخدام مستشار مفرد من الذكاء الاصطناعي كمشير حكيم، أو “أوراكل” واحد، مطلق المعرفة. ولا عجب أن تكون شركة “غوغل” مرتعبة. لماذا أتكلف عناء البحث عندما يمكنني فقط أن أسأل “أوراكل”؟
ويجب أن تكون صناعات الأخبار والإعلان خائفة بالمقدار نفسه أيضًا. لماذا أقرأ صحيفة بينما يمكنني فقط أن أطلب من “أوراكل” أن يخبرني بآخر الأخبار؟ وما الغرض من الإعلانات، عندما يمكنني فقط أن أطلب من “أوراكل” أن يخبرني ماذا أشتري؟
حتى هذه السيناريوهات لا تلتقط الصورة الكبيرة حقًا. إن ما نتحدث عنه ينطوي على إمكانية وضع نهاية لتاريخ البشرية. ليس نهاية التاريخ، وإنما نهاية الجزء الذي يهيمن عليه الإنسان منه.
التاريخ هو التفاعل بين البيولوجيا والثقافة؛ بين احتياجاتنا البيولوجية ورغباتنا في أشياء مثل الطعام والجنس، وإبداعاتنا الثقافية مثل الأديان والقوانين. التاريخ هو العملية التي تقوم من خلالها القوانين والأديان بتشكيل الطعام والجنس.
ماذا سيحدث لمسار التاريخ عندما يسيطر الذكاء الاصطناعي على الثقافة، ويبدأ في إنتاج القصص والألحان والقوانين والأديان؟ كأن الأدوات السابقة، مثل المطبعة والإذاعة، قد ساعدتا على نشر الأفكار الثقافية للبشر، لكنها لم تخلق أبدًا أفكارًا ثقافية جديدة خاصة بها.
أما الذكاء الاصطناعي فيختلف اختلافًا جوهريًا. الذكاء الاصطناعي يستطيع أن يخلق أفكارًا جديدة تمامًا، وثقافة جديدة بالكامل.
في البداية، من المحتمل أن يقلد الذكاء الاصطناعي النماذج الأولية البشرية التي تم تدريبه عليها وهو في مهده. ولكن مع مرور كل عام، سوف تذهب ثقافة الذكاء الاصطناعي بجرأة إلى حيث لم يذهب أي إنسان من قبل.
لآلاف السنين عاش البشر في داخل أحلام البشر الآخرين. وفي العقود القادمة قد نجد أنفسنا نعيش داخل أحلام ذكاء غريب عن جنسنا.
لم يطارد الخوف من الذكاء الاصطناعي البشرية إلا خلال العقود القليلة الماضية. ولكن، كان يطارد البشر منذ آلاف السنين البشر خوف أعمق بكثير.
لقد قدَّرنا دائمًا قوة القصص والصور للتلاعب بعقولنا وخلق الأوهام. وبالتالي، منذ العصور القديمة، كان البشر يخشون احتمال أن يكونوا عالقين في عالم من الأوهام.
في القرن السابع عشر، خشي رينيه ديكارت من أن شيطانًا خبيثًا ربما كان يحاصره داخل عالم من الأوهام، ويختلق كل ما رآه وسمعه. وفي اليونان القديمة، قصّ أفلاطون قصة الكهف الشهيرة، حيث يتم تقييد مجموعة من الأشخاص بالسلاسل داخل كهف طوال حياتهم، في مواجهة جدار فارغ. شاشة. وعلى تلك الشاشة يرون ظلال الأشياء المختلفة.
ويخطئ السجناء حين يفهمون الأوهام التي يرونها هناك على أنها الحقيقة.
وفي الهند القديمة، أشار الحكماء البوذيون والهندوس إلى أن جميع البشر عاشوا محاصرين داخل الـ”مايا” -عالم الأوهام. ما نعتبره في العادة حقيقة واقعة غالبًا ما يكون مجرد خيالات في أذهاننا.
وقد يشن الناس حروبًا كاملة، ويقتلون الآخرين ويرغبون في قتل أنفسهم بسبب تصديقهم هذا الوهم أو ذاك.
والآن، تضعنا ثورة الذكاء الاصطناعي وجهًا لوجه مع شيطان ديكارت، وكهف أفلاطون، والـ”مايا”. وإذا لم نكن حذرين، فإننا قد نصبح عالقين خلف ستار من الأوهام لا يمكننا تمزيقه -أو حتى إدراك وجوده من الأساس.
بطبيعة الحال، يمكن استخدام قوة الذكاء الاصطناعي الجديدة لأغراض جيدة أيضًا. ولن أسهب في الحديث عن هذا الاتجاه لأن الأشخاص الذين يطورون الذكاء الاصطناعي يتحدثون عنه بما فيه الكفاية.
إن مهمة المؤرخين والفلاسفة مثلي هي الإشارة إلى المخاطر. ولكن، من المؤكد أن الذكاء الاصطناعي يستطيع أن يساعدنا بطرق لا حصر لها، من إيجاد علاجات جديدة للسرطان إلى اكتشاف حلول للأزمة البيئية.
والسؤال الذي نواجهه هو كيفية التأكد من استخدام أدوات الذكاء الاصطناعي الجديدة للخير وليس للشر. وللقيام بذلك، نحتاج أولاً إلى تقدير القدرات الحقيقية لهذه الأدوات.
منذ العام 1945، علمنا أن التكنولوجيا النووية يمكن أن تولد طاقة رخيصة لمنفعة البشرية -ولكنها قد تدمر الحضارة البشرية فيزيائيًا أيضًا.
ولذلك قمنا بإعادة صياغة للنظام الدولي بأكمله من أجل حماية البشرية، وللتأكد من أن التكنولوجيا النووية تستخدم للخير في المقام الأول. والآن علينا أن نتصارع مع سلاح جديد للتدمير الشامل يمكن أن يبيد عالمنا العقلي والاجتماعي.
ما يزال بإمكاننا وضع القوانين لتنظيم أدوات الذكاء الاصطناعي الجديدة، لكن علينا أن نتصرف بسرعة. ففي حين أن الأسلحة النووية لا يمكنها اختراع أسلحة نووية أكثر قوة، فإن بوسع الذكاء الاصطناعي أن يصنع أنظمة ذكاء اصطناعي أقوى بأضعاف مضاعفة
وتتمثل الخطوة الحاسمة الأولى في المطالبة بإجراء فحوصات صارمة للسلامة قبل إطلاق أدوات الذكاء الاصطناعي القوية في المجال العام.
وكما لا تستطيع شركة الأدوية إطلاق عقاقير جديدة قبل اختبار آثارها الجانبية قصيرة الأجل وطويلة الأجل، يجب على شركات التكنولوجيا عدم إطلاق أدوات الذكاء الاصطناعي الجديدة قبل التأكد من أنها آمنة. إننا في حاجة إلى ما يعادل إدارة الغذاء والدواء للتحقق من صلاحية التكنولوجيا الجديدة، وفي أسرع وقت ممكن.
ألن يؤدي إبطاء عمليات النشر العام لأدوات الذكاء الاصطناعي إلى تخلف الديمقراطيات عن الأنظمة الاستبدادية الأكثر قسوة؟ العكس تمامًا في الحقيقة.
من شأن عمليات نشر الذكاء الاصطناعي غير المنظمة أن تخلق فوضى اجتماعية، الأمر الذي سيكون من شأنه أن يفيد الحكام المستبدين ويدمر الديمقراطيات. الديمقراطية محادثة، والمحادثات تعتمد على اللغة.
وعندما يخترق الذكاء الاصطناعي اللغة، فإنه يستطيع أن يدمر قدرتنا على إجراء محادثات ذات مغزى، وبالتالي يقوم بتدمير الديمقراطية.
لقد واجهنا للتو ذكاء غريبًا مثل كائن فضائي، هنا على الأرض. ونحن لا نعرف الكثير عنه، سوى أنه قد يدمر حضارتنا. ولذلك، يجب أن نضع حدًا للنشر غير المسؤول لأدوات الذكاء الاصطناعي في المجال العام، وأن ننظمه قبل أن ينظمنا.
واللائحة الأولى التي أقترحها هي إلزام الذكاء الاصطناعي بالكشف عن أنه ذكاء اصطناعي. إنني إذا كنت أجري محادثة مع شخص ما، ولا يمكنني معرفة ما إذا كان إنسانا أم ذكاءً اصطناعياً، فهذه ستكون نهاية الديمقراطية.
قام بإنشاء هذا النص إنسان.
أم أنه ليس كذلك؟
*
يوفال نواه هراري Yuval Noah Harari: مؤرخ وفيلسوف ومؤلف كتاب الإنسان العاقل” و”هومو ديوس” وسلسلة الأطفال نحن الذين لا يمكن إيقافنا”.
وهو محاضر في قسم التاريخ في الجامعة العبرية في القدس ومؤسس مشارك لشركة Sapienship، وهي شركة تتعامل مع التأثير الاجتماعي.
*نشر هذا المقال تحت عنوان: Yuval Noah Harari argues that AI has hacked the operating system of human civilization
اقرأ المزيد في
ترجمات
اضافة اعلان
