يمكنك الاستماع إلى المقال عوضاً عن القراءة
المعضلات الأخلاقيّة للثورة الصناعيّة الرابعة

هل نحن بحاجة لقانون أخلاقيّ جديد في عصر الطائرات المُسيّرة والتلاعب بالجينات؟


مصدر الصورة: REUTERS/Steve Marcus


  • هل يجب على السيّارة ذاتيّة القيادة التي تستقلّها أن تولي حياتك أهمّيّة أكثر من حياة شخص من المشاة؟
  • وهل ترى أنّ من المناسب استخدام نشاطك على تطبيقات شركة الفيت بيت Fitbit ضدّك في المحكمة؟
  • هل يجب أن نسمح للطائرات المسيّرة أن تعمل كأدوات تصوير للفضائح؟
  • وهل يمكن لأحدنا أن يحصل على براءة اختراع جين بشريّ؟


يصارع العلماء اليومَ مثل هذه المعضلات، فمع دخولنا عصر الآلات أصبحنا بحاجة لشرائع موثّقة لتكون عُرفاً عالميّاً، كما يجب علينا أن نشدّد على أهمّيّة الأخلاق كما نشدّد على مصطلحات رائجة كالتعطيل disruption.


وهذا ما يحصل فعلاً، فقد أعلنت جامعة كارنيغي ميلون Carengie Mellon University الأميريكيّة في السنة الماضية عن افتتاح مركز جديد لدراسة علم الأخلاق الخاصّ بالذكاء الاصطناعي artificial intelligence. وقد نشر البيت الأبيض، أثناء ولاية الرئيس باراك أوباما، بحثاً عن الموضوع نفسه. ومن ثمّ أعلن عمالقة التقنيات، بما فيهم فيسبوك وغوغل، عن شراكة ليخطّوا هيكلاً أخلاقيّاً للذكاء الاصطناعي.


وفي هذا الأمر فرص ومخاطر عظيمة على حدّ سواء. وقد وقّع كلّ من ستيفين هوكينغ Stephen Hawking وإيلون موسك Elon Musk بالإضافة لخبراء آخرين على رسالة للنّشر دعوا فيها لبذل الجهود لضمان أن يكون الذكاء الاصطناعي مفيداً للمجتمع.

"وبما أنّ أيّ شيء يمكن للحضارة أن تعطيه سيكون نتاجاً للذكاء البشريّ، فإنّ المنافع المحتملة ستكون كبيرة جدّاً. وإذ يتجلّى هذا الذكاء من خلال الأدوات التي قد يزوّدنا بها الذكاء الاصطناعي فقد لا نتمكّن من التكهّن بما قد ننجز، ولكنّ القضاء على المرض والفقر ليس من تلك الأمور المبهمة. فتوجّب علينا، لما لهذا الذكاء الاصطناعي من إمكانات جبّارة، أن نبحث في كيفيّة حصادنا لمنافعه وتجنّب الأخطار المحتملة."

من سأنقذ؟ محاكاة لمعضلة سيّارة ذاتيّة القيادة.
من سأنقذ؟ محاكاة لمعضلة سيّارة ذاتيّة القيادة.


تفتقر العديد من الجهود للتعاون العالميّ، ولو كانت الأسماء الواردة أعلاه أسماء كبيرة وتشكل مثلاً أعلى كبيراً يُحتذى به. كما يبدو أنّ مقاصد الثورة الصناعيّة الرابعة لا تقتصر على الإنترنت والذكاء الاصطناعي.


يعتقد البروفيسور كلاوس شفاب Klaus Schwab، وهو منشئ المنتدى العالميّ الاقتصاديّ the World Economic Forum، أنّ هذه المرحلة ستُبنى على أنظمة حسّيّة رقميّة cyber-physical systems وذلك بدمج الحسّ والبيولوجيا والعالم الرقميّ معاً. وسنضطر بإقبالنا على عصر الآلات إلى مواجهة تحدّيات أخلاقيّة تدعونا لسنّ قوانين جديدة. وقد نضطر في بعض الأحوال إلى إعادة النظر بعلم الأخلاق بأكمله؛ فتلك هي طبيعة الارتقاءات التقنيّة. نعتقد أنّ الإنسانيّة مقبلة على مفترق ستضطرّ عنده إلى إعادة النظر بعلم الأخلاق برمّته – أي ما قد يكون إصدار النسخة 2 من علم الأخلاق An Ethics 2.0.

أصول علم الأخلاق


لا يتناسب علم الأخلاق مع عالم التقنية بسهولة سواء أكان مصدره (أي علم الأخلاق) الفلسفة أو الدين. ويعطينا كلّ شيء ابتداءً بسقراط وانتهاء بالوصايا العشر دليلاً أخلاقيّاً، ولكن، وبجميع الأحوال، فإنّ أي مجموعة من الضوابط ستواجه معضلات مختلفة.


ولعالم العلم محاولاته أيضاً، انطلاقاً من قوانين أسيموف الثلاثة للرجال الآليّين Asimov’s Three Laws for Robots وحتى أعمال نيك بوستروم Nick Bostrom حول الأخلاق. ولكنّ بني الإنسان يجدون صعوبة في استحداث الفضائل ليوجهوا سلوكهم بناءً عليها أو يتصرفوا وفقها، فما بالك في حفظ فضائل من جنسها ضمن التقنيّات الجديدة.


إنّ الدلالات الأخلاقيّة تتراوح بين الآنيّ (كيف تؤثّر الخوارزميّات في الفيس بوك وغوغل على كلّ شيء ابتداءً من عواطفنا وحتى اختياراتنا) إلى المستقبل (ماذا سيحدث إن تسبّبت المركبات ذاتيّة القيادة بعدم وجود فرص عمل لسائقي الشاحنات؟).


وليس ما يلي إلّا مجرّد نموذج ليس شاملاً أبداً، عن القرارات الأخلاقيّة التي سنواجهها


  • في علوم الحياة
    هل يجب أن يصبح التعديل الجينيّ شرعياً ويسمح بالتلاعب بالجنس البشريّ لخلق ما يمكن تسميته "الأطفال المصممين حسب الطلب designer babies

    سلّط الدكتور سيدهارتا موكارجي Siddhartha Mukherjee في كتابه اللامع في أوساط النقّاد والذي سماه "الجين The Gene" الضوء على الأسئلة الأخلاقيّة العميقة التي سيفرضها التطوّر في علم الجينات؛ وتطول قائمة الأسئلة تلك. فماذا لو تنبّأ اختبار ما قبل الولادة بأنّ مستوى ذكاء ابنك سيكون 80 درجة، أي دون المستوى العاديّ إن لم تقم ببعض التعديلات؟ وماذا إن لم تكن هذه التقنيّات متاحة إلّا للأثرياء؟

 

  • في الذكاء الاصطناعي وتعلم الآلة والبيانات
    سيساعدنا الذكاء الاصطناعي بمرور الوقت على اتّخاذ القرارات بشتّى أنواعها، ولكن كيف لنا أن نتأكد من أنّ هذه الخوارزميّات قد صُمّمت لتكون عادلة؟ وكيف لنا أن نسوي الانحياز في تلك الأنظمة التي ستُستخدم بدورها لتحدد وتقرر من يحصل على الترقيات والمنح الجامعيّة، لا بل وشريك حياتنا أحياناً؟

    هل يجب أن يستخدم رجال الشرطة المحلّيّون برمجيّات للتعرف على الوجوه؟ وهل يجب تشريع استخدام خوارزميّات الشرطة التنبّؤيّة؟ وما تأثير ذلك على خصوصيّتنا؟ وهل ستُدخلنا التقنيّة المتطوّرة بأيدي رجال القانون المحلّيّين عصر دولة المراقبة؟

 

  • في وسائل الإعلام الاجتماعيّة والأدوات
    ماذا لو كانت أجهزة القراءة لدينا Kindles مزوّدة ببرمجيّات للتعرّف على الوجوه وحسّاسات قياس حيويّة ليتمكّن الجهاز من معرفة تأثير كلّ جملة على نبضات قلوبنا وضغط دمنا؟

 

  • في الآلات وبرامج البوت bots
    كيف لنا أن نعرف ما يمكن أن تقرّره السيّارات ذاتيّة القيادة؟
    كيف لنا أن نعرف ما يمكن أن يقرّره الإنسان الآليّ؟
    وهل سيكون من حاجة لشرعة حقوق للإنسان الآليّ مكافئة لشرعة حقوق الإنسان؟
    وماذا عن حقّ الإنسان بالزواج من إنسان آليّ، أو امتلاك الإنسان الآليّ للمقتنيات والملكيات؟
    وهل يجب أن يُسمح لسايبورغ Cyborg (إنسان آلي فائق التطور) أن يترشّح لمنصب سياسيّ ما؟

 

  • في المستقبل
    كانت الأسواق الحرّة عادةً هي من تقرّر مصير الابتكارات الجديدة، ومن ثمّ بمرور الوقت تتدخّل الحكومات المحلّيّة (يعمل تطبيق أوبر Uber في الهند ولكنه مُنع من العمل في اليابان). ولكن قد يكون هذا المنهج كارثيّاً في هذا الحال.

    ولسنا مع تدخّل الحكومة في إعاقة الابتكار، بل ندعو لحوار عالميّ مترابط عن الأخلاق في القرن الواحد والعشرين. ويجب أن يتخطّى هذا الحوار حدود المجلّات الأكاديميّة والمقالات التي تعبّر عن الآراء ليتضمّن لجاناً تمثّل الحكومات والهيئات الدوليّة كالأمم المتحدة.

    وقد اتخذنا مقاربة منفصلة حتى الآن من الحظر العالميّ للاستنساخ البشريّ إلى القيود الجزئيّة على الأطعمة المعدّلة وراثيّاً. كما فشلت الأقاليم المختلفة في تنسيق ردّ موحّد بسبب التباين في وجهات النظر؛ فتوجُّهُ الاتحاد الأوروبّيّ في إدارة التأثير المجتمعيّ للتقنيّات الجديدة مختلفٌ بشكل ملحوظ عن توجُّهِ الولايات المتحدة، وفي المقابل لطالما تبنّت الصين وجهة النظر بعيدة المدى.

    وستجد التقنيّة، كالماء تماماً، طريقها إلى داخل الفراغات. ففي عالم متداخل ومتصل بعضه ببعض، أصبحت القرارات المحلية فعّالة في حال الموافقة الدوليّة حصراً.

    إذًا، يبدو أنّ هناك حاجة لمنتدى دوليّ منظّم لتشكيل قائمة بالتقنيّات التي تستلزم المراقبة والضبط، وذلك لتقييم كلّ تقنيّة على حدة، ومن ثمّ نشر مخطّط عن قواعدها السلوكيّة. فقد تضع هيئة دوليّة حاكمة مثلاً ضوابطاً معيّنة، كإلزام نشر المنطق الكامن خلف خوارزميّات محدّدة للذكاء الاصطناعي.

    ويفتخر عالم العلم ببعض الأمثلة الناجحة عن التعاون الدوليّ. وما بروتوكول مونتريال لعام 1987 (لمعالجة قضيّة استنزاف الأوزون) ومؤتمر أسيلومار Asilomar لعام 1975 (لتنظيم تقنيّة الحمض النوويّ) إلا مثالان يتبادران إلى الذهن.


المصطلحات


  1.  السايبورغ cyborg هو إنسان خياليّ ذو قدرات خارقة بفضل أجزاء ميكانيكيّة زُرعت في جسده.

إمسح وإقرأ

المصادر

شارك

المساهمون


اترك تعليقاً () تعليقات