يمكنك الاستماع إلى المقال عوضاً عن القراءة
نورمان: الذكاء الاصطناعي المختل عقليًا

كلّا، إنه ليس فيلم رعب جديد. إنه "نورمان" Norman: والمعروف أيضاً بـ "الذكاء الاصطناعي السيكوباثي"، والذي كشف النقاب عنه باحثون أمريكيون.

إن الغرض من صنعه هو توضيح كيفية إنشاء الخوارزميات بلغة يفهمها عامة الناس، وتوعية الناس بمخاطر الذكاء الصناعي المحتملة. ووفقاً لمعهد ماساشوستس للتكنولوجيا (MIT) رفيع المستوى، يمثل نورمان دراسة حالة عن مخاطر الذكاء الصناعي عندما تُستخدم البيانات المتحيزة في خوارزميات تعلُّم الآلة.

وفي هذا السياق، صرح كلٌّ من بينار يانارداج Pinar Yanardag، ومانويل سيبريان Manuel Cebrian، وإياد رهوان Iyad Rahwan، وهم من أعضاء فريق MIT: "هناك فكرة محورية في تعلُّم الآلة: وهي أن البيانات التي تستخدمها في تعليم خوارزميات تعلُّم الآلة تؤثر بسلوكها بشكل كبير".
 

ابتكر باحثو معهد MIT أول ذكاء اصطناعي سيكوباثي [1] يُدعى "نورمان" Norman، صُمم ليشرح كيفية صنع الخوارزميات، ولجعل الناس على دراية بمخاطر الذكاء الاصطناعي المحتملة.
ابتكر باحثو معهد MIT أول ذكاء اصطناعي سيكوباثي [1] يُدعى "نورمان" Norman، صُمم ليشرح كيفية صنع الخوارزميات، ولجعل الناس على دراية بمخاطر الذكاء الاصطناعي المحتملة.


وأخبرونا عبر البريد الإلكتروني: "ولهذا، حينما نتحدث عن خوارزميات تعلُّم الآلة عندما تكون متحيزة أو غير منصفة، فإن الجاني هنا ليس الخوارزميات نفسها، بل البيانات المتحيزة التي غُذِّيَت الخوارزميات بها". ومن هنا جاءت فكرة إنشاء نورمان، والذي سُمي تيمّنًا بالقاتل السيكوباثي نورمان بيتس في فيلم Psycho للمخرج ألفريد هيتشكوك Alfred Hitccock عام 1960.

غُذيَّ نورمان بالأساطير القصيرة فحسب، تلك التي تصف صورٍ "لأناسٍ يحتضرون" موجودة على منصة الإنترنت Reddit. قدم بعدها الباحثون صوراً لبُقع الحبر، كما هو الحال في اختبار رورشاخ النفسي (Rorschach)، لتحديد ما يراه نورمان لمقارنة إجاباته بتلك الخاصة بالذكاء الصناعي التقليدي.

بدت النتائج مخيفة على أقل تقدير، فبينما يرى الذكاء الصناعي التقليدي "شخصان عاديَّان يقفان بالقرب من بعضهما البعض"، كان نورمان يرى في موضع الحبر ذاته "رجلٌ يقفز خارج النافذة". وعندما كان يميز نورمان "رجلاً يُقتل حتى الموت بواسطة زوجته المذعورة"، وجد الذكاء الصناعي الآخر "شخصاً يحمل مظلة".

الجدير بالذكر، أن موقع الويب norman-ai.mit.edu يعرض عشرة أمثلة من بقع الحبر مصحوبة بردود من كلا النظامين، وتكون استجابات نورمان مروعة دائماً. كما يسمح الموقع أيضاً لمستخدمي الإنترنت باختبار نورمان مع بقع الحبر وإرسال إجاباتهم لمساعدة نورمان في إصلاح ذاته.


[1] السيكوباثي أو معتل النفس: هو شخص لديه اضطراب في الشخصية، ويتميز بالكذب والخداع والعجرفة وتوهم العظمة وفقد التعاطف والندم، ويكون أكثر عرضة لأن يكون عنيفاً أو مجرماً. 

إمسح وإقرأ

المصادر

شارك

اترك تعليقاً () تعليقات