مرحباً بالعالم: أن تكون إنساناً في عصر الخوارزميات (*)

المؤلف: هنا فراي

مراجعة: عثمان عثمانية (**)

الناشر: New York: W. W. Norton and Company Inc

سنة النشر: 2018

عدد الصفحات: 243

مقدمة:

ما لا شك فيه أن حياتنا اليوم تعتمد اعتماداً كبيراً على التكنولوجيات الحديثة، فنحن نحادث أصدقاءنا وأقاربنا على الفايسبوك، نتابع التصريحات المفاجئة والمجنونة أحياناً للرئيس الأمريكي دونالد ترامب على التويتر، نشاهد أحدث الأفلام على النتفليكس، ونتابع الكثير من الفيديوهات المسلية والمثقفة على اليوتيوب. وهكذا أصبحت التكنولوجيا جزءاً مهماً من حياة الإنسان في القرن الحادي والعشرين.

ووراء كل تكنولوجيا من التكنولوجيات سابقة الذكر، هناك قطبة مخفية لا تظهر هي الخوارزميات التي تعتمد عليها الآلات والتطبيقات الحديثة. فقد يصاب الشخص بالحيرة لما يقدم له الفايسبوك إعلاناً عن وجهة سياحية تتناسب تماماً مع ميزانيته، وفي الوقت الذي يفكر فيه فعـلاً في القيام بذلك. ويتساءل البعض كيف يحدث ذلك كله؟ هل أصبحت التكنولوجيا قادرة على قراءة الأفكار؟

هذه الأسئلة والكثير من المسائل الأخرى المرتبطة بالخوارزميات، الذكاء الاصطناعي والشبكات العصبية هي ما تناولته أستاذة الرياضيات البريطانية حنّة فراي‏[1] في كتابها الحديث مرحباً بالعالم الذي يناقش مسائل كثيرة حول الخوارزميات واستعمالاتها في مختلف المجالات الإنسانية من العدالة إلى الفن، وما إن كان علينا أن نمنحها السلطة العليا على حياتنا وقراراتنا، أو أن نعتمد عليها لأداء «عمل الحمار» وإبقاء القرار والتصرف الأخير للإنسان.

أولاً: مرحباً بالعالم

تستهل فراي كتابها بتوضيح سبب اختيارها لعنوان الكتاب، فمرحباً بالعالم هو أول برنامج برمجته حنّة على حاسوبها من نوع ZX Spectrum وهو حاسوب صغير 8 بيت، وهذه العبارة كانت أول كلمات تظهر على شاشة الحاسوب لما ظهر في الساحة المعالج الدقيق لأول مرة في سبعينيات القرن العشرين، وكانت من برمجة براين كرنيغان (Brain Kernighan) الذي استوحى العبارة من فيلم رسوم متحركة بقي عالقاً في ذهنه، لما خرج الصوص من البيضة صائحاً «مرحباً بالعالم». وقد جاء الكتاب في سبعة فصول مرتبة كما يلي: السلطة، البيانات، العدالة، الطب، السيارات، الجريمة والفن.

ثانياً: السلطة والبيانات

في بداية فصل «السلطة» تناقش فراي مسألة لمن السلطة؟ هل تترك الخوارزميات كلية لتقرر مصائرنا أم يجب أن يتدخل الإنسان في كل مرحلة من مراحل عملها؟ ولتحقيق ذلك قدمت عدة قصص تبين السلطة التي يمكن أن تصل إليها الخوارزميات على حياتنا. مثـلاً قصة الضابط العسكري الروسي بتروف الذي كان يشرف على نظام الإنذار عن الهجوم بالأسلحة النووية، والذي انطلق معلناً عن كشف صواريخ أطلقت تجاه روسيا، وكان ذلك كفيـلاً بإطلاق حرب نووية مع ال و. م. أ. إن أبلغ السلطات العليا في البلاد بالخبر. لكن بتروف تريَّث، ولم يكن واثقاً إذا كان عليه الثقة في الخوارزمية التي اكتشفت 5 صواريخ فقط، في ما يبدو هجوماً صغيراً جداً مقارنة بهجوم أمريكي، وبعد 23 دقيقة لم تسقط أي صواريخ على الأراضي الروسية، فعرف بتروف أخيراً أن الخوارزمية كانت مخطئة. ماذا لو كان النظام يعمل بصفة مستقلة تماماً؟ لربما اتخذ التاريخ مساراً آخر، وربما اندلعت حرب عالمية ثالثة.

وما يجعل الخوارزميات اليوم على قدر من السلطة هو التطور الحاصل في مجال البيانات، ما يجعلها قادرة على التلاعب بمشاعرنا والتأثير فينا، وحتى توجيه سلوكنا بما يخدم جهات معيّنة، مثلما تم التلاعب بالمنتخبين الأمريكيين وتوجيههم لانتخاب دونالد ترامب في ما يعرف بفضيحة كامبريدج أناليتيكا.

ثالثاً: العدالة

بالنسبة إلى استعمال الخوارزميات في العدالة، لا يمكنها أن تقدِّر أن الشخص مذنب، فهي لا تستطيع موازنة الحجج من الدفاع والادعاء، أو تحليل الأدلة أو تقرير ما إن كان المتهم نادماً حقاً، وبالتالي لا يتوقع أن تحل محل القضاة قريباً. ولكنها قد تكون أكثر فاعلية من القضاة في تحديد استعمال البيانات حول الشخص لحساب خطر إعادة ارتكابه لمخالفة. وبما أن قرارات الكثير من القضاة مبنية على احتمال أن يعود المدعى عليه لارتكاب جريمة، هذا يجعل من الخوارزميات ذات قدرات مفيدة إلى حد ما.

رابعاً: الجريمة

لقد أثبت استعمال الخوارزميات جدواه في مجال مكافحة الجريمة، فبعد استعمال خوارزمية PredPol – التي تساعد الشرطة على تحديد أنماط جغرافية للجرائم – انخفضت الجرائم في لوس أنجلس بمعدل 13 بالمئة في أول أربعة أشهر، بالرغم من ارتفاع الجرائم بمعدل 0.4 بالمئة في باقي المدن حيث يُعتمد على طرق تقليدية. وأعلنت أيضاً مدينة Alhambra، وهي مدينة بكاليفورنيا، عن انخفاض هائل بمعدل 32 بالمئة في عمليات السطو، و20 بالمئة في عمليات سرقة السيارات بعد استعمال الخوارزمية في كانون الثاني/يناير 2013.

خامساً: الطب

وفي الطب، لا يمكن للخوارزميات أن تعوِّض الطبيب كلية، مثـلاً في دعم المرضى ذوي الصعوبات الاجتماعية والنفسية والمالية. لكن هناك مجالات في الطب حيث يمكن للخوارزميات أن تقدم المساعدة، وهي المجالات التي يكون فيها التعرف إلى الأنماط، تصنيفها والتنبؤ بها أهم من كل العناصر الأخرى، وبخاصة في مجال علم الأمراض.

وأحد النجاحات الكبرى يأتي من فريق العقل لفريق براين غوغل (Google Brain Team)، الذين بنوا خوارزمية تراقب السبب العالمي الأكبر لاعتلال الشبكية السكري، وهو مرض يصيب العروق الدموية في المناطق الحساسة للضوء في العين، ويمكن الوقاية منه. ويصعب في الهند الوصول إلى خبراء قادرين على تشخيص المرض، ما ينتج منه خسارة 45 بالمئة من الذين يحملون هذا المرض أبصارهم قبل أن يعرفوا أنهم مصابون به. تشخص خوارزمية فريق غوغل التي تم بناؤها بالتعاون مع أطباء من الهند بشكل ممتاز الوضع مثل طبيب العيون المختص تماماً. وبالمثل، هناك خوارزميات تبحث عن أمراض القلب والأوعية الدموية، وانتفاخ الرئتين، والسكتات الدماغية والميلانينية في البشرة.

سادساً: السيارات ذاتية القيادة والفن

يعتقد الكثيرون أن مستقبل النقل هو السيارات ذاتية القيادة، التي تعبِّر عنها بصورة أفضل فكرة إيصالك إلى وجهتك وأنت تجلس في الكرسي الخلفي من سيارتك تقرأ كتاباً. وعرضت فراي أحد أهم المشاكل التي تواجه هذا النوع من التكنولوجيا، وهو الخيار الذي يجب أن تتخذه في حال وجود مفاضلة بين شرَّين، مثلاً عند حدوث عطل ميكانيكي يمنع السيارة من التوقف عند الإشارة، هل تصطدم بالحائط الجانبي وتتسبب في مقتل من في السيارة، أم تكمل طريقها وتقتل المشاة؟ كيف سيتم اتخاذ قرار من سيموت؟

ونجحت فراي في إبراز مسألة أخرى في نهاية الأهمية، التي ترتبط بالاعتماد المبالغ فيه على الأنظمة المؤتمتة، التي كتبت حول مخاطرها الخفية عالمة النفس ليزان باينبريدج (Lisanne Bainbridge)، التي ترى أن بناء آلة لتحسين الأداء البشري سيؤدي إلى خفض القدرة البشرية.

وبالنسبة إلى اعتماد الخوارزميات في مجال الفنون، وضحت فراي كيف أن صناعة الأفلام والموسيقى تعتبر أمراً مكلفاً، وبالتالي لا بد من تحقيق مداخيل كافية لتغطية تلك التكاليف. لكن من الصعب معرفة ما إن كان سيتم تحقيق ذلك قبل عرض الفيلم في صالات السينما وفي دور العرض. ماذا لو كانت هنالك خوارزمية تمكننا من معرفة ما إن كان الفيلم سيحقق نجاحاً؟

خاتمة

في مجال الجريمة والعدالة، رافعت فراي جيداً عن اعتماد الخوارزميات في تحديد الأنماط الجغرافية لارتكاب الجرائم، ما يسمح للشرطة بالتدخل مسبقاً قبل حدوث الجرائم، وذلك من شأنه خفض نسب ارتكاب الجريمة في المجتمع، كما أن الخوارزميات قد تسهِّل عمل القضاة في تحديد من يتم إطلاق سراحهم بكفالة، لكن من دون أن تحل محلهم كلية.

أما في مجال الطب لم تنكر فراي ضرورة تدخل الإنسان في عملية تشخيص الأمراض وتقديم العلاج المناسب، ولم تذهب بعيداً كما فعل هراري (Harari)‏[2] في توقعه بأن الطبيب المستقبلي سيكون ذكاء اصطناعياً. بل على العكس من ذلك تعتقد أن ترك الأمر للخوارزميات لوحدها لتحدد المرضى بسرطان الثدي مثـلاً سينتج منه الكثير من الأخطاء سواء كان اعتبار الكثير من الأصحّاء مرضى أو العكس.

وبالنسبة إلى استعمال الخوارزميات في مجال الفن، فقد جاء أدنى من التوقعات كثيراً، فالقارئ يعتقد في البداية أن فراي ستتحدث عن خوارزميات ذكاء اصطناعي قادرة على رسم لوحات أفضل من مايكل أنجلو، أو تقليد لوحة الموناليزا لـدافينشي، أو على الأقل كشف أنماط معينة في لوحات بانكسي قد تدل على من هو فعـلاً. من ينتظر كل ذلك سيخيب أمله كثيراً، لأن فراي تتحدث أساساً عن استعمال الخوارزميات في توقع ما إن كان فيلم ما سيحقق نجاحاً عند عرضه في صالات السينما، وهذا أدنى كثيراً مما يمكن توقعه من عنوان الفصل «الفن».

في المقابل، أهملت فراي أهم تطبيقات الخوارزميات في عالم اليوم، وهو استعمالها في مجال الأعمال، إذ تشير دراسة حديثة أجراها معهد ماكينزي العالمي إلى أن تطبيق الذكاء الاصطناعي في التسويق والمبيعات وسلاسل التوريد، يمكنه أن يخلق قيمة اقتصادية تقدر بـ 2.7 تريليون دولار خلال السنوات العشرين القادمة‏[3]. كما أهملت التطبيقات المبشرة للذكاء الاصطناعي في مجال التعليم، إذ إن التغيير المهم الذي سيحدث في طبيعة الوظائف يتطلب تغييراً موافقاً في طبيعة وأساليب التعليم.

وأهملت فراي أيضاً تطبيقات الذكاء الاصطناعي في مجال الحرب، حيث يتم اليوم تطوير طائرات من دون طيار مستقلة تماماً، بمعنى أنه يمكنها اتخاذ قرار التدخل لوحدها، وكذلك تطوير آلات قاتلة يمكن أن تعمل مستقلة عن البشر، وهذا ما يجعل مثل تلك الاستعمالات للخوارزميات أمراً على قدر عال من الخطورة، ولا يكفي التعامل معه على مستوى محلي، بل يستوجب التنسيق دولياً لتقليص المخاطر التي يمكن أن تترتب عنه.