في عام 1997، هزم ديب بلو اللاعب غاري كاسباروف، بطل العالم في الشطرنج. في عام 2011 ، هزم واطسون اللاعبين كين جينينغز وبراد روتر ، أفضل لاعبي جيوباردي في العالم. في عام 2016 ، هزم ألفا-جو اللاعب كي-جي، أفضل لاعب “جو” في العالم. في عام 2017، أطلقت منظمة الفكر العميق العنان لبرنامج ألفا-زيرو ، الذي هزم برامج الكمبيوتر الرائدة عالمياً في لعبة الشطرنج ، و “جو”، و”شوجي”.
إذا لم يعد البشر خصوماً جديرين، فربما تكون أجهزة الكمبيوتر قد تجاوزت مستوى ذكائنا لدرجة أننا يجب أن نعتمد على ذكائهم الفائق لاتخاذ قراراتنا المهمة. لا.
على الرغم من مهارتهم الغريبة في ألعاب الطاولة ، فإن خوارزميات الكمبيوتر لا تمتلك أي شيء يشبه الحكمة البشرية أو الفطرة السليمة أو التفكير النقدي. إن اتخاذ قرار بشأن قبول عرض عمل أو بيع سهم أو شراء منزل يختلف اختلافاـ كبيراً عن إدراك أن تحريك بيدق شطرنج على ثلاث مساحات ستقضي على الخصم. هذا هو السبب في أنه من الخطر الوثوق ببرامج الكمبيوتر التي لا نفهمها لاتخاذ قرارات بالنيابة عنا.
فكر في التحديات التي حددها أستاذ علوم الكمبيوتر في جامعة ستانفورد تيري فينوغراد، والتي أصبحت تُعرف باسم مخططات فينوغراد. على سبيل المثال، إلى ماذا تشير كلمة “هو” في هذه الجملة؟
لا أستطيع أن أقطع تلك الشجرة بذلك الفأس، فهو [سميك / صغير] جداً.
إذا كانت الكلمة الموضوعة بين قوسين “سميكة” ، فإنها تشير إلى الشجرة ؛ إذا كانت الكلمة الموضوعة بين قوسين “صغيرة” ، فإنها تشير إلى الفأس. جمل مثل هذه يفهمها البشر على الفور ولكنها صعبة للغاية على أجهزة الكمبيوتر لأنها لا تملك تجربة العالم الحقيقي لوضع الكلمات في سياقها.
نقتبس هنا مقولة أورين إتزيوني ، الرئيس التنفيذي لمعهد ألين للذكاء الاصطناعي ، كيف يمكن للآلات أن تسيطر على العالم في حين أنها لا تستطيع حتى معرفة ما تشير إليه كلمة “هو” في جملة بسيطة؟
عندما نرى شجرة، نعلم أنها شجرة. قد نقارنها بأشجار أخرى ونفكر في أوجه التشابه والاختلاف بين أشجار الفاكهة وأشجار القيقب. قد نتذكر الروائح المنبعثة من بعض الأشجار. لن نتفاجأ برؤية سنجاب يصعد صنوبراً أو طائراً يطير من خشب قرانيا. قد نتذكر زرع شجرة ومشاهدتها تنمو عاماً بعد عام. قد نتذكر قطع شجرة أو مشاهدة شجرة تقطع.
الكمبيوتر لا يفعل أياً من هذا. يمكنه التدقيق الإملائي لكلمة “شجرة”، وحساب عدد المرات التي تم فيها استخدام الكلمة في قصة، واسترداد الجمل التي تحتوي على الكلمة. لكن أجهزة الكمبيوتر لا تفهم ماهية الأشجار بأي معنى ذي صلة. إنهم مثل نايجل ريتشاردز ، الذي حفظ قاموس سكرابل الفرنسي وفاز ببطولة العالم للسكرابل الفرنسية مرتين، على الرغم من أنه لا يعرف معنى الكلمات الفرنسية التي يتهجاها.
لإثبات مخاطر الاعتماد على خوارزميات الكمبيوتر لاتخاذ قرارات واقعية، قمنا بالتحقيق في عوامل الخطر للنوبات القلبية القاتلة.
قمت بتكوين بعض بيانات إنفاق الأسر لـ 1000 شخص وهمي، نصفهم عانى من نوبات قلبية ونصفهم لم يكن. لكل من هؤلاء الأشخاص، استخدمت مولد أرقام عشوائي لإنشاء بيانات وهمية في 100 فئة إنفاق. كانت هذه البيانات عشوائية تماماً. لم يكن هناك أناس حقيقيون، ولا إنفاق حقيقي، ولا أزمات قلبية حقيقية. كانت مجرد مجموعة من الأرقام العشوائية. لكن الشيء المتعلق بالأرقام العشوائية هو أن الأنماط العرضية تظهر حتماً.
في 10 تقلبات لعملة عادلة، هناك احتمال 46٪ لوجود خط من أربعة رؤوس أو أكثر على التوالي أو أربعة ذيول أو أكثر على التوالي. إذا لم يحدث ذلك، فقد تتناوب الرؤوس وذيولها عدة مرات على التوالي. أو قد يكون هناك رأسان وذيل، متبوعان برأسين آخرين وذيل. على أي حال، سيظهر نمط ما وسيكون بلا معنى على الإطلاق.
وبنفس الطريقة، كان لا بد أن تظهر بعض الأنماط العرضية في أرقام الإنفاق العشوائية الخاصة بي. كما اتضح، من خلال الحظ وحده، “أنفق” الأشخاص الخياليون الذين لم يصابوا بنوبات قلبية المزيد من الأموال على الأجهزة الصغيرة وكذلك على المنتجات الورقية المنزلية.
عندما نرى هذه النتائج، يجب أن نسخر ونعترف بأن الأنماط هي مجرد مصادفات لا معنى لها. كيف يمكن للأجهزة الصغيرة والمنتجات الورقية المنزلية أن تمنع النوبات القلبية؟
على النقيض من ذلك، سيأخذ الكمبيوتر النتائج على محمل الجد لأن الكمبيوتر ليس لديه فكرة عن النوبات القلبية والأجهزة الصغيرة والمنتجات الورقية المنزلية. إذا كانت خوارزمية الكمبيوتر مخفية داخل صندوق أسود، حيث لا نعرف كيف تم تحقيق النتيجة، فلن تتاح لنا الفرصة للسخرية.
ومع ذلك، فإن الشركات والحكومات في جميع أنحاء العالم في الوقت الحاضر تثق في أجهزة الكمبيوتر لاتخاذ قرارات تستند إلى أنماط إحصائية عرضية مثل هذه. قررت إحدى الشركات، على سبيل المثال، أنها ستحقق المزيد من المبيعات عبر الإنترنت إذا غيرت لون خلفية صفحة الويب المعروضة للعملاء البريطانيين من الأزرق إلى الأزرق المخضر. لماذا ؟ لأنهم جربوا عدة ألوان مختلفة في ما يقرب من 100 دولة. كان من المؤكد أن يكون أي لون معين أفضل حالاً في بعض البلدان عنه في بلدان أخرى حتى لو تم تحليل أرقام عشوائية بدلاً من أرقام المبيعات. تم إجراء التغيير وانخفضت المبيعات.
تتم الآن العديد من قرارات التسويق والتشخيصات الطبية وتداول الأسهم عبر أجهزة الكمبيوتر. يتم تقييم طلبات القروض وطلبات العمل بواسطة أجهزة الكمبيوتر. تدير أجهزة الكمبيوتر الحملات الانتخابية، بما في ذلك حملة هيلاري كلينتون الرئاسية الكارثية لعام 2016 ، فإذا كانت الخوارزميات مخبأة داخل الصناديق السوداء، دون إشراف بشري، فالأمر متروك لأجهزة الكمبيوتر لتقرير ما إذا كانت الأنماط المكتشفة منطقية، إنهم غير قادرين تماماً على القيام بذلك لأنهم لا يفهمون أي شيء عن العالم الحقيقي.
أجهزة الكمبيوتر ليست ذكية بأي معنى للكلمة، ومن الخطر الاعتماد عليها لإتخاذ قرارات مهمة بالنسبة لنا. إن الخطر الحقيقي اليوم ليس في أن أجهزة الكمبيوتر أكثر ذكاءً منا، بل في اعتقادنا أن أجهزة الكمبيوتر أكثر ذكاءً منا.
