أكثر من 70 برلمانيًا يطالبون بحظر «الذكاء الاصطناعي فائق الذكاء» في بريطانيا
طالب أكثر من 70 نائبًا وعضوًا في مجلس اللوردات رئيس الوزراء آندي بيرنهام بدعم حظر تطوير ما يعرف بـ«الذكاء الاصطناعي فائق الذكاء»، وسط تصاعد المخاوف من أن يؤدي السباق بين شركات التكنولوجيا لتطوير أنظمة تتجاوز القدرات البشرية إلى مخاطر يصعب التحكم فيها.
وجاء التحرك بعد تقديم النائب العمالي أليكس سوبيل مشروع قانون جديد إلى مجلس العموم يقترح حظر تطوير وتشغيل ونشر أنظمة الذكاء الاصطناعي فائق الذكاء في بريطانيا، ومنح الحكومة صلاحيات لمراقبة التقنيات التي قد تقود إلى ظهور مثل هذه الأنظمة.
ومن بين الموقعين على الرسالة 15 وزيرًا سابقًا، إلى جانب نواب وشخصيات من حزب العمال والمحافظين والديمقراطيين الأحرار والحزب القومي الاسكتلندي، في مؤشر على أن المخاوف من التطورات المستقبلية للذكاء الاصطناعي بدأت تتجاوز الانقسامات الحزبية التقليدية.
لكن المشروع لا يستهدف حظر أدوات الذكاء الاصطناعي المستخدمة حاليًا، مثل روبوتات المحادثة أو أنظمة إنشاء الصور والنصوص، وإنما تقنية مستقبلية لم يتم تطويرها حتى الآن.
ما «الذكاء الاصطناعي فائق الذكاء»؟ 
يستخدم مصطلح Artificial Superintelligence أو ASI لوصف نظام افتراضي للذكاء الاصطناعي يمكن أن تتجاوز قدراته القدرات البشرية في معظم المجالات الفكرية، وليس مجرد أداء مهمة محددة بصورة أفضل من الإنسان.
ويختلف ذلك عن الذكاء الاصطناعي الحالي، الذي يستطيع التفوق على البشر في مهام بعينها، كما يختلف عن مفهوم «الذكاء الاصطناعي العام» AGI، الذي يشير عادة إلى نظام يستطيع أداء نطاق واسع من المهام الفكرية بمستوى مماثل للإنسان.
أما الذكاء فائق الذكاء فيفترض أن يتجاوز الإنسان بصورة واسعة في مجالات متعددة، من العلوم والبرمجة إلى التخطيط وحل المشكلات.
ولا يوجد اتفاق على ما إذا كان الوصول إلى هذه المرحلة ممكنًا أصلًا أو متى قد يحدث، إذ يرى بعض العاملين في القطاع أنها قد تصبح ممكنة خلال سنوات، بينما يشكك باحثون آخرون في قرب الوصول إليها ويشيرون إلى القيود التي لا تزال تواجه أنظمة الذكاء الاصطناعي الحالية.
ماذا يريد النواب حظره؟
يقترح مشروع سوبيل منع تطوير ونشر وتشغيل أنظمة الذكاء الاصطناعي فائق الذكاء داخل بريطانيا.
كما يدعو إلى إنشاء سلطات للمراقبة والسيطرة على التقنيات التي يمكن أن تقود إلى تطوير هذه الأنظمة، وإلى تحرك الحكومة البريطانية دوليًا من أجل بناء اتفاق أوسع يمنع سباقًا بين الدول والشركات للوصول إلى الذكاء فائق الذكاء.
ويرى مؤيدو المشروع أن فرض حظر بريطاني وحده لن يكون كافيًا إذا واصلت شركات ودول أخرى تطوير التكنولوجيا، ولذلك يريدون أن تقود لندن تحركًا دوليًا مشابهًا للجهود التي استخدمت في التعامل مع بعض التقنيات والأسلحة التي تحمل مخاطر عالمية.
لماذا ظهرت الدعوة الآن؟
جاء الضغط البرلماني بعد سلسلة من التحذيرات العلنية من باحثين وشخصيات تعمل داخل صناعة الذكاء الاصطناعي نفسها.
وقال إيفان هوبينغر، الباحث في شركة Anthropic والمتخصص في مواءمة أنظمة الذكاء الاصطناعي مع الأهداف البشرية، إنه يعتقد أن هناك احتمالًا يتجاوز 10 في المئة لأن تؤدي التكنولوجيا مستقبلًا إلى كارثة تقضي على البشرية.
كما استقال الباحث جاكوب كوكسون من Anthropic هذا الأسبوع، بعدما عمل سابقًا في OpenAI، محذرًا من أن الشركات تتسابق للوصول إلى أنظمة أكثر قوة من دون وجود ضمانات كافية للسيطرة عليها.
ولا يمثل تقدير الخطر بنسبة 10 في المئة إجماعًا علميًا أو توقعًا مثبتًا، وإنما تقييمًا شخصيًا لأحد الباحثين في المجال، في ظل خلاف واسع بين الخبراء حول احتمالات ظهور الذكاء فائق الذكاء وحجم المخاطر التي يمكن أن يمثلها.
لكن هذه التحذيرات دفعت سياسيين إلى التساؤل عما إذا كان من الأفضل وضع قواعد قبل ظهور التكنولوجيا بدل محاولة السيطرة عليها بعد تطويرها.
مؤيدون يقارنون المخاطر بالأسلحة النووية
حصلت الدعوة إلى فرض قيود مسبقة على دعم عدد من الشخصيات المعروفة في مجال الذكاء الاصطناعي والأمن.
ومن أبرز المؤيدين عالم الحاسوب جيفري هينتون، الحائز على جائزة نوبل وأحد أبرز الباحثين الذين أسهمت أعمالهم في تطوير الشبكات العصبية الحديثة، والذي حذر من أن تطوير نظام يفوق البشر ذكاءً قبل معرفة كيفية السيطرة عليه قد يؤدي إلى نتائج كارثية.
كما يدعم التحرك أستاذ علوم الحاسوب في جامعة كاليفورنيا بيركلي ستيوارت راسل، وبياتريس فين التي قادت الحملة الدولية لإلغاء الأسلحة النووية الحائزة على جائزة نوبل للسلام.
وشبّه وزير الدفاع البريطاني السابق ديس براون المخاطر المحتملة للذكاء فائق الذكاء بالمخاطر التي صاحبت ظهور الأسلحة النووية، معتبرًا أن التعامل معها قد يحتاج إلى تعاون دولي قبل أن يتحول السباق التكنولوجي إلى أمر يصعب وقفه.
لكن هل يمكن لبريطانيا أن توقف السباق بمفردها؟
يمثل هذا السؤال أحد أبرز الاعتراضات على المشروع.
فخلال طرحه في مجلس العموم، أيد النائب المحافظ برنارد جينكين استمرار النقاش بشأن مخاطر التكنولوجيا، لكنه حذر من أن فرض بريطانيا قيودًا على نفسها لن يمنع دولًا لا تلتزم باتفاقات دولية من تطوير أنظمة أكثر تقدمًا.
ويثير ذلك معضلة أوسع أمام الحكومات: فإذا فرضت دولة قيودًا صارمة بينما استمرت دول أخرى في تطوير التكنولوجيا، فقد تخسر الأولى قدراتها التكنولوجية والاقتصادية والأمنية من دون أن يختفي الخطر الذي تحاول منعه.
في المقابل، يرى مؤيدو الحظر أن الحجة نفسها قد تدفع الدول والشركات إلى سباق مستمر نحو أنظمة أكثر قوة، ولذلك يدعون إلى اتفاق دولي بدل الاعتماد على قرارات وطنية منفردة.
ما موقف الحكومة؟
لا تتبنى الحكومة البريطانية حتى الآن مقترح الحظر الشامل.
وتعتمد بريطانيا نهجًا يقوم بصورة أساسية على تنظيم استخدام الذكاء الاصطناعي عبر الهيئات القائمة بالفعل بحسب القطاع الذي تستخدم فيه التكنولوجيا، إلى جانب عمل معهد أمن الذكاء الاصطناعي على دراسة المخاطر التي قد تطرحها النماذج الأكثر تقدمًا.
لكن النواب الموقعين على الرسالة يريدون من بيرنهام الذهاب إلى أبعد من ذلك، ودعم مشروع القانون والعمل على بناء اتفاق دولي لمنع تطوير الذكاء فائق الذكاء.
ولا يزال المشروع في بداية مساره البرلماني، ومن المقرر أن تكون مرحلته التالية القراءة الثانية في مجلس العموم، ولذلك لا يعني تقديمه أو دعم عشرات البرلمانيين له أن بريطانيا قررت بالفعل فرض الحظر.
لكن التحرك يكشف عن تغير مهم في طبيعة النقاش السياسي بشأن الذكاء الاصطناعي: فالسؤال لم يعد فقط كيف تنظم الحكومات التكنولوجيا الموجودة بالفعل، وإنما ما إذا كانت هناك تقنيات ينبغي منع تطويرها من الأساس قبل أن تصبح موجودة.
المصدر: مجلس العموم البريطاني
اقرأ أيضاً:
الرابط المختصر هنا ⬇
