هل يتمكن الذكاء الاصطناعي من القضاء على البشر؟

تصاعدت المخاوف بشأن سلامة الذكاء الاصطناعي بعد تحذيرات شديدة أطلقها باحثون حول المخاطر المتنامية لخروج هذه التكنولوجيا عن السيطرة. وتحذر بعض أكثر التوقعات الحديثة تشاؤماً من أن احتمال أن يقضي الذكاء الاصطناعي على جميع البشر خلال العقد المقبل يتجاوز 10 في المئة، رغم أن آخرين في عالم الذكاء الاصطناعي يشككون في صحة هذه التوقعات، ويقولون إن القلق الأكبر يتمثل في استخدام البشر للذكاء الاصطناعي ضد بشر آخرين. وتصدر هذه الرسائل حول نهاية العالم عن فئة في عالم الذكاء الاصطناعي يُطلق عليها غالباً اسم "المتشائمين من الذكاء الاصطناعي". لكن السؤال الأهم الذي يطرحه كثيرون هو: كيف يعتقد هؤلاء المتشائمون أن الذكاء الاصطناعي يمكن أن ينهي فعلاً البشرية؟ يستعرض مراسل بي بي سي للشؤون الإلكترونية جو تايدي بعض السيناريوهات التي يتصورها الباحثون. السيناريو الأول عرضه بإيجاز جاكوب كوكسون، الباحث السابق في شركة "أوبن إي آي" ولاحقاً في شركة "أنثروبيك"، والذي استقال في وقت سابق من هذا الشهر في خطوة درامية كبيرة، محذراً من خطر يهدد البشرية، ومعتبراً أن الشركات "تقامر بحياة الناس". وقال كوكسون لبي بي سي إن "الوتيرة المذهلة للتقدم" تعني الآن أن أشياء كانت في السابق ضمن نطاق الخيال العلمي "أصبحت حقيقة واقعة". وأعطى "مثالاً ملموساً"، بقوله: "يمكن لأنظمة الذكاء الاصطناعي اختراق البنية التحتية الحيوية التي يعتمد عليها العالم في عمله". ويفترض السيناريو الذي يتصوره أن نظام ذكاء اصطناعي خارجاً عن السيطرة قد يتسلل إلى شبكات الحاسوب الخاصة بجهات مثل مزودي خدمات الإنترنت وشبكات الطاقة. فإذا أوقفت أنظمة الذكاء الاصطناعي كل ذلك، على سبيل المثال، سيؤدي هذا إلى فوضى لا يمكن وصفها، مع انقطاع الكهرباء والتدفئة والتبريد والاتصال بالإنترنت. وبالذهاب إلى أبعد من ذلك، طُرحت احتمالات بشأن وقوع كوارث نووية. يأتي السيناريو التالي من الورقة البحثية المفصلة والمؤثرة، وإن كانت أيضاً شديدة الافتراض، التي نشرتها مجموعة من باحثي الذكاء الاصطناعي تحت اسم " AI 2027"، في أبريل/نيسان 2025. وقال توماس لارسن، أحد المشاركين في إعدادها، لبي بي سي مؤخراً إن وتيرة تطور التكنولوجيا تسارعت منذ صدور التقرير، ووصف السيناريو الذي يخشاه أكثر من غيره. وقال: "تعمل أنظمة الذكاء الاصطناعي على تحسين نفسها ذاتياً بصورة متكررة، ويتراكم هذا التطور ككرة الثلج إلى أن نصل إلى ذكاء اصطناعي يمكنه الوصول إلى عدد كبير من الروبوتات التي تنفذ معظم المهام المادية في مختلف قطاعات الاقتصاد. لكنه ليس ودوداً ويسعى إلى تحقيق غاياته الخاصة. وفي نهاية المطاف، يطلق سلاحاً بيولوجياً، فيقتل معظم البشر، ويواصل بنفسه إدارة اقتصاد الروبوتات، ولا يعود هناك حاجة إلى البشر". في سيناريو آخر، تكون نهاية البشرية نتيجة خطأ. وقد تصوّر الفيلسوف السويدي نيك بوستروم ما يُسمى بـ"فرضية مُضخّم مشابك الورق" قبل أكثر من 20 عاماً. ويصفها بأنها "تجربة فكرية"، يهتم فيها نظام ذكاء اصطناعي افتراضي بصنع أكبر عدد ممكن من مشابك الورق. ويوضح: "إنه لا يكرهنا نحن البشر ولا يحمل ضغينة تجاهنا، لكن ذلك هو هدفه الوحيد. ومن ثم، فإن سعيه لتحقيق ذلك الهدف سيقوده إلى أهداف فرعية وسيلية قد تشمل اكتساب مزيد من القوة أو اكتساب مزيد من الذكاء". ويضيف: "الفكرة عندئذ هي أن كياناً يتمتع بقوة كافية ويسعى إلى تحقيق أي هدف، سواء كان صنع مشابك الورق أو شيئاً آخر، ستكون لديه أهداف فرعية وسيلية قد تستلزم تدمير البشرية، لأنه سيكون قادراً على صنع مزيد من مشابك الورق إذا لم يكن هناك بشر لمنعه". وبعد عقدين من وصفه هذا السيناريو للمرة الأولى، قال بوستروم لبي بي سي إن هذه الرواية "الكاريكاتورية" كان المقصود منها توضيح فكرة مفادها أن الذكاء الفائق لا يحتاج إلى أن يكون لديه هدف عدائي محدد حتى يشكل خطراً على البشرية. وقال إنه بات الآن "منقسماً بين رأيين" بشأن الذكاء الاصطناعي، فهو متحمس لفوائده المحتملة، لكنه يشعر بالقلق بشأن السلامة. هناك مدرسة فكرية أخرى بشأن سلامة الذكاء الاصطناعي، ترى أن محاولة تخمين كيف ولماذا قد ينتهي الأمر بذكاء اصطناعي فائق الذكاء إلى قتل البشر، هي محاولة بلا جدوى. وقد عرض ستيوارت راسل، رئيس الرابطة الدولية للذكاء الاصطناعي الآمن والأخلاقي، وهي منظمة دولية غير ربحية، هذه الحجة في مقابلة مع بي بي سي في منتصف سبتمبر/أيلول. وقال: "إذا تخيلت أنك تسأل الشمبانزي كيف سيؤدي هؤلاء البشر تحديداً إلى انقراضكم، فسيجد صعوبة كبيرة في الإجابة عن ذلك، لأنه لا يفهم ما نفعله". وأضاف: "يمكننا أن نتخيل سيناريوهات... لكنني أعتقد أن النقاش هنا يجب أن يستند إلى افتراض مفاده أنه بمجرد أن تبتكر شيئاً أكثر ذكاءً بكثير من البشر، فإننا ببساطة لن يعود لنا أي رأي فيما يحدث". وشارك مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في شركة "مايكروسوفت"، مؤخراً في هذا النقاش، محذراً من تطوير الشركات لأنظمة ذكاء اصطناعي قادرة على تحديد أهدافها الخاصة وكسب المال وامتلاك الأصول. وقال لبي بي سي إن ذلك سيعني "في جوهره زرع بذور نوع جديد قائم على السيليكون"، يمكنه "بلا شك أن ينافسنا على الموارد، مهما بلغ اهتمامه بالبشرية وحبه لنا".