هل يستدل الذكاء الاصطناعي بشكل صائب لأسباب خاطئة؟

احصل على آخر الأخبار مباشرة في بريدك الوارد.

منشور مستقل تحريريًا بدعم من مؤسسة سيمونز (Simons Foundation).

اكتب مصطلح(مصطلحات) البحث واضغط إدخال

• حفظ المقال قراءة لاحقًا قراءة لاحقًا

سأقولها بصراحة: ما الذي يجري مع 'استدلال' الذكاء الاصطناعي؟

معذرة على علامات التنصيص هذه. كانت تلك النظرة الجانبية اللفظية أكثر شيوعًا في عام 2024، عندما كانت أبناء عمومة نماذج اللغة الكبيرة (LLMs) المدربة تدريبًا خاصًا، والمعروفة الآن باسم 'نماذج الاستدلال الكبيرة' (LRMs)، لا تزال جديدة. أما اليوم، فقد يبدو ذلك وقحًا تمامًا، بالنظر إلى أن 'نموذج استدلال للأغراض العامة' من أوبن إيه آي (OpenAI) حل مشكلة بحث رياضي مفتوحة شهيرة بضربة واحدة في مايو 2026. ومع ذلك، لست متأكدًا من كيفية أخرى للتعبير عن صدمتي الفكرية بشأن التفسير العلمي لما تفعله أنظمة الذكاء الاصطناعي هذه بالفعل.

يأتي الاستدلال بأشكال عديدة محددة تقنيًا، لكن الإجراء الأساسي يمكن التعرف عليه بسهولة: التوصل إلى استنتاج سليم عن طريق ربط خطوات وسيطة تتبع بعضها البعض منطقيًا. نحن نفعل ذلك بالأفكار؛ وتستخدم نماذج الاستدلال الكبيرة ما يسمى 'سلاسل الأفكار'، وهو مصطلح فني يشير إلى تدفقات النصوص الاصطناعية التي تصدرها النماذج قبل الوصول إلى إجابة لاستعلام معقد. في لحظة ما، كانت فكرة أن الذكاء الاصطناعي يمكن أن يستدل عبر هذه السلاسل تتعرض لانتقادات بارزة وموثوقة (من قبل فريق من الباحثين من آبل (Apple)) بوصفها 'وهمًا للتفكير' عرضة 'لانهيار كامل للدقة' تحت ظروف بسيطة بشكل مدهش. وفي لحظة أخرى، كانت نماذج الاستدلال الكبيرة تحصد الميداليات الذهبية في الأولمبياد الدولي للرياضيات، وهو إنجاز صعب للغاية لدرجة أن 'حتى كبار الرياضيين والعلماء الناجحين قد يبرزونه في سيرهم الذاتية طوال حياتهم'، كما كتب العالم وناقد الذكاء الاصطناعي غاري ماركوس (Gary Marcus) وإرنست ديفيس (Ernest Davis) في عام 2025. إذا لم يكن ذلك علامة على استدلال 'حقيقي'، فما هو إذًا؟

لكن مهلًا — بعد ذلك بوقت قصير، أظهرت أبحاث إضافية، من معهد سانتا في (Santa Fe Institute)، أن نماذج الاستدلال الكبيرة يمكنها سحق حتى معايير الاستدلال المصممة بعناية (مثل مجموعة من الألغاز البصرية الشبيهة بالتشبيهات) باستخدام مجرد 'اختصارات على مستوى السطح'. ما كانوا يفعلونه بدا أقل شبهاً بالاستدلال القابل للتعميم منه بمجرد التحايل على النظام. ثم، وكأنها إشارة، لحظة أخرى من 'أمسك لي ببيرتي': استخدمت جوجل ديب مايند (Google DeepMind) وعالم الرياضيات تيرينس تاو (Terence Tao) (العبقري! GOAT!) الذكاء الاصطناعي لإعادة اكتشاف أو تحسين حلول 67 مشكلة 'تشمل التحليل الرياضي، التوافقيات، الهندسة، ونظرية الأعداد'. تأقلموا مع ذلك، أيها الكارهون!

ماذا عن الأدلة الإضافية التي تشير إلى أن نماذج الاستدلال الكبيرة لا تستطيع الاستدلال بشكل موثوق، حتى عندما تمتلك الخوارزمية اللازمة والميزانية الحسابية لذلك، وتعاني من قائمة بالحالات الفاشلة الموثقة علميًا طويلة بما يكفي لاستخدامها كمنزلق مائي (Slip ’N Slide)؟ لا يهم — أعتقد أن هذا هو مجرد 'الذكاء المتعرج' (Jagged Intelligence) بالنسبة لك (مصطلح في عالم الذكاء الاصطناعي يعني 'عندما يعمل، فهو يعمل').

وهكذا استمر الوضع من أواخر عام 2025 وحتى عام 2026. لقد كنت صحفيًا علميًا لمدة 20 عامًا وصحفيًا متخصصًا في الذكاء الاصطناعي لنصف تلك المدة، لذلك أعلم جيدًا ألا أتوقع اتساقًا دقيقًا من الأبحاث سريعة التقدم. لكن حتى بالنسبة لي، كان هذا التضارب والتناقض أكثر من اللازم. لاقتبس من آل باتشينو (Al Pacino) في فيلم 'المطلع' (The Insider)، 'أشعر بشيئين: الغضب والفضول'. لا أعتقد أن هناك احتيال يمكن العثور عليه هنا. كل ما أريده هو أن أعرف أين الحقيقة. هل يمكن لاستدلال الذكاء الاصطناعي بطريقة ما أن يكون هراءً وغير هراء في نفس الوقت؟ وإذا كان الأمر كذلك، فكيف يعمل هذا بحق الأرض؟

عرفت تمامًا من أتصل به أولًا.

يمتد مسيرة ميلاني ميتشل (Melanie Mitchell) المهنية في الذكاء الاصطناعي إلى الثمانينيات، لكنها اكتسبت مؤخرًا سمعة كصوت معاصر صادق في مجال الذكاء الاصطناعي، حيث كتبت تفسيرات واضحة لمجلة ساينس (Science) ورسالتها الإخبارية واسعة الانتشار، بالإضافة إلى إجرائها أبحاثًا في معهد سانتا في (Santa Fe Institute). (الدراسة حول 'الاختصارات على مستوى السطح' هي من عملها.) عندما سألتها عما نعرفه حقًا عن استدلال الذكاء الاصطناعي، كانت إجابتها مقتضبة بما يكفي لتناسب بطاقة فهرس.

قالت: 'أولًا: إنه يعمل. إنه يحسن الأمور'، مشيرة إلى دقة نماذج الاستدلال الكبيرة المتفوقة في مهام الاستدلال مقارنة بنماذج اللغة الكبيرة. و'ثانيًا: النص الفعلي الذي يتم إنشاؤه' — أي سلسلة الأفكار التي يتم تدريب كل نموذج استدلال كبير على إنتاجها لتحسين أدائه — 'ليس بالضرورة مطابقًا لما يحدث [داخل النموذج]'. و'ثالثًا: الكثير من هذا النص ليس مفيدًا على الإطلاق. يمكنك إزالته بالفعل'.

دعونا نفكك النقطتين الثانية والثالثة، لأن هذا هو المكان الذي تتواجد فيه بالضبط حالة التراكب بين 'الهراء وغير الهراء'. تم 'اكتشاف' و'ابتكار' سلاسل الأفكار في عام 2022 كحيلة لتحفيز نماذج اللغة الكبيرة: زودها بأمثلة لاستدلال مكتوب (أو، كما هو معروف، فقط اطلب منها 'التفكير خطوة بخطوة')، وسوف تقدم فجأة إجابات أقل غباءً لمشكلات المنطق والرياضيات البسيطة. نماذج الاستدلال الكبيرة (LRMs)، بدءًا من نموذج o1 من أوبن إيه آي (OpenAI) في عام 2024، يتم تدريبها على أتمتة هذه الخدعة عن طريق توليد مثل هذه التحفيزات — والتي تسمى أيضًا آثار الاستدلال أو رموز التفكير — ثم تغذيتها مرة أخرى إلى نفسها. ولأن نماذج الاستدلال الكبيرة هي في الأساس مجرد نماذج لغوية، فإن تلك الأجزاء الإضافية من النص تخلق ما يبدو بشكل مقنع كمسار ورقي لـ 'عملية تفكير' النموذج.

باستثناء أن الأمر ليس بهذه البساطة. ألقى عدد متزايد من الأبحاث الأكاديمية والصناعية بظلال من الشك حول ما إذا كانت هذه 'الرموز الوسيطة' تمثل تمثيلاً صادقًا للآليات الداخلية لنموذج الاستدلال الكبير. فبدلاً من أن تكون إيصالات قابلة للتدقيق أو تقارير دقيقة، يمكن أن تبدو أشبه بما يسميه الباحث سوباراو كامبهامباتي (Subbarao Kambhampati) من جامعة ولاية أريزونا (Arizona State University) بـ 'التمتمات' — أجزاء من اللغة، نعم، ولكن معناها قد يكون عرضيًا تمامًا لأي استدلال ربما يكون قد حدث. أظهر مختبر كامبهامباتي في عام 2025 أن استبدال 'آثار' النموذج الصحيحة بالكامل بآثار غير صحيحة أو غير ذات صلة لم يؤد إلى تدهور أدائه في مهمة استدلال رسمية. وفي الوقت نفسه، فإن تدريب النموذج فقط على بيانات التتبع الصحيحة لا يزال يدفعه إلى توليد سجلات غير صالحة لاستدلاله بين الحين والآخر — حتى عندما ينتج حلاً صحيحًا للمشكلة الأصلية التي أعطيت له. أظهرت ورقة بحثية عام 2024 من باحثين في جامعة نيويورك (New York University) أن 'رموز الحشو التي لا معنى لها' — حرفيًا، سلاسل من النقاط — يمكن أن تعمل بفعالية بدلاً من 'سلسلة أفكار' قابلة للقراءة البشرية.

وضع ويليام ميريل (William Merrill)، أحد مؤلفي تلك الورقة وحاليًا أستاذ في معهد تويوتا التكنولوجي في شيكاغو (Toyota Technological Institute at Chicago)، الأمر بوضوح: 'لا يوجد ضمان بأن سلسلة الأفكار يجب أن تكون ذات معنى بأي شكل من الأشكال'. قال بافيل إيزميلوف (Pavel Izmailov)، وهو باحث في جامعة نيويورك (NYU) ويعمل أيضًا لدى أنثروبيك (Anthropic) (وكان جزءًا من فريق نموذج الاستدلال الأصلي)، إنه يشك في أن التعلم المعزز — وهي طريقة تدريب نموذجية لنماذج الاستدلال الكبيرة — يحفز النماذج حتى على إنتاج سلاسل أفكار صادقة من الأساس. قال لي: 'أعني، ربما يحدث ذلك. لكنني أقول إن الاحتمالات ليست عالية جدًا'.

حسنًا، إذن المحتوى اللغوي لآثار الاستدلال قد يكون مشكوكًا فيه. لكن من المؤكد أن الرموز نفسها يجب أن تلعب دورًا في إنتاج مخرجات النموذج؟ (فكر في آلة البينبول: تعمل بالعملات المعدنية، وليس بكلمات 'نحن نثق بالله'.)

ليس بهذه السرعة. أظهرت ورقة بحثية عام 2025 من جامعة نورث إيسترن (Northeastern University) وجامعة كاليفورنيا، بيركلي (University of California, Berkeley) حول نماذج الاستدلال الكبيرة مفتوحة المصدر الرائدة أن ما بين 30% و60% من 'خطوات تفكيرها' كان لها 'تأثير سببي ضئيل' على الإجابات التي أنتجتها النماذج لأسئلة الرياضيات المعيارية. احذف نصفها، ولن يتأثر أداء النموذج إلا بالكاد. قال وييان شي (Weiyan Shi)، أحد مؤلفي الدراسة: 'نريد أن نكون حذرين عند مراجعة تحفيزات سلاسل الأفكار هذه لأنها قد لا تكون مرتبطة بالناتج النهائي'.

إذن، آثار الاستدلال، وهي الأشياء التي من المفترض أن تميز نماذج الاستدلال الكبيرة عن نماذج اللغة الكبيرة التي تتنبأ بالكلمة التالية فحسب، ليست بالضرورة ذات معنى ولا سببية لاستدلال النموذج؟ أنا لست فيلسوفًا، لكن هذا يبدو وكأنه يمد معنى 'الاستدلال' إلى ما بعد قوة شدّه. بدت مجموعة كامبهامباتي البحثية مستاءة بصراحة في عنوان ورقتهم البحثية حول الموضوع (التي قدمت في المؤتمر الدولي للتعلم الآلي 2026، وهو أحد أرقى التجمعات الأكاديمية في هذا المجال): 'توقفوا عن أنسنة الرموز الوسيطة كآثار استدلال/تفكير!'

لتوضيح الأمر، كامبهامباتي، الرئيس السابق لجمعية النهوض بالذكاء الاصطناعي (Association for the Advancement of Artificial Intelligence)، ولديه خلفية في خوارزميات تخطيط الذكاء الاصطناعي، لا ينكر أن نماذج الاستدلال الكبيرة يمكن أن تعمل (عندما تعمل). قال لي: 'نحن نعيش في أوقات رائعة'، عندما سألته عن رأيه في انتصار أوبن إيه آي (OpenAI) عام 2026 في حل مشكلة 'مسافة الوحدة' الشهيرة في الرياضيات. إذا كان لديه اعتراض، فهو على ما يراه تسرعًا في كل من الأوساط الأكاديمية والصناعة لتبني تفسيرات مريحة بشكل مفرط.

قال: 'العديد من الأفكار التي تم طرحها [حول] مصادر قوة [هذه النماذج] قد أسيء فهمها أو تم وصفها بشكل خاطئ'. وأضاف: 'هناك عقلية عامة تقول: 'دعونا نمضي قدمًا وندعي قدرات معينة، لأنه في النهاية قد يصبح ذلك حقيقة على أي حال'. وشعوري هو: هذا ليس علمًا. هذا استثمار'.

على الجانب الآخر من سياج استدلال الذكاء الاصطناعي، يبدو الازدراء متبادلاً. قال سيباستيان بوبك (Sébastien Bubeck)، عضو الفريق الفني في أوبن إيه آي (OpenAI) (ومروج بارز لنماذج الاستدلال للشركة بين العلماء وعلماء الرياضيات): 'هذه الأوراق 'العلمية' من الصيف الماضي — أضعها بين علامتي تنصيص جويتين كبيرتين جدًا'. وصف نتائج آبل (Apple) السابقة التي تنتقد استدلال الذكاء الاصطناعي بأنها 'خاطئة'، مدعيًا أنها كانت بسبب خلل تدريبي في نماذج أصبحت قديمة الآن. قال: 'النماذج الحديثة بدءًا من GPT-5.5 لا تعاني من هذه المشكلة. سيكون من المثير للاهتمام إعادة النظر في تلك النتائج'. (لم توفر آبل (Apple) باحثيها لإجراء مقابلات.)

هذا هو الأمر: لا أحد ينكر أن نماذج استدلال الذكاء الاصطناعي يمكنها، بالفعل، إنتاج نتائج مهمة ودقيقة. علاوة على ذلك، أقر كل باحث تحدثت إليه بأن النتائج السلبية حول قدرات النماذج في مهام استدلال معينة (خاصة تلك المتعلقة بنماذج الاستدلال الكبيرة مفتوحة المصدر الأصغر حجمًا) قد لا تعمم دائمًا على أحدث وأعظم منتجات الذكاء الاصطناعي. تبقى آلياتها الداخلية أسرارًا تجارية. ولكن إذا كنا لا نميل (كما هو حالي) إلى مجرد رفض الأدلة المتناقضة حول الآليات التي تدفع استدلال الذكاء الاصطناعي، يظل السؤال: كيف نفسر ذلك؟

كامبهامباتي، كما اتضح، مهتم بفعل ذلك بالضبط. قال: 'أنا لست سلبيًا. أنا فقط أبدو سلبيًا لأن الجميع الآخرين إيجابيون للغاية. في العلم، يجب عليك أن تفهم حقًا ما يفعله الشيء الحالي وما لا يمكنه فعله'.

أحد الأسباب المباشرة لعمل نماذج الاستدلال الكبيرة الحديثة، كما أخبرني (وهي نقطة رددتها ميتشل أيضًا)، هو أنها غالبًا ما تكون محاطة ببرامج 'عادية' توجه وتتحقق من مخرجاتها. تعمل أنظمة الذكاء الاصطناعي العاملة (Agentic AI systems)، التي أحدثت تحولًا في هندسة البرمجيات منذ خريف 2025، بهذه الطريقة. وكذلك يعمل نظام ألفا بروف نيكسس (AlphaProof Nexus) من جوجل ديب مايند (Google DeepMind)، الذي يعتمد على 'لين' (Lean)، وهي أداة آلية لإثبات النظريات. لكن كامبهامباتي يهتم أكثر بفهم نماذج الاستدلال المستقلة التي تعتمد فقط على آثار الاستدلال التي تولدها ذاتيًا — 'الجزء المتعلق بالتفكير'، على حد قوله.

الجزء المتعلق بـ 'التفكير' هو ما تركز عليه أوبن إيه آي (OpenAI) بشكل مضاعف. عندما سألت بوبك عما إذا كان إثبات مشكلة 'مسافة الوحدة' المبهر قد تم إنتاجه بطرق خارج سلسلة أفكار نموذج الاستدلال الكبير نفسه — ربما مع 'لين' (Lean) يتحقق من نتائجه — بدا وكأنه يرى السؤال لا معنى له تقريبًا.

قال: 'الأمر ليس وكأننا نصنع منه لغزًا. لقد أصدرنا سلسلة الأفكار. يمكنك فقط الذهاب والاطلاع عليها. الهدف كله هو أن النموذج يستدل مثلما يفعل الإنسان. وعندما يستدل البشر، لا نستخدم لين (Lean)'. من الناحية الفنية، أصدرت أوبن إيه آي (OpenAI) 'ملخصًا معاد صياغته' لسلسلة أفكار النموذج أنتجه خبيران بشريان باستخدام كودكس (Codex)، وهو نموذج آخر من أوبن إيه آي (OpenAI). منذ عام 2024، لم تكشف الشركة علنًا عن سلاسل الأفكار 'الخام' من نماذج الاستدلال الخاصة بها، وهي سياسة اعتمدتها أيضًا جوجل ديب مايند (Google DeepMind) وأنثروبيك (Anthropic).

يبدأ تحليل كامبهامباتي من مكان متشابه بشكل مدهش: بفكرة أن نماذج الاستدلال الكبيرة هي مجرد نماذج لغوية كبيرة مع تدريب أكثر تحديدًا. قال: 'لا يوجد سحر إضافي'. لكنه يختلف بشدة من تلك النقطة. وقال: 'لا يبدو منطقيًا بالنسبة لي أن نموذج اللغة الكبير سيقوم بوصف خطوة بخطوة لما هو [استدلاله] قبل إعطاء الحل — لأن هذه مهمة أصعب بكثير من مجرد تخمين الحل، بالنظر إلى طريقة تدريب نماذج اللغة الكبيرة'.

فرضيته العملية هي أن نموذج الاستدلال الكبير، شأنه شأن أسلافه من نماذج اللغة الكبيرة، يقوم بما يسميه 'الاسترجاع التقريبي' عبر مجموعته التدريبية الهائلة: 'في مكان ما في المنتصف' بين مطابقة الأنماط والاستدلال، على حد قوله، ولكنه أقرب إلى الأول. إذن، دور 'رموز التفكير' ليس سرد سلسلة أفكار فعلية (لأنه لا توجد واحدة). بدلاً من ذلك، هو تحميل نافذة سياق النموذج بطريقة تجعله أكثر عرضة للتنبؤ، أو 'الاسترجاع التقريبي'، لسلاسل نصية على شكل استدلال.

قارن كامبهامباتي هذه العملية بتمتمة الكلمات لنفسك لتنشيط ذاكرتك: لا يهم تقريبًا ما هي الكلمات (على الرغم من أن الكلمات ذات الصلة قد تساعد)، طالما أنها تحفز شيئًا مفيدًا. تشمل 'ذاكرة' نموذج الاستدلال الكبير الهائلة جميع أمثلة الاستدلال المكتوب الشبيهة بالنداء والاستجابة التي تم تدريبه عليها، وتحولت إلى 'تضمينات' رقمية تشفر أوجه التشابه والاختلاف بينها (بالإضافة إلى ارتباطات أخرى غامضة) كعلاقات هندسية في فضاء عالي الأبعاد. الوصول احتماليًا إلى إجابة ضمن هذا الفضاء قد يتضمن رموزًا وسيطة تتطابق تضميناتها مع 'أفكار' تبدو متماسكة باللغة الإنجليزية الواضحة، ولكن ليس بالضرورة. يمكن أن تكون أجزاء من لغات أخرى. يمكن أن تكون صيحات زائفة مثل 'آها'. في ظل الظروف المناسبة، يمكن أن تكون مجرد نقاط.

قال كامبهامباتي: 'ما إذا كانت [التضمينات] تتوافق بالفعل مع كلمة واحدة أم لا' — ناهيك عن عملية استدلال صادقة — 'فهو أمر ثانوي'.

يمكن لهذا الإطار أن يساعد في تفسير كل من 'هراء' بعض سلاسل الأفكار الغريب وحقيقة أنها يمكن أن تستخرج مخرجات دقيقة على أي حال. كما سيفسر بدقة التحسن المطرد لنماذج الاستدلال الكبيرة في البرمجة والرياضيات — ما يسميه باحثو الذكاء الاصطناعي 'المجالات القابلة للتحقق'. الشيفرة إما أن تعمل أو لا تعمل؛ والإثباتات إما صحيحة أو غير صحيحة. هذه الشروط الثنائية والخطوات المكتوبة المرتبطة بها يمكن أن تخلق إشارات تدريبية ملائمة