حياتنا قصيرة. وتجاربنا محدودة. ومع ذلك نقضي جزءًا كبيرًا من حياتنا في تكوين معتقدات عن عالم لم نعشه إلا قليلًا.
نأخذ ذكرى بعينها، أو حدثًا، أو قصة يرويها لنا أحدهم، ونستخلص منها قواعد عامة عن كيفية عمل العالم.
لا مفرّ لنا من ذلك. فليس لدينا ترف فحص كل ادعاء فحصًا دقيقًا. لكن هذا يجعلنا عرضة للتلاعب.
أريد أن أستكشف بضع أفكار مترابطة:
قوة الحكاية الواحدة: كيف تشكّل التجارب المعزولة معتقداتنا وتنشر المعلومات المضللة.
سيكولوجيا الاعتقاد: لماذا نبحث عن ما يؤكد ما نعتقد لا عن الحقيقة.
حدود البحث العلمي: لماذا تحتاج حتى النتائج العلمية إلى تمحيص.
استعراض الذكاء الاصطناعي: كيف تخلق العروض المبهرة وهمًا بالقدرة.
الترياق: لماذا يُعدّ البحث العلمي ضروريًا لفهم الواقع.
استخدام مختلف للذكاء الاصطناعي: بناء Kflow ليساعدنا على اختبار افتراضاتنا.
لاحظتُ كم تُستخدم الحكاية الواحدة بفاعلية لنشر المعلومات المضللة، خصوصًا في السياسة.
اليسار واليمين كلاهما يستخدم الأسلوب نفسه. تُضخَّم واقعة واحدة وتُقدَّم على أنها تمثّل جماعة كاملة، أو أيديولوجيا، أو مؤسسة.
وينجح ذلك نجاحًا لافتًا.
في عام 1973 وصف عالما النفس عاموس تفيرسكي ودانيال كانمان استدلال التوافر: ميلنا إلى الحكم على مدى شيوع أمر ما أو احتماله بحسب سهولة استحضار أمثلة عنه في أذهاننا.
وكلما صادفنا قصة بعينها أكثر، بدت لنا أكثر تمثيلًا للواقع.
قد تكون القصص كلها صحيحة. وهذا ما يجعل الأمر مثيرًا للاهتمام.
لا تحتاج بالضرورة إلى الكذب كي تضلّل أحدًا. أحيانًا يكفي أن تعرض الحقيقة انتقائيًا.
لكن هناك مشكلة أخرى. نحن لا نصادف هذه القصص بسلبية فحسب. بل نبحث بنشاط عن القصص التي تؤكد ما نؤمن به أصلًا.
يسمّي علماء النفس هذا الانحياز التأكيدي. وتوثّق مراجعة ريموند نيكرسون عام 1998 مدى تأثير هذا الميل في تفكيرنا.
من المؤلم أن تكتشف أن شيئًا آمنت به سنوات قد يكون خاطئًا. فغرورك في خطر، وحكمك موضع تحدٍّ، وأحيانًا تشعر أن رؤيتك للعالم كلها مهددة.
فتبحث عن مثال آخر. ومقال آخر. وخبير آخر يوافقك الرأي.
والآن، بشكل متزايد، يمكنك أن تسأل الذكاء الاصطناعي.
الرد البديهي هو أن نتوقف عن الاعتماد على الحكايات المفردة ونبدأ بالاعتماد على البحث العلمي.
أوافق. لكننا اعتدنا أيضًا أن نتعامل مع البحث بوصفه مرجعًا مُسلَّمًا به، لا شيئًا يجب فحصه.
يستشهد أحدهم بإحصائية أو يشير إلى دراسة منشورة، فتبدو حجته فجأة موثوقة.
لكن كم منا يفحص فعلًا المنهجية أو الافتراضات أو القيود؟
في عام 2005 نشر جون إيوانيدس Why Most Published Research Findings Are False، مجادلًا بأن كثيرًا من النتائج العلمية قد لا يُعتمد عليه بسبب ضعف إحصائي ومشكلات منهجية وانحياز.
وقد طُعن في استنتاجاته هي نفسها، وهذا بالضبط ما ينبغي أن يكون عليه التمحيص العلمي.
وتقدم مشكلة إعادة الإنتاج مثالًا آخر. في عام 2015 حاول Open Science Collaboration إعادة إنتاج 100 دراسة في علم النفس. فبينما أفادت 97% من الدراسات الأصلية بنتائج ذات دلالة إحصائية، لم تفعل ذلك سوى 36% من عمليات إعادة الإنتاج.
هذا لا يعني أن العلم غير موثوق.
قوة العلم ليست في أن العلماء لا يخطئون. بل في أن ادعاءاتهم يمكن فحصها ومعارضتها وتصحيحها.
لكننا حين نستشهد بالبحث لمجرد تعزيز معتقداتنا، نكون قد استبدلنا بسلطة الحكايات المفردة سلطة الاستشهادات، دون أن يتحسن تفكيرنا بالضرورة.
لاحظتُ نمطًا مشابهًا في طريقة تسويق النماذج اللغوية الكبيرة.
تُعرض علينا عروض استثنائية. ذكاء اصطناعي يبني تطبيقًا في دقائق، أو يحل مسألة صعبة، أو ينجز مهمة تستغرق عادةً ساعات من محترف.
مبهر. لكن ما الذي يثبته ذلك فعلًا؟
كم محاولة لزمت؟ وكم تدخلًا بشريًا؟ وإلى أي مدى يستطيع النظام إعادة النتيجة نفسها بثبات؟ وكيف يقارَن ببدائل أبسط وأرخص؟
العرض الناجح لا يجيب إلا عن القليل جدًا من هذه الأسئلة.
إنه حكاية واحدة. مبهرة بلا شك، لكنها حكاية واحدة مع ذلك.
ولأن النماذج اللغوية الكبيرة تتحدث بطلاقة استثنائية، يصبح الوهم أكثر إقناعًا.
فهي تستطيع أن تشرح بثقة أشياء أساءت فهمها، وأن تبني حججًا مقنعة من افتراضات مشكوك فيها، وأحيانًا توافق المستخدمين حتى حين تكون معتقداتهم خاطئة.
يُعرف هذا الميل الأخير باسم التملّق (sycophancy).
لقد طوّرنا تقنية قادرة على مساعدتنا في استكشاف كميات هائلة من المعلومات، ومع ذلك نخاطر بتحويلها إلى آلة متطورة لتأكيد معتقداتنا القائمة.
نطرح سؤالًا، ونتلقى إجابة بليغة، ونشعر أننا اطّلعنا.
لكن هل تعلّمنا شيئًا فعلًا؟
أم أننا وجدنا ببساطة طريقة أفضل لتأكيد ما كنا نريد أصلًا أن نصدّقه؟
هناك تباين طريف بين الكلمتين anecdote وantidote، أي «الحكاية الواحدة» و«الترياق».
كلتاهما ذات جذور يونانية قديمة، وإن اشتُقّتا من كلمتين مختلفتين.
تأتي anecdote من anékdota، وتعني الأشياء غير المنشورة أو غير المعلنة. وتأتي antidote من antídoton، وتعني شيئًا يُعطى ضد شيء آخر، وبخاصة علاجًا ضد السم.
أراه مجازًا مفيدًا.
إذا كانت الحكايات المفردة تصبح خطرة حين نحسبها حقائق عامة، فما الترياق؟
بالنسبة لي، إنه المنهج العلمي.
لا العلم بوصفه مؤسسة أو مجموعة من الحقائق الراسخة، بل العلم بوصفه عملية منضبطة لمساءلة ما نعتقد.
نصوغ الفرضيات، ونجمع الأدلة، ونختبر الافتراضات، وندرس التفسيرات المتنافسة.
شدّد كارل بوبر على أهمية قابلية التكذيب: فالفرضية العلمية ينبغي أن تكون قابلة لأن تدحضها الأدلة.
فبدلًا من أن نسأل: «ما الدليل الذي يدعم اعتقادي؟» ينبغي أن نسأل أيضًا: «ما الدليل الذي يقنعني بأنني مخطئ؟»
هذا السؤال الثاني أصعب بكثير.
فهو يتطلب تواضعًا فكريًا واستعدادًا للفصل بين هوياتنا ومعتقداتنا.
ينبغي أن تخضع معتقداتنا للأدلة. ولا ينبغي أن تُنتقى الأدلة لخدمة معتقداتنا.
أظن أننا اعتدنا الراحة مع امتلاك الإجابات أكثر مما ينبغي.
هناك إجابة لكل شيء تقريبًا، متاحة فورًا ومقدَّمة بثقة لافتة.
لكن الإجابات ليست هي الفهم.
الفهم يتطلب مواجهة الشك، وفحص التناقضات، وأحيانًا التخلي عن أفكار تعلّقنا بها.
إنه عمل مزعج. وربما لهذا نتلهف على تفويضه.
لكن في هذا الكفاح شيئًا ثمينًا. فبه ننمّي الحكم السليم ونتعلم أن نميّز ما نعرفه مما نؤمن به فقط.
لا أريد للذكاء الاصطناعي أن يسلبنا ذلك. أريد أن أستخدمه لأجعل هذه العملية في متناول الجميع أكثر.
نحتاج إلى البحث، لكننا نحتاج أيضًا إلى مساءلته. نحتاج إلى الخبرة، لكن لا ينبغي أن نخلط بينها وبين العصمة من الخطأ. ونحتاج إلى الذكاء الاصطناعي، لكن لا بوصفه أداة أخرى لتعزيز انحيازاتنا.
لأن المعلومات المضللة لا تبقى حيّة لأن الناس يكذبون فحسب.
بل تبقى أيضًا لأننا نريد أن نصدّق.
لا نحتاج إلى مزيد من الإجابات المقنعة. نحتاج إلى طرق أفضل لمساءلتها.
هذا ما أبنيه مع Kflow.
لا تزال هناك مشكلة عملية.
حياتنا قصيرة. والبحوث مبعثرة بين المنشورات، والأوراق العلمية تتطلب معرفة سابقة، وكل فكرة معقدة تعتمد على مفاهيم قد لا نفهمها.
لا نستطيع أن نتحقق بأنفسنا من كل شيء، لكن لا ينبغي أيضًا أن نثق ثقة عمياء بكل مرجع.
هنا أظن أن الذكاء الاصطناعي قد يصبح تحويليًا حقًا.
لا بأن يفكر عنا، بل بأن يساعدنا على التفكير بصرامة أكبر.
هكذا أتصور عمله:
ابدأ بموضوع. يقسّمه النظام إلى مفاهيم مترابطة، مرتّبة من المستوى المبتدئ إلى المتقدم ومدعومة بالبحث العلمي.
استكشف رسمًا بيانيًا للمعرفة. ترتبط المفاهيم بعلاقاتها واعتماداتها، فتفهم كيف تبني الأفكار بعضها على بعض.
أدخل معتقداتك وأسئلتك. تتحول افتراضاتك إلى ادعاءات يمكن التحقيق فيها بدل أن تُقبل كحقائق.
افحص الأدلة. تُقيَّم الادعاءات في ضوء الأبحاث المؤيدة والمعارضة، مع إظهار عدم اليقين صراحةً.
اختبر استنتاجاتك. يولّد النظام حججًا مضادة، ويحدد الانحيازات المحتملة، ويتيح لك تتبّع الادعاءات إلى افتراضاتها وأسسها.
ثمة اعتراض بديهي: النماذج اللغوية الكبيرة منحازة، والبحث العلمي ليس بمنأى عن الانحياز أيضًا.
ولهذا بالضبط لا ينبغي اعتبار أي منهما المرجع الأخير.
يجب أن تبقى المصادر والافتراضات والاستدلال قابلة للفحص. ويجب أن تبقى الاستنتاجات مفتوحة للمراجعة.
لا أتوقع أن تزيل هذه العملية الانحياز أو تمنح يقينًا تامًا. فهذا سيكون وهمًا آخر.
أريد أن أبني أداة تجعل أخطاءنا أسهل في اكتشافها، ومعتقداتنا أسهل في اختبارها، وفهمنا أسهل في تعميقه.
Tversky & Kahneman (1973) — Availability: A Heuristic for Judging Frequency and Probability
Nickerson (1998) — Confirmation Bias: A Ubiquitous Phenomenon in Many Guises
Ioannidis (2005) — Why Most Published Research Findings Are False
Open Science Collaboration (2015) — Estimating the Reproducibility of Psychological Science
Karl Popper (1959) — The Logic of Scientific Discovery
Sharma et al. (2023) — Towards Understanding Sycophancy in Language Models