المؤرخة جيل ليبور: وادي السيليكون يسيء قراءة الخيال العلمي ويقوض الديمقراطية

المؤرخة جيل ليبور: وادي السيليكون يسيء قراءة الخيال العلمي ويقوض الديمقراطية

المؤرخة بجامعة هارفارد وكاتبة The New Yorker جيل ليبور لديها تشخيص حاد لصناعة التكنولوجيا: قادتها الأقوياء قراء سيئون. ليسوا مهندسين سيئين، ولا جامعي أموال سيئين — بل قراء سيئون. في كتابها القادم The Rise and Fall of the Artificial State، تجادل ليبور بأن الاستيلاء غير الصحيح من قبل وادي السيليكون على الخيال العلمي يفعل شيئاً أكثر خطورة بكثير من إنتاج أسماء شركات محرجة. تقول المؤرخة جيل ليبور إن وادي السيليكون يسيء قراءة النوع الأدبي الذي يدّعي أنه كتابه المقدس الثقافي — وفي القيام بذلك، تجادل، فإنه يقوض بنشاط المؤسسات الديمقراطية التي استغرقت قروناً لبنائها.

هذه اتهامات خطيرة. وبالنسبة للمطورين والمؤسسين الذين يبنون عبر آسيا الآن، فهي تستحق التأمل قبل رفضها كنقطة خلاف ثقافية أمريكية.

ما حدث

في حديثها على بودكاست Equity من TechCrunch بمناسبة إطلاق كتابها، طرحت ليبور حجة صارمة: شركات التكنولوجيا تحل محل وظائف الحكومة الديمقراطية بشكل متزايد. وفقاً لتغطية TechCrunch للمقابلة، تصف هذا التحول بأنه "عودة إلى الاستبداد والغموض في شكل حكم بواسطة الخوارزميات والشركات والآلات."

زاوية الخيال العلمي هي حيث تصبح ليبور محددة. تركز على شخصيات مثل إيلون ماسك كرمز لفشل أوسع في فهم القراءة. النوع الأدبي الذي شكّل خيال وادي السيليكون — أسيموف، جيبسون، ديك، لو جوين — كان في الغالب تحذيري. كان هؤلاء الكتاب يكتبون تحذيرات، وليس خطط. الروبوتات في خيال أسيموف موجودة للتحقيق في الأخلاقيات البشرية، وليس لإلهام شركة روبوتات حرفية. الديستوبيات في سايبربانك جيبسون هي انتقادات لقوة الشركات، وليست خارطة طريق طموحة.

لكن صناعة التكنولوجيا، كما تجادل ليبور، استهلكت هذه النصوص كأدلة تعليمات. النتيجة هي جيل من المؤسسين الذين يؤمنون حقاً بأنهم يعيشون داخل سرد بطل خيال علمي — يقوضون الأنظمة الموروثة الفاسدة، ويسرعون البشرية نحو يوتوبيا تكنولوجية حتمية — بينما الكتاب الذين يعجبون بهم كانوا في الواقع يكتبون عن أخطار هذا النوع من التفكير بالضبط.

يؤطر كتابها هذا كصعود ما تسميه "الدولة الاصطناعية": حالة امتصت فيها منصات التكنولوجيا الخاصة الكثير من الوظائف الحكومية — الهوية، الاتصالات، البنية التحتية المالية، الخطاب العام — بحيث يصبح المساءلة الديمقراطية مستحيلة هيكلياً. الذكاء الاصطناعي هو المسرّع. عندما تتخذ قرارات تؤثر على ملايين الأشخاص بواسطة خوارزميات مملوكة لشركات خاصة، يصبح سؤال من يحكم من صعباً حقاً للإجابة عليه.

لماذا يهم آسيا

سيكون من السهل على المطورين في جنوب شرق آسيا أو الهند أو شرق آسيا قراءة حجة ليبور كمشكلة أمريكية محددة — تسوية مع العلامة التجارية الخاصة من الاستثنائية الليبرتارية في وادي السيليكون. ستكون هذه القراءة مريحة جداً.

علاقة آسيا بتقاطع التكنولوجيا والحكم هي قصتها المعقدة الخاصة. تحركت عدة حكومات آسيوية بقوة لدمج الذكاء الاصطناعي في الإدارة العامة — من مبادرة سنغافورة "الأمة الذكية" إلى مكدس البنية التحتية الرقمية العامة في الهند إلى تجارب الحكم الخوارزمي في الصين. السؤال الذي تثيره ليبور — من يكون مسؤولاً عندما تتخذ آلة قراراً مهماً؟ — ليس مجرد نظري في هذه السياقات. إنه سياسة حية.

بالنسبة لنظام بدء التشغيل التكنولوجي الآسيوي على وجه التحديد، ينزل نقد ليبور بشكل مختلف عما يحدث في الوادي. يبني العديد من المؤسسين الآسيويين مع الحكومة بدلاً من ضدها، غالباً بالضرورة. البيئات التنظيمية عبر رابطة دول جنوب شرق آسيا وجنوب آسيا وشمال شرق آسيا مجزأة وسريعة التطور. يواجه المؤسس الذي يبني تطبيق fintech في إندونيسيا إطار مساءلة مختلفاً عن من يبني في كوريا الجنوبية أو اليابان. كانت أخلاقية "التحرك بسرعة وكسر الأشياء" دائماً ملاءمة سيئة لهذه الأسواق — وتساعد حجة ليبور في شرح السبب هيكلياً.

هناك أيضاً بُعد ثقافة القراءة هنا يستحق الاعتراف. تقليد الخيال العلمي الذي تشير إليه ليبور هو في الغالب ناطق باللغة الإنجليزية وغربي. لآسيا خيالها الخاص المضاربة — ثلاثية The Three-Body Problem لـ Liu Cixin، على سبيل المثال، تتعامل مع الحتمية التكنولوجية وخطر الحضارة بطرق فلسفية متميزة عن جيبسون أو هاينلين. إذا كانت مشكلة وادي السيليكون جزئياً فشلاً في الخيال الأدبي، فإن السؤال لتكنولوجيا آسيا هو: من خيال نبني منه؟

هذا ليس سؤالاً بلاغياً. القصص التي يرويها المؤسسون لأنفسهم حول ما يبنونه — ولماذا — تشكل قرارات المنتج وثقافات التوظيف والأطر الأخلاقية بطرق لا تُقدّر حق قدرها حتى يحدث شيء سيء بشكل خطير.

ماذا يعني هذا للمطورين

تعمل حجة ليبور على مستوى النقد الحضاري، لكن لها آثار عملية لأي شخص يكتب الكود أو يشحن المنتجات في عصر الذكاء الاصطناعي.

الأكثر فوراً هو المساءلة بالتصميم. عندما تدمج الذكاء الاصطناعي في منتج — سواء كان محرك توصية أو نموذج تسجيل ائتماني أو أداة توظيف أو روبوت خدمة العملاء — فأنت تتخذ قراراً حكومياً، وليس قراراً تقنياً فقط. من يمكنه الطعن في النتيجة؟ من يمكنه تدقيق النموذج؟ من يتحمل المسؤولية عندما ينتج نتيجة ضارة؟ هذه ليست أسئلة يمكن تأجيلها إلى sprint منتج لاحق.

إطار ليبور لـ "الحكم بالآلات" مفيد هنا بالضبط لأنه يعيد صياغة الرهانات. يميل المطورون إلى التفكير في ميزات الذكاء الاصطناعي من حيث الدقة والكمون والتكلفة. تلك المقاييس مهمة. لكن عندما يتخذ نظام الذكاء الاصطناعي قرارات تؤثر على وصول الناس إلى الائتمان أو الرعاية الصحية أو الإسكان أو التوظيف، فإن الدقة على مستوى النموذج ضرورية ولكنها غير كافية. يحتاج النظام أيضاً إلى أن يكون مفهوماً وقابلاً للطعن ومسؤولاً — صفات معمارية وليست خوارزمية فقط.

بالنسبة للفرق التي تبني على منصات مثل MonstarX، هذا يعني التفكير بعناية حول كيفية كشف قدرات الذكاء الاصطناعي للمستخدمين النهائيين وما هي الحواجز المدمجة في سير عمل التطوير نفسه. منصة تطوير أصلية للذكاء الاصطناعي تجعل من السهل شحن ميزات الذكاء الاصطناعي تحمل أيضاً مسؤولية جعل بناء تلك الميزات بشكل مسؤول سهلاً بنفس القدر.

الآثار الثانية تتعلق بالقصص التي يرويها المطورون لأنفسهم. نقد ليبور لوادي السيليكون كمأهول بقراء سيئين هو جزئياً نقد لنوع معين من الغطرسة الفكرية — الاعتقاد بأن القدرة التقنية تمنح السلطة الأخلاقية. المطورون الذين استوعبوا أخلاقية "التحرك بسرعة" دون التشكيك فيها ليسوا محصنين ضد هذا نمط الفشل فقط لأنهم يبنون في بانكوك أو بنغالور بدلاً من سان فرانسيسكو.

القراءة على نطاق واسع — بما في ذلك قراءة منتقدي التكنولوجيا، وليس فقط المبشرين بها — ليست مهارة ناعمة. إنها مدخل تصميم. المهندس الذي قرأ شوشانا زوبوف عن رأسمالية المراقبة، أو صفية أوموجا نوبل عن الظلم الخوارزمي، أو نعم، جيل ليبور عن الدولة الاصطناعية، سيتخذ قرارات معمارية مختلفة