นักประวัติศาสตร์ Jill Lepore: ซิลิคอนวัลลีย์อ่านนิยายวิทยาศาสตร์ผิดและทำลายประชาธิปไตย

นักประวัติศาสตร์ Jill Lepore: ซิลิคอนวัลลีย์อ่านนิยายวิทยาศาสตร์ผิดและทำลายประชาธิปไตย

นักประวัติศาสตร์จาก Harvard และนักเขียนประจำ New Yorker Jill Lepore มีการวินิจฉัยที่ชัดเจนสำหรับอุตสาหกรรมเทคโนโลยี: ผู้นำที่มีอำนาจมากที่สุดเป็นผู้อ่านที่ไม่ดี ไม่ใช่วิศวกรที่ไม่ดี ไม่ใช่ผู้หาเงินทุนที่ไม่ดี — เป็นผู้อ่านที่ไม่ดี ในหนังสือที่จะออกมาเร็ว ๆ นี้ The Rise and Fall of the Artificial State Lepore โต้แย้งว่าการนำนิยายวิทยาศาสตร์มาใช้ผิดวัตถุประสงค์ของซิลิคอนวัลลีย์ทำให้เกิดผลกระทบที่ร้ายแรงกว่าการสร้างชื่อสตาร์ทอัพที่น่าอาย นักประวัติศาสตร์ Jill Lepore กล่าวว่าซิลิคอนวัลลีย์อ่านแนวนิยายที่มันอ้างว่าเป็นพระคัมภีร์วัฒนธรรมของตนเองผิดไป — และในการทำเช่นนั้น เธอโต้แย้งว่า มันกำลังทำลายสถาบันประชาธิปไตยที่ใช้เวลาหลายศตวรรษในการสร้างสรรค์อย่างแข็งขัน

นี่คือข้อกล่าวหาที่ร้ายแรง และสำหรับนักพัฒนาและผู้ก่อตั้งที่กำลังสร้างสิ่งต่าง ๆ ในเอเชียในขณะนี้ มันคือสิ่งที่คุ้มค่าที่จะพิจารณาอย่างจริงจังก่อนที่จะปฏิเสธว่าเป็นจุดพูดในสงครามวัฒนธรรมของอเมริกา

เกิดอะไรขึ้น

ในการพูดคุยกับพอดแคสต์ Equity ของ TechCrunch เพื่อให้สอดคล้องกับการเปิดตัวหนังสือของเธอ Lepore ได้นำเสนอข้อโต้แย้งที่ชัดเจน: บริษัทเทคโนโลยีกำลังแทนที่ฟังก์ชันของรัฐบาลประชาธิปไตยมากขึ้น ตามการรายงานของ TechCrunch เกี่ยวกับการสัมภาษณ์ เธอบรรยายการเปลี่ยนแปลงนี้ว่า "การกลับมาของการปกครองแบบเ专制และความลึกลับในรูปแบบของการปกครองโดยอัลกอริทึม บริษัท และเครื่องจักร"

มุมมองนิยายวิทยาศาสตร์คือที่ที่ Lepore ได้ระบุเฉพาะเจาะจง เธอชี้ให้เห็นบุคคลเช่น Elon Musk เป็นตัวแทนของความล้มเหลวที่กว้างขวางในความเข้าใจการอ่าน แนวนิยายที่หล่อหลอมจินตนาการของซิลิคอนวัลลีย์ — Asimov, Gibson, Dick, Le Guin — ส่วนใหญ่เป็น การเตือน ผู้เขียนเหล่านี้กำลังเขียนคำเตือน ไม่ใช่แบบแผน หุ่นยนต์ในนิยายของ Asimov มีอยู่เพื่อตรวจสอบจริยธรรมของมนุษย์ ไม่ใช่เพื่อสร้างแรงบันดาลใจให้กับบริษัทหุ่นยนต์ตามตัวอักษร ดิสโทเปียในไซเบอร์พังก์ของ Gibson เป็นการวิจารณ์อำนาจขององค์กร ไม่ใช่แผนการที่น่าปรารถนา

อย่างไรก็ตาม อุตสาหกรรมเทคโนโลยี ตามที่ Lepore โต้แย้ง ได้บริโภคข้อความเหล่านี้เป็นคู่มือการใช้งาน ผลลัพธ์คือรุ่นของผู้ก่อตั้งที่เชื่ออย่างแท้จริงว่าพวกเขากำลังอาศัยอยู่ในบรรยากาศของนิยายวิทยาศาสตร์ของฮีโร่ — ทำลายระบบมรดกที่เสื่อมโทรม เร่งความเร็วของมนุษยชาติไปสู่ยูโทเปียเทคโนโลยีที่หลีกเลี่ยงไม่ได้ — เมื่อผู้เขียนที่พวกเขาชื่นชมจริง ๆ แล้วกำลังเขียนเกี่ยวกับอันตรายของการคิดแบบนั้นพอดี

หนังสือของเธอกำหนดกรอบนี้ว่าเป็นการเพิ่มขึ้นของสิ่งที่เธอเรียกว่า "รัฐเทียม": สภาวะที่แพลตฟอร์มเทคโนโลยีเอกชนได้ดูดซึมฟังก์ชันของรัฐบาลจำนวนมาก — ตัวตน การสื่อสาร โครงสร้างพื้นฐานทางการเงิน วาทกรรมสาธารณะ — จนกว่าความรับผิดชอบประชาธิปไตยจะกลายเป็นไปไม่ได้ในเชิงโครงสร้าง AI คือตัวเร่งปฏิกิริยา เมื่อการตัดสินใจที่ส่งผลกระทบต่อผู้คนนับล้านคนถูกสร้างขึ้นโดยอัลกอริทึมที่เป็นเจ้าของโดยบริษัทเอกชน คำถามว่าใครปกครองใครจึงกลายเป็นคำถามที่ยากต่อการตอบอย่างแท้จริง

เหตุใดจึงสำคัญสำหรับเอเชีย

มันจะเป็นเรื่องง่ายสำหรับนักพัฒนาในเอเชียตะวันออกเฉียงใต้ อินเดีย หรือเอเชียตะวันออกที่จะอ่านข้อโต้แย้งของ Lepore ว่าเป็นปัญหาเฉพาะของอเมริกา — การชำระบัญชีกับแบรนด์ลิเบอร์ทาเรียนที่ยกเว้นเฉพาะของซิลิคอนวัลลีย์ การอ่านนั้นจะสะดวกเกินไป

ความสัมพันธ์ของเอเชียกับจุดตัดของเทคโนโลยีและการปกครองเป็นเรื่องราวที่ซับซ้อนของตัวเอง รัฐบาลเอเชียหลายแห่งได้เคลื่อนไหวอย่างก้าวร้าวเพื่อรวม AI เข้าในการบริหารจัดการสาธารณะ — จากโครงการ Smart Nation ของสิงคโปร์ไปจนถึงสแต็กโครงสร้างพื้นฐานดิจิทัลสาธารณะของอินเดียไปจนถึงการทดลองการปกครองตามอัลกอริทึมของจีน คำถามที่ Lepore ยกขึ้น — ใครรับผิดชอบเมื่อเครื่องจักรตัดสินใจที่มีผลกระทบ — ไม่ใช่นามธรรมในบริบทเหล่านี้ มันเป็นนโยบายที่มีชีวิต

สำหรับระบบนิเวศของสตาร์ทอัพเทคโนโลยีเอเชียโดยเฉพาะ การวิจารณ์ของ Lepore มีผลต่างกันกว่าที่มันทำในหุบเขา นักก่อตั้งเอเชียจำนวนมากกำลังสร้างสิ่งต่าง ๆ กับ รัฐบาล ไม่ใช่ต่อต้านมัน มักจะเป็นเพราะความจำเป็น สภาพแวดล้อมด้านกฎระเบียบในทั่วอาเซียน เอเชียใต้ และเอเชียตะวันออกเฉียงเหนานั้นแตกแยกและเคลื่อนไหวอย่างรวดเร็ว ผู้ก่อตั้งที่สร้าง fintech ในอินโดนีเซียต้องเผชิญกับกรอบความรับผิดชอบที่แตกต่างจากผู้ที่สร้างในเกาหลีใต้หรือญี่ปุ่น จิตสำนึก "เคลื่อนไหวอย่างรวดเร็วและทำลายสิ่งต่าง ๆ" ไม่เคยเหมาะสมกับตลาดเหล่านี้ — และข้อโต้แย้งของ Lepore ช่วยอธิบายสาเหตุในเชิงโครงสร้าง

นอกจากนี้ยังมีมิติของวัฒนธรรมการอ่านที่สมควรได้รับการยอมรับ ประเพณีนิยายวิทยาศาสตร์ที่ Lepore อ้างถึงนั้นเป็นภาษาอังกฤษและตะวันตกเป็นส่วนใหญ่ เอเชียมีนิยายเก็งกำไรของตัวเอง — ตัวอย่างเช่น ไตรภาคี The Three-Body Problem ของ Liu Cixin มีส่วนเกี่ยวข้องกับความมุ่งมั่นทางเทคโนโลยีและความเสี่ยงต่อการเสื่อมสลายของอารยธรรมในลักษณะที่แตกต่างทางปรัชญาจาก Gibson หรือ Heinlein หากปัญหาของซิลิคอนวัลลีย์เป็นส่วนหนึ่งของความล้มเหลวของจินตนาการทางวรรณกรรม คำถามสำหรับเทคโนโลยีเอเชียคือ: เราสร้างจากจินตนาการของใครกันแน่

นั่นไม่ใช่คำถามเชิงวาทศิลป์ เรื่องราวที่ผู้ก่อตั้งบอกตัวเองเกี่ยวกับสิ่งที่พวกเขากำลังสร้าง — และเหตุใด — มีรูปร่างการตัดสินใจผลิตภัณฑ์ วัฒนธรรมการจ้างงาน และกรอบจริยธรรมในลักษณะที่ไม่ได้รับการชื่นชมจนกว่าจะมีบางสิ่งผิดพลาดไป

นี่หมายถึงอะไรสำหรับนักพัฒนา

ข้อโต้แย้งของ Lepore ดำเนินการในระดับของการวิจารณ์ด้านอารยธรรม แต่มีผลกระทบที่ใช้ได้จริงสำหรับใครก็ตามที่เขียนโค้ดหรือจัดส่งผลิตภัณฑ์ในยุค AI

อันที่ใกล้ที่สุดคือความรับผิดชอบตามการออกแบบ เมื่อคุณรวม AI เข้าไปในผลิตภัณฑ์ — ไม่ว่าจะเป็นเครื่องมือแนะนำ แบบจำลองการให้คะแนนเครดิต เครื่องมือการจ้างงาน หรือบอทบริการลูกค้า — คุณกำลังตัดสินใจด้านการปกครอง ไม่ใช่เพียงการตัดสินใจทางเทคนิค ใครสามารถโต้แย้งผลลัพธ์ได้ ใครสามารถตรวจสอบแบบจำลองได้ ใครต้องรับผิดชอบเมื่อมันสร้างผลลัพธ์ที่เป็นอันตราย คำถามเหล่านี้ไม่สามารถเลื่อนไปยังสปรินต์ผลิตภัณฑ์ในภายหลังได้

การกำหนดกรอบของ Lepore ว่า "การปกครองโดยเครื่องจักร" มีประโยชน์ที่นี่อย่างแม่นยำเพราะมันเปลี่ยนเป้าหมาย นักพัฒนามีแนวโน้มที่จะคิดเกี่ยวกับคุณสมบัติ AI ในแง่ของความแม่นยำ เวลาแฝง และต้นทุน เมตริกเหล่านั้นมีความสำคัญ แต่เมื่อระบบ AI กำลังตัดสินใจที่ส่งผลกระทบต่อการเข้าถึงเครดิต การดูแลสุขภาพ ที่อยู่อาศัย หรือการจ้างงานของผู้คน ความแม่นยำในระดับแบบจำลองเป็นสิ่งจำเป็น แต่ไม่เพียงพอ ระบบยังต้องเป็นสิ่งที่เข้าใจได้ สามารถโต้แย้งได้ และรับผิดชอบได้ — คุณสมบัติที่เป็นสถาปัตยกรรม ไม่ใช่เพียงอัลกอริทึม

สำหรับทีมที่สร้างบนแพลตฟอร์มเช่น MonstarX นี่หมายถึงการคิดอย่างรอบคอบเกี่ยวกับวิธีการเปิดเผยความสามารถ AI ให้กับผู้ใช้ปลายทางและการป้องกันอะไรที่สร้างขึ้นในเวิร์กโฟลว์การพัฒนาเอง แพลตฟอร์มการพัฒนา AI-native ที่ทำให้การจัดส่งคุณสมบัติ AI ไม่มีปัญหาก็มีความรับผิดชอบที่จะทำให้การสร้างคุณสมบัติเหล่านั้นอย่างรับผิดชอบเป็นไปโดยไม่มีปัญหาเช่นกัน

ผลกระทบที่สองคือเกี่ยวกับเรื่องราวที่นักพัฒนาบอกตัวเอง ข้อวิจารณ์ของ Lepore เกี่ยวกับซิลิคอนวัลลีย์ว่าเต็มไปด้วยผู้อ่านที่ไม่ดีเป็นส่วนหนึ่งของการวิจารณ์ความเย่อหยิ่งทางปัญญาประเภทเฉพาะ — ความเชื่อว่าความสามารถทางเทคนิคให้อำนาจด้านศีลธรรม นักพัฒนาที่ได้ดูดซึมจิตสำนึก "เคลื่อนไหวอย่างรวดเร็ว" โดยไม่ตั้งคำถามกับมันไม่ได้รับการป้องกันจากโหมดความล้มเหลวนี้เพียงเพราะพวกเขากำลังสร้างสิ่งต่าง ๆ ในกรุงเทพหรือบังกาลอร์แทนที่จะเป็นซานฟรานซิสโก

การอ่านอย่างกว้างขวาง — รวมถึงการอ่านนักวิจารณ์เทคโนโลยี ไม่ใช่เพียงผู้สนับสนุนของมัน — ไม่ใช่ทักษะที่นุ่มนวล มันเป็นอินพุตการออกแบบ วิศวกรที่ได้อ่าน Shoshana Zuboff เกี่ยวกับทุนนิยมการเฝ้าระวัง หรือ Safiya Umoja Noble เกี่ยวกับการกดขี่ตามอัลกอริทึม หรือใช่ Jill Lepore เกี่ยวกับรัฐเทียม จะตัดสินใจสถาปัตยกรรมที่แตกต่างกัน