Nhà sử học Jill Lepore: Silicon Valley hiểu sai khoa học viễn tưởng và làm suy yếu dân chủ

Nhà sử học Jill Lepore: Silicon Valley hiểu sai khoa học viễn tưởng và làm suy yếu dân chủ

Nhà sử học tại Đại học Harvard và biên tập viên của tạp chí New Yorker Jill Lepore có một chẩn đoán sắc sảo về ngành công nghệ: những lãnh đạo quyền lực nhất của nó là những người đọc tồi. Không phải là những kỹ sư tồi, không phải là những nhà gây quỹ tồi — mà là những người đọc tồi. Trong cuốn sách sắp ra mắt của mình The Rise and Fall of the Artificial State, Lepore lập luận rằng việc Silicon Valley lạm dụng khoa học viễn tưởng đang gây ra hậu quả nghiêm trọng hơn nhiều so với chỉ tạo ra những cái tên startup khó chịu. Nhà sử học Jill Lepore cho rằng Silicon Valley hiểu sai chính thể loại mà nó tuyên bố là kinh thánh văn hóa của mình — và theo cô, nó đang tích cực phá hủy các thể chế dân chủ mất hàng thế kỷ để xây dựng.

Đó là một cáo buộc nghiêm trọng. Và đối với các nhà phát triển và nhà sáng lập đang xây dựng trên khắp châu Á ngay bây giờ, đó là điều đáng suy ngẫm trước khi bác bỏ nó như một điểm tranh cãi về chiến tranh văn hóa Mỹ.

Điều Gì Đã Xảy Ra

Phát biểu trên podcast Equity của TechCrunch để kỷ niệm việc ra mắt cuốn sách của mình, Lepore đã trình bày một lập luận rõ ràng: các công ty công nghệ đang ngày càng thay thế các chức năng của chính phủ dân chủ. Theo bài viết của TechCrunch về cuộc phỏng vấn này, cô mô tả sự thay đổi này là "một sự trở lại của chuyên chế và bí ẩn dưới hình thức cai trị bằng thuật toán, công ty, máy móc."

Góc nhìn khoa học viễn tưởng là nơi Lepore trở nên cụ thể. Cô chỉ ra những nhân vật như Elon Musk như là biểu tượng của một thất bại rộng lớn hơn trong khả năng đọc hiểu. Thể loại đã định hình trí tưởng tượng của Silicon Valley — Asimov, Gibson, Dick, Le Guin — phần lớn là cảnh báo. Những tác giả này đang viết những lời cảnh báo, không phải là bản thiết kế. Những robot trong tiểu thuyết của Asimov tồn tại để thẩm vấn đạo đức con người, không phải để truyền cảm hứng cho một công ty robot theo nghĩa đen. Những xã hội tàn phá trong cyberpunk của Gibson là những phê bình về quyền lực của công ty, không phải là những lộ trình đáng khao khát.

Tuy nhiên, ngành công nghệ, theo Lepore, đã tiêu thụ những văn bản này như những hướng dẫn sử dụng. Kết quả là một thế hệ những nhà sáng lập thực sự tin rằng họ đang sống trong một câu chuyện anh hùng khoa học viễn tưởng — phá vỡ các hệ thống di sản tham nhũng, đẩy nhanh nhân loại hướng tới một tương lai công nghệ tất yếu — khi những tác giả mà họ ngưỡng mộ thực sự đang viết về những nguy hiểm của chính loại suy nghĩ đó.

Cuốn sách của cô khung hình này như sự trỗi dậy của cái mà cô gọi là "nhà nước nhân tạo": một tình trạng trong đó các nền tảng công nghệ tư nhân đã hấp thụ rất nhiều chức năng của chính phủ — danh tính, giao tiếp, cơ sở hạ tầng tài chính, diễn ngôn công cộng — mà trách nhiệm dân chủ trở nên về mặt cấu trúc là không thể. AI là chất xúc tác. Khi những quyết định ảnh hưởng đến hàng triệu người được đưa ra bởi các thuật toán do các công ty tư nhân sở hữu, câu hỏi về ai cai trị ai trở nên thực sự khó trả lời.

Tại Sao Điều Này Quan Trọng Đối Với Châu Á

Sẽ dễ dàng cho các nhà phát triển ở Đông Nam Á, Ấn Độ hoặc Đông Á đọc lập luận của Lepore như một vấn đề cụ thể của Mỹ — một cuộc giải quyết với thương hiệu tự do chủ nghĩa đặc thù của Silicon Valley. Cách đọc đó sẽ quá thoải mái.

Mối quan hệ của châu Á với giao điểm của công nghệ và quản trị là một câu chuyện phức tạp của riêng nó. Một số chính phủ châu Á đã tích cực tích hợp AI vào quản lý công cộng — từ sáng kiến Smart Nation của Singapore đến ngăn xếp cơ sở hạ tầng kỹ thuật số công cộng của Ấn Độ đến các thử nghiệm quản trị thuật toán của Trung Quốc. Câu hỏi Lepore đặt ra — ai chịu trách nhiệm khi một máy đưa ra một quyết định hậu quả? — không phải là trừu tượng trong những bối cảnh này. Nó là chính sách trực tiếp.

Đối với hệ sinh thái khởi nghiệp công nghệ châu Á cụ thể, phê bình của Lepore có tác động khác so với ở Thung lũng. Nhiều nhà sáng lập châu Á đang xây dựng cùng với chính phủ thay vì chống lại nó, thường là do tính cần thiết. Các môi trường quy định trên khắp ASEAN, Nam Á và Đông Bắc Á là phân mảnh và thay đổi nhanh chóng. Một nhà sáng lập xây dựng fintech ở Indonesia phải đối mặt với một khuôn khổ trách nhiệm khác so với một người xây dựng ở Hàn Quốc hoặc Nhật Bản. Tinh thần "di chuyển nhanh và phá vỡ mọi thứ" luôn là một sự phù hợp tồi tệ cho những thị trường này — và lập luận của Lepore giúp giải thích về mặt cấu trúc tại sao.

Cũng có một khía cạnh văn hóa đọc ở đây xứng đáng được công nhận. Truyền thống khoa học viễn tưởng mà Lepore tham chiếu phần lớn là tiếng Anh và phương Tây. Châu Á có tiểu thuyết suy đoán của riêng nó — bộ ba The Three-Body Problem của Liu Cixin, chẳng hạn, tham gia vào chủ nghĩa xác định công nghệ và rủi ro nền văn minh theo những cách triết học khác biệt so với Gibson hoặc Heinlein. Nếu vấn đề của Silicon Valley một phần là do thất bại trong trí tưởng tượng văn học, thì câu hỏi đối với công nghệ châu Á là: chúng ta đang xây dựng từ trí tưởng tượng của ai?

Đó không phải là một câu hỏi tu từ. Những câu chuyện mà các nhà sáng lập kể cho chính họ về những gì họ đang xây dựng — và tại sao — hình thành các quyết định sản phẩm, văn hóa tuyển dụng và khuôn khổ đạo đức theo những cách không được đánh giá cao cho đến khi có điều gì đó diễn ra tồi tệ.

Điều Này Có Ý Nghĩa Gì Đối Với Các Nhà Phát Triển

Lập luận của Lepore hoạt động ở mức độ phê bình nền văn minh, nhưng nó có những hàm ý thực tế cho bất kỳ ai viết mã hoặc phát hành sản phẩm trong thời đại AI.

Cái ngay lập tức nhất là trách nhiệm bằng thiết kế. Khi bạn tích hợp AI vào một sản phẩm — cho dù đó là một công cụ đề xuất, một mô hình tính điểm tín dụng, một công cụ tuyển dụng hoặc một bot dịch vụ khách hàng — bạn đang đưa ra một quyết định quản trị, không chỉ là một quyết định kỹ thuật. Ai có thể phản đối kết quả? Ai có thể kiểm toán mô hình? Ai chịu trách nhiệm pháp lý khi nó tạo ra một kết quả có hại? Đây không phải là những câu hỏi có thể bị hoãn lại cho một sprint sản phẩm sau này.

Khung hình "cai trị bằng máy" của Lepore rất hữu ích ở đây chính vì nó định khung lại những cổ phiếu. Các nhà phát triển có xu hướng suy nghĩ về các tính năng AI theo độ chính xác, độ trễ và chi phí. Những số liệu đó quan trọng. Nhưng khi một hệ thống AI đang đưa ra những quyết định ảnh hưởng đến quyền truy cập của mọi người vào tín dụng, chăm sóc sức khỏe, nhà ở hoặc việc làm, độ chính xác ở cấp độ mô hình là cần thiết nhưng không đủ. Hệ thống cũng cần phải rõ ràng, có thể tranh cãi và chịu trách nhiệm — những phẩm chất là kiến trúc, không chỉ là thuật toán.

Đối với các nhóm xây dựng trên các nền tảng như MonstarX, điều này có nghĩa là suy nghĩ cẩn thận về cách các khả năng AI được tiếp xúc với người dùng cuối và những hàng rào bảo vệ nào được xây dựng vào quy trình phát triển. Một nền tảng phát triển gốc AI giúp việc phát hành các tính năng AI không ma sát cũng phải chịu trách nhiệm để làm cho việc xây dựng những tính năng đó một cách có trách nhiệm cũng không ma sát.

Hàm ý thứ hai là về những câu chuyện mà các nhà phát triển kể cho chính họ. Phê bình của Lepore về Silicon Valley như là nơi có những người đọc tồi một phần là phê bình về một loại kiêu căng trí tuệ cụ thể — niềm tin rằng khả năng kỹ thuật trao quyền thẩm quyền đạo đức. Các nhà phát triển đã hấp thụ tinh thần "di chuyển nhanh" mà không thẩm vấn nó không miễn dịch với chế độ thất bại này chỉ vì họ đang xây dựng ở Bangkok hoặc Bangalore thay vì San Francisco.

Đọc rộng rãi — bao gồm cả đọc những người chỉ trích công nghệ, không chỉ những người ủng hộ nó — không phải là một kỹ năng mềm. Nó là một đầu vào thiết kế. Kỹ sư đã đọc Shoshana Zuboff về chủ nghĩa tư bản giám sát, hoặc Safiya Umoja Noble về áp chế thuật toán, hoặc có, Jill Lepore về nhà nước nhân tạo, sẽ đưa ra những quyết định kiến trúc khác nhau.