歴史家ジル・レポーがシリコンバレーのSF誤読と民主主義破壊を指摘

歴史家ジル・レポーがシリコンバレーのSF誤読と民主主義破壊を指摘

ハーバード大学の歴史家であり『ニューヨーカー』誌の寄稿者であるジル・レポーは、テック業界に対して痛烈な診断を下している。業界の最も影響力のあるリーダーたちは「悪い読者」だというのだ。悪いエンジニアではなく、悪いファンドレイザーでもなく、悪い読者だ。彼女の近著『人工国家の興亡』では、レポーはシリコンバレーがSFを誤用していることが、単なるスタートアップの恥ずかしい命名以上の深刻な問題を引き起こしていると主張している。歴史家ジル・レポーは、シリコンバレーが自らの文化的聖書と称するジャンルそのものを誤読していると指摘し、その結果として数百年かけて構築された民主的制度を積極的に解体していると論じている。

これは重大な指摘だ。そして今、アジア全域で事業を展開している開発者と起業家にとって、これはアメリカの文化戦争の議論として片付ける前に、真摯に受け止める価値がある。

何が起きたのか

TechCrunchの『Equity』ポッドキャストに出演し、著書の発表に合わせてレポーは明確な議論を展開した。テック企業は民主的政府の機能を次々と置き換えつつあるというのだ。TechCrunchのインタビュー報道によれば、彼女はこの転換を「アルゴリズム、企業、機械による支配という形での専制と神秘化への回帰」と表現している。

SF的な視点は、レポーが具体的に論じるところだ。彼女はイーロン・マスクのような人物を、より広範な読解力の欠如を象徴する例として挙げている。シリコンバレーの想像力を形作ったジャンル――アシモフ、ギブスン、ディック、ル=グウィン――は本来『警告的』なものだった。これらの著者は警告を書いていたのであり、設計図ではない。アシモフのフィクションに登場するロボットは人間の倫理を問い直すために存在するのであり、文字通りのロボット企業を立ち上げるための着想ではない。ギブスンのサイバーパンク・ディストピアは企業権力への批評であり、憧れの対象ではない。

しかし、テック業界はレポーによれば、これらのテキストを取扱説明書として消費してしまった。その結果、自分たちが科学小説のヒーロー物語の中に生きていると本気で信じている起業家の世代が生まれた。腐敗した既得権益システムを破壊し、人類を必然的なテクノ・ユートピアへと加速させるというナラティブだ。しかし、彼らが尊敬する著者たちは、実はそのような思考方法の危険性について書いていたのだ。

彼女の著書は、これを彼女が「人工国家」と呼ぶ状態の興隆として位置づけている。それは、民間のテクノロジー・プラットフォームが政府の機能――アイデンティティ、通信、金融インフラ、公共言論――の多くを吸収してしまい、民主的説明責任が構造的に不可能になった状態だ。AIはこれを加速させる。数百万人に影響を与える決定が民間企業が所有するアルゴリズムによって下されるとき、「誰が誰を統治するのか」という問いは本当に答えにくくなる。

アジアにとって何が重要か

東南アジア、インド、東アジアの開発者がレポーの議論をシリコンバレー特有の問題――アメリカのテック業界の特定の自由至上主義的例外主義との決別――として読むのは簡単だろう。しかし、そのような読み方は都合よすぎる。

テクノロジーと統治の交差点に対するアジアの関係は、それ自体が複雑な物語だ。複数のアジア諸国は、シンガポールのスマート・ネーション・イニシアティブからインドのデジタル公共インフラ・スタック、中国のアルゴリズム統治実験まで、AIを公共行政に積極的に統合している。レポーが提起する問いかけ――機械が重大な決定を下すとき、誰が説明責任を負うのか――は、これらの文脈では抽象的ではない。それは現在進行中の政策なのだ。

アジアのテック・スタートアップ・エコシステムにとって、レポーの批評はシリコンバレーとは異なる形で響く。多くのアジアの起業家は、必要に迫られてのことが多いが、政府と対立するのではなく政府と協働しながら事業を構築している。ASEAN、南アジア、東アジア全域の規制環境は断片化し、急速に変化している。インドネシアでフィンテックを構築する起業家が直面する説明責任の枠組みは、韓国や日本で構築する場合とは異なる。「急速に行動し、物を壊す」というエートスは、これらの市場には常に不適切だった――そしてレポーの議論はその理由を構造的に説明するのに役立つ。

また、ここで認識する価値のある読書文化の側面もある。レポーが参照するSF伝統は圧倒的に英語圏と西洋のものだ。アジアには独自の思弁小説がある――例えば劉慈欣の『三体』シリーズは、技術決定論と文明的リスクにギブスンやハインラインとは哲学的に異なる方法で取り組んでいる。シリコンバレーの問題が部分的には文学的想像力の欠如であるなら、アジアのテック業界にとっての問いかけは、私たちは誰の想像力から構築しているのかということだ。

これは修辞的な問いではない。起業家が自分たちが何を構築しているのか、そしてなぜ構築しているのかについて自分たちに語る物語は、何か悪いことが起きるまで過小評価されがちな方法で、プロダクト決定、採用文化、倫理的枠組みを形作る。

開発者にとって何を意味するか

レポーの議論は文明批評のレベルで機能しているが、AI時代にコードを書いたり製品を出荷したりしている誰もが関心を持つべき実践的な含意を持っている。

最も直接的なのは、設計による説明責任だ。AIを製品に統合するとき――推奨エンジン、信用スコアリング・モデル、採用ツール、カスタマーサービス・ボットであれ――あなたは技術的な決定ではなく統治的な決定を下しているのだ。出力に異議を唱えることができるのは誰か。モデルを監査できるのは誰か。有害な結果が生じたときに責任を負うのは誰か。これらは後の製品スプリントに先送りできる問いではない。

レポーの「機械による統治」という枠組みは、ここで正確にステークスを再構成するので有用だ。開発者はAI機能を精度、レイテンシ、コストの観点から考える傾向がある。これらのメトリクスは重要だ。しかし、AIシステムが人々の信用、医療、住宅、雇用へのアクセスに影響を与える決定を下しているとき、モデルレベルでの精度は必要だが十分ではない。システムはまた、読解可能で、異議を唱えられ、説明責任を持つ必要がある――これらはアルゴリズム的ではなく建築的な特性だ。

MonstarXのようなプラットフォーム上で構築しているチームにとって、これはAI機能がエンドユーザーにどのように公開されるか、そして開発ワークフロー自体にどのようなガードレールが組み込まれているかについて慎重に考えることを意味する。AI機能を出荷するのを摩擦なくする、AI-ネイティブな開発プラットフォームは、それらの機能を責任を持って構築するのを同等に摩擦なくする責任も負っている。

第二の含意は、開発者が自分たちに語る物語についてだ。シリコンバレーを悪い読者で満たされた場所として批評するレポーの批判は、部分的には特定の種類の知的傲慢さの批判である――技術的能力が道徳的権威を与えるという信念だ。「急速に行動する」というエートスを吸収した開発者は、サンフランシスコではなくバンコクやバンガロールで構築しているという理由だけで、この失敗モードに免疫があるわけではない。

広く読むこと――テクノロジーの批評家だけでなく、その伝道者も含めて読むこと――はソフトスキルではない。それは設計インプットだ。ショシャナ・ズボフの監視資本主義について、またはサフィヤ・ウモジャ・ノーブルのアルゴリズム的抑圧について、またはそう、ジル・レポーの人工国家について読んだエンジニアは、異なる建築的決定を下すだろう。