咚遇站长

社会的复杂和不可预测性俨然是个AI。

神译局是旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：Venmo联合创始人Andrew Kortina提出了一个引人深思的观点，他认为资本主义和注意力经济可以视为AI的一种形式，这种AI主要是针对短期的满足而不是长期的利益而进行优化。所以才会有今日美国的种种乱象出现。他认为，可能的解决方案也许可以从博弈论和分布式系统工程领域中寻找。原文标题是：History of the Capital AI & Market Failures in the Attention Economy

长话短说。

本文的基本想法是把资本主义看作是一个高效的目标函数（或者“AI”），其参数是为了满足我们的短期渴望而不是长期利益而进行优化的。

消费资本主义、人工智能、大众媒体……这些失控反馈回环的偏执，最终源自这些复杂系统的涌现行为对个体行为者以及在系统内操纵的观察者的不可理解性。

不过我们不必对勒得分子/无政府主义予以回应，相反，我们应该记住，在过去几个世纪里，类似这样的技术和社会体系已经大幅减少了自然世界不可预测性对我们的影响，并且在若干维度上极大改善了我们的生活条件。

与此同时，我们既不该忽视敌托邦未来的警示信号，也不该指望换个总统上台就能解决我们的问题。

因为我们手上的这些问题是复杂系统问题——其根源不在于行为人本身，而在于激发这些行为的设计不当的结构和激励手段——我们应该考虑重新设计未来的社会政治以及经济体系的规则与激励机制。

在论证了如何更好地理解这些系统性失效之后，我将讨论一些对寻找解决方案也许有用的框架，然后通过一些可能导致更好结果的结构性改变的例子来得出结论。

几年前，我刚搬到加州的时候，频繁地短租搬家，然后有一次把牙刷弄丢了。

深夜每每我路过小卖部时我都会看看有没有牙刷卖。结果不是卖完了就是没得卖。所以我就用手刷了大概一两周的牙，直到我终于下定决心去一家Safeway。

那超市很大，最后我找到收银台才弄清楚牙刷在什么位置。好家伙，6英尺高10英尺宽的一面货架上都是牙刷，选择超过了100种。

Safeway一角的牙刷货架

我只想找便宜的。但是却要2包起售，而我只想要1支牙刷。

为什么有那多的选择却没有我想要的呢？

如果这个地球上只有一种牙刷选项的话我是完全没有问题的。但这个超市却又好几百种选项。

每种牙刷都是由一个人设计的。每个设计者都有不同的想法。然后可能还得向委员会“推销”自己独特的新牙刷，看看能不能或者应不应该给产品线增加新的SKU。可能他们为每一个新设计都进行了大量的市场调研、原型开发以及用户测试。有人还得对每一种牙刷的潜在需求进行建模。

然后有人得生产这些牙刷，开车运到商店。

商店经理必须决定是否需要每一种牙刷并且留出相应的货架空间。

而每一位走进这家Sfaeway的人必须把所有的选项都看一遍，花时间去研究它们的区别，然后选择对自己最合适的牙刷。

为了让超市此刻的这个交易做成，这个过程需要占用多少人的多少注意力啊？

如果你花时间去考虑一下这个问题的话你可能会没了方向感，这会给你留下这样一种感觉……

我们再也不能自己做主了

是的，机器人已经接管了

你大概已经听说过像比尔·盖茨这样的名人对人工智能引发的生存危机提出的警告。Nick Bostrom的论文《先进人工智能的道德问题》里面举了一些典型的流氓AI的例子，其中之一是他想象一个有着良性目标——生产曲别针的超智机器。这是一台AI驱动的机器，其唯一的目标是尽可能高效地生产最大数量的曲别针，但最终可能“会先是把地球的所有空间，然后是宇宙中越来越多的空间都变成曲别针生产设施”，并在追求实现这一目标的过程中将所有人类都变成它的奴隶。

卡尔·马克思

鉴于我们已经被牙刷最大化以及自动播放下一条最大化这样的“机器人”所束缚，不难感觉我们现在已经进入到这种敌托邦的未来。

不过，也许更准确的说法是人类已经沦为资本最大化的奴隶。

卡尔·马克思在200年前提出了这种说法：

由此可见，即使在对工人最有利的社会状态中，工人的结局也必然是：过度劳动和过早死亡，沦为机器，沦为资本家的奴隶……

……工资的提高以资本的积累为前提并导致资本的积累：因而劳动产品越来越作为某种异己的东西与工人相对立。同样，分工使工人越来越片面化和从属化：分工不仅导致人的竞争，而且导致机器的竞争。因为工人被贬低为机器，所以机器就能作为竞争者与他相对抗。最后，正像资本的积累增加工业的数量，从而增加工人的数量一样，由于这种积累，同一数量的工业生产出更大量的产品；于是发生生产过剩，而结果不是有很大一部分工人失业，就是工人的工资下降到极其可怜的最低限度。

马克思并没有使用AI这个词，但基本上他认为资本主义是某种超智AI，这种AI利用金钱作为API指示工人花时间做什么。

我这里所指的API是最基本的含义：某种编程协议或者接口，可将命令从一个系统或者程序发送到另一个系统或者程序（这里是从资本AI发送给人）。

马克思还很有预见地理解了资本主义的“愚弄”本质：资本不仅要求大家干什么或者生产什么，而且其影响力不可避免地会发展到要求大家消费什么：

在私有制范围内……每个人都千方百计在别人身上唤起某种新的需要，以便迫使他做出新的牺牲，使他处于一种新的依赖地位，诱使他追求新的享受方式，从而陷入经济上的破产。每个人都力图创造出一种支配他人的、异己的本质力量，以便从这里面找到他自己的利己需要的满足。

无限制和无节制成了（现代经济体系的）真正尺度。甚至从主观方面来说，这一点部份地表现在：产品和需要的范围的扩大，成为非人的、过分精致的、非自然的和臆想出来的欲望的机敏的和总是精打细算的奴隶……工业的宦官投合消费者的最下流的意念，充当他和他的需要之间的牵线人，激起他的病态的欲望，窥伺他的每一个弱点，然后要求对这种殷勤的服务付报酬。

#资本主义即AI

资本积累目标函数的历史

———————————————————————————————-

资本增长瓶颈                                    资本AI用于摆脱停滞的针对人的API                                                

                                                              ______？（6.多巴胺/取悦）

5.注意力                                              /

                                                          /

                                      _________/            (4. 渴望 / 营销)

3. 需求                        /

                                 /

                         ___/                             (2. 金钱 / 工资)

1.生产能力

我喜欢把资本AI机器的演进看作是被新的“学习”人类的API解锁的一系列关卡。

当资本增长的门函数是生产能力（1）时，资本机器通过学习指挥人类的工作时间（这个则是通过工资形式的金钱来做到的）来解锁进入下一级。

一旦生产能力被解锁之后，门函数又变成了消费者需求（3），而机器学习的是营销（4）作为马克思所谓的“创造需求”的手段。（再思考一下这段话以及它所需要展示的几乎是超自然的力量……）

最后，一旦这台机器的很多部件已经获得了创造需求的能力，就会出现争夺获得消费者渴望（5）所需的注意力的竞争。这里你就开始看到注意力破解手段（6）渗透到我们的现代媒体版图里面：保证短期渴望即刻得到满足，空头支票，取悦千篇一律，迎合一丘之貉，对“他人”的人身攻击等。

咸甜口味的巧克力屑曲奇

在《E Unibus Pluram: Television and U.S. Fiction（电视与美国小说）》中，David Foster Wallace（华莱士）曾对人类（受众）与资本机器（以电视大众传媒媒体的形式，但是他描述的一切对所有大众媒体来说都适用，也许互联网大众媒体更是如此）的注意力控制功能之间的动态给出过敏锐的分析。他说：

毕竟这牵涉到很多的钱。那些拥有应用社会科学的最佳人口学家的电视必须提供内容，而且这些研究人员完全可以决定1990年的美国人是什么，想要什么，看什么：我们作为受众希望把自己看成什么。电视从本质上来说就是欲望。打个比方，欲望就是人类食物里面的糖。

在我看来，大众媒体的感觉不怎么像糖，那更像是巧克力屑曲奇，新鲜出炉的那种。美味可口，温暖，粘稠，还有糖的甜味，以及让你想吃更多的咸味。

华莱士继续解释，为什么（我们所谓的大众媒体和消费主义）出现的AI，是为了满足短期欲望——卡路里、精力、点击、观看时长而进行了优化，而把更长期的价值——尊严、知识、健康等抛到一旁：

不可否认的是，电视是“低端”艺术，那种在取悦的道路上用力过猛的艺术的一个例子。由于全国性广播、广告主补贴的娱乐的经济性问题，电视的目标之一就是要确保尽可能多的观看……我的意思不是说因为构成受众的人是俗人和蠢货，所以电视也是粗鄙的和愚蠢的。电视之所以这样完全是因为大家的相似性往往就体现在粗俗、好色以及愚蠢的兴趣上，而在微妙的、道德上的以及智力上的兴趣往往就大相径庭了。一切都与融合多样性有关：无论是媒体或者看客都不能对品质负责。

这个体系内的行为者均非恶意或者愚蠢——他们之所以有这样的行为，完全是系统规则赋予的激励使然。电视如此，互联网媒体如此，或者更为广泛的消费资本主义亦是如此。

占领华尔街的示威者

此刻你也许已经把我看作是反资本主义者/狂热分子/勒得分子了，不是的。

资本AI有很多好的属性，但在点出那些东西之前，我想先承认反资本主义者抱怨背后的一些事实。

工资与复利

作为复利的结果，资本将呈指数式增长——也就是说，在任何一个投资风险以利息形式补偿的世界里，均可用一言蔽之：“富者更富”。

相对于那些为工资工作的人，资本投资者几代的时间就能创造出多得多的财富。

资本主义在本质上就有贫富不均的倾向。

全球生活条件简史

但是，过去2个世纪全球资本主义的经济发展却通过很多举措极大改善了很大一部分人口的生活标准。

比方说，极度贫困和儿童死亡率已经大为下降，基础教育和扫盲也取得了很大的进展。

经济差异是利息回报的基本结果，这是给投资者承担风险，去资助创新、研究与基础设施的等大型项目、教育等的补偿。上图的许多收获都是资本投资的结果。

所以一方面左翼的社会主义者在竭力反对经济差异加大，但另一方面，自由市场资本主义者又说：“你看，其实情况对每个人都变得更好了。”

他们说的都对。

但是你听不到太多人同时承认这两方面的事实。他们一般都只强调一方面，然后暗示如果此为真的话则彼必假。

弗里德里希·哈耶克

多少有点自相矛盾的是，自由市场的典型人物哈耶克就警告过两种走极端的危险，极端的经济差异是危险的，盲目追求绝对平等也是。

极端经济差异以及财富集中在少数个人或财阀手上的问题在于，这会增加单点失败的风险。

另一方面，如果把追求绝对平等作为目的和手段，这是是不足以实现经济平等的。导致不平等还有很多形式的运气因素和裙带关系——比方说，一些人生来就能获得更好的教育和指导，从而导致知识积累的不平等。要想消除这种不平等除非子女一出生就要求所有父母充公，这样才不会有小孩享受或者遭受到从亲身父母的习惯或者知识所继承来的运气。在追求绝对平等的过程中，我们牺牲了大量的知识多样性以及个人自由，并且增加了遭遇灾难性风险的机率。

但问题是，极端路线要比中间路线容易兜售得多。

而且政客同样是注意力经济的一部分。公司要争夺你的眼球，推动你消费媒体和产品。政客也需要通过营销策略来推销他们的想法和政策。

右翼的特朗普和左翼的奥巴马均收获了大量粉丝可能是这两点的结果：（i）我们建立的资本AI机器复杂行为的不可预测性的结果，以及（ii）这台机器的优化目标是为了满足我们的短期欲望，而后者与我们想从这个（决定我们经济水平和生活品质的）系统获得的长远利益是脱节的。

这些现代民粹主义除了喊喊口号，呼吁领导者更加谦虚诚实以外并不能提出任何具体的解决方案。在当前的注意力经济体制之内把责任归咎于行为者，建议进行人士变动作为解决方案属于不得要领。华莱士说了，媒体堕落的根源不是不良行为者（受众或者媒体运营者）的结果。

在同样一套激励架构体系内指望新的“更好”的人采取不同的行为纯属一厢情愿。西方目前体系下的领导的激励手段是由我们如何衡量他们来决定的——政客的目标函数针对的是选票而不是结果进行优化。

因为美国人已经对他们的领导人和管控其行为的激励体系失去了信心，但又还没有找到取代的办法，所以美国现在正处在危险的过渡期。

随着特朗普不断地鼓动大家去质疑“假新闻”，说媒体业追求的是点击和眼球而不是事实，随着极左和极右都朝着科学方法和启蒙思想扔石头，公众已经不再相信任何东西。

这是很有问题的，因为信任是一切行之有效的基石。规则、制度、法币等之所以存在是因为我们相信，并且相信别人也相信它们。如果我们对此失去了太多的信心，就很容易陷入到无秩序的状态。

如果我们无法信任当前激励结构下的行为者能带我们走入这一窘境的话，又如何解决这些问题呢？

首先，我认为我们应该用“系统性思维”而不是好人和坏人来重新框定问题的表述。

一旦用系统来表述问题，我们可能就会在博弈理论和分布式系统工程这些领域里面去寻求解决结构性、系统性失效的办法。

强化与稳定反馈回环，系统性思维。

当我思考社会上出问题的一切事情时，我经常发现自己会陷入到“痛恨玩家”的陷阱里面，然后就忘了玩家的行为其实是受到游戏规则的支配的。

仇视玩家不是想出解决方案的有效框架，所以我必须不断提醒自己要用系统性思维框架去考虑问题。所以这里的讨论不是哪个政客、政党、企业或者特定利益团体有多坏，而是什么样的激励手段可能会导致这个系统内这个位置的行为者会这么干？如何改变这种激励手段或者系统规则才能导致不同的结果？

借鉴系统性思维的另一个关键概念是负作用与反馈回环。

一般大规模的社会问题都牵涉到由许多类型的行为者组成的复杂系统，这些行为者之间往往存在利益冲突，某人的行为会影响到系统内其他行为者的行为。

对反馈回环以及这些回环通过一系列迭代对特定指标的影响进行可视化，就可以更容易地推理特定政策长期影响。

在考虑社会体系这种牵涉到一群“优化代理”互动的系统时，借鉴对此类系统建模的数学分支是很有意义的，这个分支就是：博弈理论。

为了看看此类数学分支对思考复杂社会体系和政策的作用，不妨看看Nicky Case开发的游戏《信任的进化》，这个游戏很好地诠释了博弈论的一个经典例子：迭代囚徒困境。在这个游戏里面，你可以模拟社会规范（合作或者欺骗）的不同策略，然后探索规范的不同初始分布会如何朝着终极行为/为社会所接受行为的涌现状态/规范行为演进。

博弈论在公众对权威失去信心时特别有用，比方说，历史上博弈论曾被用来解决缺乏调解国际关系终极权威的情况。Thomas Schelling在冷战期间写过一系列博弈论应用的知名著作：《冲突的战略》、《军备与影响》以及《微观动机与宏观行为》等。

Netflix的架构图解

另一个我们可以借鉴设计原则的领域是分布式系统工程。

Netflix这张架构图的细节我们可以不管，只需要更关注它演示的系统工程的一个关键的设计原则——容错。分布式系统把任何单一节点的失效视为不可避免，必须容忍。

开发容错系统的代价很高：为了实现分布式系统所需的容错、耐久性、冗余、一致性、可用性等功能，你得一直对速度和效率做出妥协。（而且那些功能之间也得互有取舍）

为了效能（更快增长）牺牲变化（波动性）

如果我们想在解决最深层的经济社会问题的根源上取得任何进展，我坚信美国必须不要再走极端路线，而是要权衡考虑。

#天下没有免费的午餐

• 波动性 vs 效率（增长）

• 共识（高贵的谎言）vs 准确（科学）

• 私人掠夺 vs 公共贪污

• 探索（发现） vs 利用（执行）

• 更高风险 vs 更低回报

• 败阵失败 vs 受损失败

• 自由 vs 平等

• 权利 vs 责任

• 开放边境 vs 福利国家

• 鱼 vs 熊掌

• 承诺一切 vs 承认折衷

• 容错 vs 低成本/高效率

• 可用性 vs 可靠性

如上面的列表所示，需要权衡的因素有很多，也许比这些具体的权衡更重要的是，每一种权衡都意味着要衡量的一个或多个指标。

我认为，大量的系统问题均可归结为衡量问题。如果我们衡量的东西不对，就会看到非常奇怪的行为——要么是因为我们曾经以为它本身是正确的，要么是因为我们认为它是跟我们想要改变的东西相关的好的代理。

改革要想成功必须衡量对东西，从而为那些致力于改变的人提供正确的激励。

我们已经为优化今天所跟踪的指标：GDP、注意力、选票等建立了极其高效的系统。

如果我们有指标来更紧密地跟踪我们所关心的结果的话，我敢肯定我们就能建立起实现那些目标的同样高效的系统。

不过，这并不是一项容易的任务。

首先，我们需要想出如何选择旨在实现的目标函数的办法，并且列出可接受的权衡。在多元文化的环境下，这方面的每一项决定都会是挑战。

其次，一旦我们选定了共同的目标，我们就得制订最佳指标来跟踪那些目标。在处理复杂系统时这个也是非常困难的。

第三，为了确定共同目标和用于跟踪目标进展的指标，我们需要与其他机构进行合作，而激励他们的因素未必与我们确定的最优要素一致。

#进退维谷

这种建议代表了某种进退两难的境地。

消费资本主义“AI”在控制我们的时间、需求以及注意力方面已经变得极其高效，我们的目标是要摆脱这种失控的反馈回环。

这个系统正在导致美国滑向敌托邦的未来。但是要想对其基本规则进行“软件升级”，我们需要把有关制度问题根源及其潜在解决方案的想法分发出去。但分发要做出改变的想法以及就某项计划达成共识需要公众的关注，可就像前面指出那样，这群人已经陷入到为了制造和消费娱乐和煽风点火而优化的反馈回环里面了。

我目前对如何摆脱这种两难境地的思考感觉太过虚幻，就好像是飞机还在天上飞，却要更换引擎一样，但是我仍然设法想寻找答案。

既然美国的系统性失败归结为激励问题，也许我们可以引入一系列可以达成共识的细微改变，因为（i）我们很清楚它们在长期内如何可以为每个人产生更好的结果，（ii）短期内，它们对追求自身想要的激励的行为者构成的破坏最小。

希望不是策略。

——《网站可靠性工程》，Beyer等

模式的结构本身不是解决方案，但是能产生解决方案。这种工作方式的模式叫做产生式模式。

——《一种模式语言》，Christopher Alexander

现在很容易让人产生走向敌托邦未来的感受——甚至从很多方面来说可能已经处在这种情况了——因为你总是受制于针对满足短期欲望但显然与你长期利益不一致的反馈回环。

很自然地，你会对这些复杂的、不可预测的社会与经济体系感到反感，然后认为答案应该回归到一个更简单的体系里面。

但我们的做法不应该是一旦看到这些“AI”系统产生了一些次优结果就要放弃它们所带来的各种好处，相反，我们应该记住这些系统的长处。它们消除了大量我们面对自然的不确定性——如疾病、饥荒、自然灾害等的机率。它们还减少了我们遭遇个体行为者的错误和恶意的机率。

如果有这样的“AI”系统能够减少出现人为单点失败的情况，我愿意把控制权交给机器人。我们只是需要确保大家都很好地理解这些系统的参数并且对其进行充分的调优。鉴于目前的消费者资本主义和注意力经济的现状，这显然仍需要付出努力。

原文链接：https://kortina.nyc/essays/market-failures-in-the-attention-economy/

译者：boxi。