内容简介

以智能算法为主导的人工智能技术逐渐升级为网络社会的重要支撑技术和基础设施，规范智能算法也成为网络社会治理必须面对的重要问题。当我们关注智能算法对社会生产生活产生深刻影响，忧思算法霸权、积极探讨治理对策之时，我们是否应该停下脚步，重新审视算法的社会实践逻辑是怎样的？

本书从社会学的视角对算法进行研究，通过对某信息分发平台的算法实践进行剖析，认为全面理解算法，不能只限于技术意义层次，更不应该将其理解为与人类社会实践相割裂、游离于社会系统之外的“物化”存在，应该关注算法实践如何成为平衡不同社会力量权力—利益博弈的过程。在理论价值方面，创新性揭示智能算法的社会博弈实践特性，在应用价值层面，聚焦平台企业组织情境的互动过程，有利于针对算法实践周期内个体、组织、社会层面的责任构成及风险溯源，进一步检思协同治理的有效路径。

作者简介

赵璐，北京大学社会学博士，北京市社会科学院社会学研究所助理研究员。研究方向为技术社会学、媒介与社会、青年研究等。在《社会学研究》《社会学评论》《现代传播》等核心刊物发表多篇学术文章，曾被人大复印报刊资料《社会学》全文转载。曾参与国家重点研发计划、国家社科重大项目等十余项，主持国家社会科学基金青年项目“基于算法的网络社会治理现代化的实践路径研究”（23CSH069）、北京市哲学社会科学基金青年项目“互联网平台企业算法责任的风险成因及协同治理机制研究”（22XCC018）等课题，获得北京市哲学社会科学优秀成果奖等荣誉。

目录

第一章 绪论

一 从信息分发平台的算法逻辑说起

二 理论关怀与问题意识

三 算法实践是社会建构的产物

第二章 文献回顾与评述

一 对算法的技术性理解与应用现状

二 社会科学领域的“算法”研究

三 小结：现有算法研究的不足

第三章 研究方法与主要研究活动

一 试调查：如何理解算法工程师的“编码世界”

二 正式研究的四个阶段及其主要活动

三 小结

第四章 K平台的“普惠”产品价值观与算法实践逻辑

一 信息分发平台与内容流

二 K平台的“普惠”产品价值观如何影响算法分发逻辑？

三 简要总结：算法实践和“可见性”博弈的社会场域

第五章 利益“共谋”：广告主卷入算法竞价的适应性策略

一 平台—广告主的利益合谋：怎么利用用户的数据来赚钱？

二 广告主卷入算法排序逻辑的适应性策略

三 广告可见性的平衡与博弈：用户体验、广告主和平台利益

四 小结与讨论

第六章 算法实践的合法性：监管部门的技术治理

一 算法是否应该有价值观？

二 算法治理：微观政治逻辑下形塑算法实践规则

三 算法实践：政治权力与平台利益之间的张力

四 小结与讨论

第七章 内容生产者如何驯化算法为己所用？

一 内容生产者眼中的“算法”角色

二 保持“可见性”的策略：适应、博弈和对抗

三 小结与讨论：规训谁？“驯化”谁？

第八章 算法和普通用户互动：制约还是驯化？

一 算法推荐内容“可见性”前提：用户兴趣偏好与行为反馈循环

二 用户对算法推荐机制的认知与情感体验

三 用户如何“规划”所处的信息流空间

四 当策略遇到战术：用户体验如何改变算法实践的制度属性

五 小结与讨论

第九章 总结与思考

一 算法实践是平衡不同社会力量利益博弈的过程

二 多元社会主体影响算法实践的机制

三 如何理解算法：一种实践逻辑的路径

四 研究展望与研究不足

参考文献

附录

致谢

内容摘要

序

让算法在实践中达成社会均衡

算法是一个技术议题。如果纯粹从技术视角来观察，算法古已有之。在中国之外，算法的最早证据可以追溯到美索不达米亚的巴比伦数学，在伊拉克的巴格达附近发现了一块公元前2500年左右苏美尔时期的粘土板，上面就刻画有除法。巴比伦时期的天文学采用了算法程序计算重大天文事件的时间和地点。在中国，算法的最早证据可以追溯到《黄帝历》，时间大约在公元前2700年。那时，人们用算法拟合天体的运动规律。来自多个方面的证据都一致表明，算法在人类历史中始终存在，在近代社会也没有停止演化，且早已运用在生产和生活之中。

直到近年之前，人们对算法的探讨没有超出算法科学与技术，讨论的人群范围也基本限定在相关的科学与技术圈子。换一个说法，算法更多的是科学与技术界的事儿，没有引起社会的广泛关注。可是，近些年来，对算法的探讨不再局限于和算法科学与技术紧密相关的数学、运筹学、计算机科学、数据科学、人工智能等领域，也不再局限于与算法应用关系紧密的物理学、化学、天文学、地球科学、生物学、工程技术等其他领域；文科诸学科也在广泛地探讨算法，如算法的政治经济和社会影响，且在政商学等社会各界引起了广泛关注。在文科领域，从哲学到教育学，几乎每一个学科都有对算法的讨论。

文科对算法的讨论通常集中于算法带来的影响，以及对算法的治理。哲学和伦理学关注算法的道德和伦理，算法产出的公正性、隐私权和数据伦理，包括以算法为基底的人工智能是否具有道德责任和自主性等。文化研究重视算法对音乐、电影、文学等文化活动的影响，以及对文化产业、文化创作和文化消费的影响，包括算法如何影响文化生产与接受的多样性。媒介研究聚焦算法对内容生成、信息获取、个性化推荐和广告的影响，以及算法在媒体行业的权力和控制机制。传播研究关注算法对新闻报道、社交媒体和信息传播的影响，以及对信息过滤、推荐系统、舆论形成和意见表达的影响。教育学研究偏重算法对教学评估、个性化学习和教育决策的影响，以及算法如何塑造学习环境和学习评价标准。法学研究算法对法律决策、司法判决和法律监管的影响，以及算法对法律和隐私的挑战。经济学探讨算法对市场效率、个性化定价、广告市场、消费者行为与选择、经济决策、劳动力市场、市场竞争和创新的影响。政治学则探析算法对选民行为与政治参与、政治沟通、政府决策与治理、数字权力与控制，以及政治网络和政治联盟的影响。社会学同样也关注算法的影响，更多留意的是算法对社会结构、社会互动和社会关系的影响，还注意算法如何塑造社交网络、影响信息传播、引发社会不平等以及影响决策过程等。人文科学和其他社会科学对算法影响的关注也在不断拓展，以至于文科领域的每个学科都在关注算法的影响。

算法对政治、经济、社会的广泛且深入的影响也引发了人们对算法治理的讨论。当然，讨论治理的主要是文科。综合各学科对算法治理的探讨，可以发现，焦点汇聚于算法带来的三个后果。第一，算法侵害。人们认为，算法已经在现实生产和生活中带来了算法歧视、算法偏见、算法垄断、算法遮蔽、算法霸权、算法操纵、算法剥削等与算法关联的社会、经济甚至政治侵害，给人类社会生活带来了负面影响。第二，算法风险。人们认为，在个体层次，算法强化信息茧房，带来人的认知窄化风险。在市场层次，算法遵循商业逻辑，酝酿着监控资本主义的风险。在国家层次，算法隐藏着被特定利益集团用于社会控制和政治权力再生产的政治风险。从个体层次到国家层次的风险给人类社会的政治、经济、社会生活带来巨大的不确定性。第三，算法权力。人们认为算法权力和算法规则触发权力竞争和规则竞争，甚至权力垄断和规则垄断。越来越清楚的是算法正在从人类手里获得决策权，在越来越多的领域或行动中成为人类的代理人。不仅在日常生活中代理个体，还在组织行动中代理组织或机构，包括进入政治生活领域，直接触碰政治权力。非常值得玩味的是，文科各学科包括政治学探讨的虽然是算法治理，采用的依据却是算法带来的影响。

如前所述，和其他文科学科一样，社会学也关注算法。不过，社会学对算法的关注，最早可以追溯到科尔曼（James S. Coleman）。一方面，社会学的确关注算法给社会带来的影响，如伯勒尔（Jenna Burrell）研究算法对劳动和就业的影响，内尔姆斯（Taylor Nelms）研究算法评分对金融包容性和排斥性的影响，博伊德（Danah Boyd）、尤班克斯（Virginia Eubanks）等探讨算法偏见，图费克奇（Zeynep Tufekci）讨论算法监视，塔尔顿·吉莱斯皮（Tarleton Gillespie）分析算法审查，等等。另一方面，社会学也运用算法为知识创新和积累赋能。科尔曼在1964年出版的《数学社会学导论》中就应用了数学模型分析社会现象，并探讨如何使用算法来预测和解释社会行为。怀特（Harrison C. White）不仅注意到了社会整体性的网络特征，还创新性地运用数学建模拟合人类的社会网络关系。遗憾的是，对算法探索的离散性使得社会学对算法的运用始终处在尝试阶段，至今也没有形成具有广泛影响力的示范。

在社会学对算法的关注中，《社会博弈：算法世界的实践逻辑》（以下简称《实践逻辑》）则给人们带来了一份惊喜。《实践逻辑》没有沿袭文科对算法探讨的既有范畴，没有继续把算法作为自变量，探索算法对社会的影响或运用算法为文科的知识生产赋能，而是把算法作为因变量，另辟路径，研究算法的社会实践。

在对算法的研究中，当然，也有把算法作为自变量的。如数学和统计学等研究算法建模，运筹学和计算机科学研究算法优化，人工智能研究算法工程及其优化等。可是，社会学不是数学、人工智能，也不具有将算法科学与技术作为研究对象的能力，社会学不可能探讨算法建模、算法迭代、算法效率等算法科学与技术议题。

文科将算法作为自变量，在脉络上可以被认为是承接了社会学技术研究的一个传统。在社会学的技术研究中，技术也被作为自变量、因变量，且与社会互为自变量和因变量。在将技术作为自变量的研究中，学者们关注的是技术的社会影响，以及产生影响的社会机制，即技术扩散的社会机制，技术决定论是主要理论。在将技术与社会相互作为自变量和因变量的研究中，研究者们关注的是影响技术形塑的社会因素以及社会变迁的技术因素，技术与社会相互建构是主要理论，进一步还被发展为技术与社会相互对话理论。在将技术作为因变量的研究中，人们探讨的是社会对技术的影响，以及在技术创新阶段，社会因素对技术发展的影响机制，社会建构论是主要理论。

初看起来，《实践逻辑》不过是社会建构论在数字时代的延展而已。事实上，却并不然。在比克尔（Wiebe E. Bijker）等人的社会建构论中，一项技术产品的社会形态是在市场迭代中确认的。即使后来拉图尔（Bruno Latour）试图从产品回溯到技术创新过程，希冀在技术创新过程中发现社会建构的机制，也只是补充了社会因素建构技术的环节，而不曾在同一项技术与社会的关系中探索社会建构技术的机制与过程。简单地捋一下，在社会建构论的理论与实证探讨中，社会对技术的建构是从产品蕴含的技术开始的，而不是直接从技术开始的。一个典型的比克尔式的逻辑是，企业通过产品的市场表现来发现产品的技术瑕疵或社会对技术的选择，然后，将对技术的改进意见反馈到技术部门，技术部门通过技术创新进行产品改进，并将改进的产品再次投放到市场，将市场作为社会的代理变量，讨论技术的社会建构。拉图尔的贡献在于，从技术创新的源头发现社会因素的影响。不过，他纳入的是内化为科学家和技术人员创意的社会影响。在拉图尔那里，技术是人创造的，人是社会的一部分而不是全部。人把获得的社会影响转化为技术创新或技术改进，这意味着影响创新者的社会因素对技术创新产生了影响。可是，影响科学家和技术人员的社会因素除了泛化的“社会”因素之外，更多的是科学家和技术人员的圈子，社会因素是通过这个圈子影响创新的。因此，塑造技术的社会力量只是科学家和技术人员的人际关系网络，而不是人们通常理解的社会。

《实践逻辑》则把人们通常理解的影响一项技术的社会因素直接纳入了讨论。这得益于算法作为一项技术的社会性。对算法技术社会特征的理解，可以放在与传统技术的比较中。以比克尔式的技术为例，在传统社会建构论中，自行车原本可以有非常多不同的式样，人们见到的式样不过是社会选择迭代的后果。可是，社会对式样的选择是通过购买行为来表达的，至于哪个式样受欢迎，是否还有更受欢迎的式样，只能通过市场销售数据来验证与试错。由此，我们发现，第一，传统技术与社会因素的关系是间接的。技术的创新与改进不只是有消费者的选择、市场销售部门的过滤，还有技术人员的吸纳。最终，还剩下多少社会因素影响技术的选择，不得而知。第二，传统技术与社会因素的关系具有延时性。从技术变成产品，从产品反馈变成技术改进，都需要时间，而且是很长的时间。延时性对技术形塑的影响是复杂的，这里暂不讨论。然而，算法技术与社会因素的关系是直接的和及时的。算法的社会化应用让技术关涉的利益相关者不再只是企业与消费者，而是与算法关联的每一方。在《实践逻辑》讨论的信息分发算法中，有平台企业、第三方广告主、技术监管部门、内容生产者、内容消费者等主要利益相关方，他们不再必须经过中间环节感受到算法对自我利益的影响，而是算法直接影响到每一方的利益与感受。

如果我们希望比较中获得一点归纳性的体会，从《实践逻辑》的主题出发，那就是，与技术相关的主体从时序性多主体变成了实时性多主体。比克尔式的社会建构是一个时序性多主体参与的建构，在每一个环节中，主体之间是不见面的，也不需要直接互动。可是，信息分发平台的算法则不同，利益相关的各方同时面对算法技术，是通过平台直接互动的。或许，正是在这个意义上将如此互动理解为博弈是准确的。不揣冒昧，我以为，在研究领域拓展和理论推进的意义上，《实践逻辑》的贡献在于其抓住了一个新的、不曾被讨论过的技术与社会关系场景，还恰当地抓住了这一场景的本质特征。那就是，用一个合作的视角探索实时发生的、真实社会实践的社会因素与算法技术在信息分发平台上的互动特质：社会博弈。

当我们把观察多主体之间实时互动的视角转向博弈，事情就变得有些复杂了。总体上，博弈是一个均衡达成过程，可以是一个市场过程，也可以是一个社会过程，还可以是一个市场与社会的过程。任何博弈，只要有结果，就一定有均衡。《实践逻辑》中的算法每时每刻都在运行，都在向内容生产者、内容消费者以及其他利益相关者提供服务，这其中当然有均衡。问题就在于，是一个市场均衡还是一个社会均衡，甚或只是一个技术均衡、混合均衡。《实践逻辑》试图告诉我们的是，在技术与社会关系的意义上，在技术的社会建构中，存在一个社会均衡。我想，这大概是作者用“社会博弈”试图表达的含义。

如果说市场均衡是理想类型的各自收益最大化的达成过程，即均衡是建立在参与博弈的各方都不再有改变出价意愿的基础上的过程，那么，社会均衡的难题在于，参与博弈的各方并不直接拥有一般等价物，进而，难以计算收益和出价的依据。不仅如此，社会均衡还取决于参与各方的筹码对其他各方的价值，即筹码等价性。换句话说，参与各方的社会经济地位直接影响各自因筹码等价性差异而导致的博弈机会差异。或许正因为如此，我更愿意把《实践逻辑》当作一部但开风气之作，为后续的研究留下了大量的可以努力的机会和空间。

一项具有整体性影响的技术，如算法，在我看来，已经不再只具有技术性，而是已经具有了社会性和公共性。在奇点到来之前，技术依然是提升效率的工具，是改善人类福祉的工具。当一项技术只是影响部分行业产业之时，我们希望在行业产业之间形成竞争，通过竞争在不同部分的社会之间达成均衡，促进社会均衡发展；这意味着在不同技术对社会的影响之间达成均衡，也意味着可以通过社会因素对技术的影响在技术带来的社会影响之间达成均衡。可是，当技术影响不只是行业产业而是整个社会时，便失去了通过部分之间的竞争达成社会均衡的条件，而只能在技术自身寻求社会均衡达成的契机。我始终主张将社会价值带进技术创新与应用之中，这里，我还希望重复这样的主张。那就是，让技术在赋能参与博弈各方的同时，把社会的基本价值主张如平等与普惠带入产品的研发与应用中。当然，学术界更应该为社会各方参与社会均衡的达成提供知识养分和实践框架。

邱泽奇

北京大学博雅特聘教授

中国社会与发展研究中心主任

数字治理研究中心主任

教育部长江学者特聘教授