最后，大数据时代一个特别重要的现象是，算法增强了平台塑造用户信息环境的能力。总的来说，前算法时代是用户决定自己想看什么，而算法时代是让AI(人工智能)去猜测用户想看什么，AI喂给用户判断用户可能想看什么。算法的逻辑就是对用户进行画像和聚类。比如我在手机上玩了布鲁克纳，然后被推荐马勒。APP买了莫言的小说，在首页推荐找到了余华的作品。另一种是通过关键词联想，比如凯恩斯到哈耶克，齐泽克到乔丹·彼得森。更简单粗暴的方式是根据用户的消费历史来轰炸。比如，当用户在某个商家密集购物或者观看某个自媒体视频时，这些商家或者媒体就会反复出现在app首页。总的来说，算法推荐也不是一无是处。在很多场合，算法节省了用户的搜索成本，帮助用户更好地定位自己的需求。但由于算法构成了平台和APP的独家竞争力，技术上很难做到完全透明，导致大众很难判断算法推荐反映的是统计意义上的用户画像，还是平台希望用户成为的画像。
检讨算法应用的得失是西方社会的重要关注点。这种趋势有两个目的。第一，我们反对算法过度应用于个人，允许平台或企业通过算法控制人。根据皮尤研究中心的调查，56%的美国人反对将算法用于犯罪风险评估，57%的人反对用于简历筛选，67%的人反对用于公司面试，69%的人反对用于个人信用审查。58%的人认为算法的使用反映了设计师的偏见。值得注意的是，在调查中，近一半甚至更多的人认为算法在上述场景中的应用可以是有效的，但这几乎是不公平的。在这里，公众给予道德和正义的优先权似乎高于经济效率。
第二个担忧是算法的政治和社会影响。例如，信息茧效应可能会加剧政治两极分化。同样，根据皮尤中心的调查，近70%的美国人反对将大数据算法应用于政治活动(如竞选)。还有70%的人认为社交媒体通过大数据算法在一些内容上标注虚假信息的行为，实际上是在进行信息审查，这也导致一些正确的信息被误删。在这些讨论中，脸书(Meta)和Twitter等互联网巨头经常成为公众讨论的焦点。
2015年，《科学》杂志发表了一篇由三名为脸书工作的科学家撰写的论文:“接触关于脸书的不同意识形态的新闻和观点”。这是一个基于数千万用户的大数据研究，结论清晰明确:相比于算法排名，个人对内容的自主选择在接触多元观点上发挥的作用更大。研究发现，保守的脸书朋友网络中自由内容的出现频率为35%，而自由的朋友网络中保守内容的出现频率为24%。在脸书推送的新闻链接中，保守派和自由派推送跨党派内容的频率分别为34%和23%。换句话说，脸书比用户的朋友网络更接近用户。相比之下，保守派和自由派用户点击阅读跨党派内容的频率分别为29%和20%，远低于朋友网和脸书算法的推荐频率。这些结论为算法的社会影响做了一些客观的辩护。
在2021年发表在《美国经济评论》上的一项研究中，以色列特拉维夫大学的经济学教授Ro'ee Levy设计了一项关于脸书用户新闻阅读和社会态度的实验。起初，他通过脸书账户邀请用户完成关于价值观的问卷，然后在问卷结束时，他通过脸书随机邀请一些用户订阅保守派或自由派媒体，两个月后对这些用户的价值观进行回访调查。
令人鼓舞的是，无论是自由派还是保守派，都有相当比例的用户订阅不同立场的媒体，并保持一定的阅读量。回访发现，接触对立阵营的观点有助于改善用户对对方阵营的看法，缓解社会两极分化。然而，李维的研究也指出，脸书有取悦用户的战略行为。比如，对于同时订阅FoxNews频道的保守派用户和自由派用户来说，FoxNews在保守派用户页面上的新闻频率远远高于自由派用户，反之亦然。似乎脸书的算法变成了读心术，它不仅能记住用户的订阅偏好，还能根据用户在实际阅读、喜欢和社交行为中透露出的偏好与用户对话。
是不是应该担心平台会让我们变得更狭隘，更两极分化？还是想反抗算法对生活的占领？对于乐观的进步人士来说，这些可能不是问题:如果信息茧房能过滤掉噪音，让我们更快乐，为什么不呢？毕竟都说人类在向着元宇宙飞驰，诺齐克的《体验机》和《黑客帝国》似乎离我们更近。甚至不用担心身处信息孤岛或陆地上——算法可以比我们自己更好地优化我们自己。然而，一些怀疑者可能有另一种想象。在那个世界里，人类进步的事业是多元的、渐进的、审慎的、富于同情心的。好消息是，还有很长的路要走:在可预见的未来，人类很可能仍然会对差异保持克制，对技术保持敬畏，意识到局限性，对信息保持开放。
