您的设备正在评估您。 采取相应的行为。

这篇文章最初发表于 2019 年 8 月 15 日。

您可能已经看过臭名昭著的《黑镜》剧集“暴跳如雷”,它描绘了一个普通人根据社交互动相互评价的世界。 在这个热门节目中——它瞄准了我们生活中普遍存在的技术,描绘了一幅反乌托邦的未来图景——这些评级反馈到一个综合算法中,计算决定社会经济地位的个人社会信用评分。

在这个虚构的世界里,低分会妨碍你的日常生活。 您不能租车、预订酒店或支付机票费用。

但是这个故事很受欢迎 close 为那些受中国影响的人回家 不断发展的社会信用体系. 为了复制西方的金融信用评分模型,中国的系统以类似的方式运作,除了及时偿还债务之外,它还奖励良好行为(并惩罚不良行为)。

很容易质疑一个国家是否应该对其公民的行为施加这种影响。 但这会遗漏一个关键点。 首先使这种独特的社会信用模型成为可能的更广泛的力量是面部扫描仪、数字设备、机器学习算法和大数据模型的普及。 随着时间的推移,他们会留下来并变得更加聪明。

监视是一种黑暗而神秘的力量

技术有能力从根本上改变我们的社会契约,并可能导致以目前的形式消灭民族国家。

如果您正在阅读本文,那么您很可能不喜欢监视。 你重视你的隐私,你宁愿政府不知道你在做什么 24/7。 但那是因为我们(至少我们中的一些人)可以选择生活在一个我们的权利在某种程度上受到尊重的世界。

如果我们住在一个室内,我们的行为会如何改变 圆形监狱? 圆形监狱源于英国哲学家杰里米·边沁的著作,指的是在牢房圈的中心设有观察塔的建筑物。

圆形监狱应该让人们意识到你的行为可以随时被监控。 每个从牢房向外看的囚犯都能看到中央观察塔。 没有办法可靠地知道一个守卫是否在同一时刻看着他们,但也没有办法避免它。

边沁相信权力应该是可见的,但又是黑暗和神秘的。 他认为个人与社会的关系取决于它:通过监视,我们将被迫在道德、道德和工作态度方面遵守社会规范。

社会信用已经在这里

边沁于 19 世纪初去世,但他的工作和思想仍然存在。 虽然圆形监狱作为一种行为执行模型并没有真正起步,但我们当然可以说它只是工具不同。

让我们来 优步评分, 为了 example. 该公司今年早些时候证实,它将开始禁止评分低的车手。 评分低的司机也面临着类似的后果:在某些州,他们不能为 Uber Black 开车,而且他们收到的乘车请求可能会更少。

这里的信息简单而直接:保持礼貌、友好或被切断。 如果那不是行为控制,我不知道是什么。

这远非科技改变我们生活方式选择的唯一表现。 保险公司 想要您的 Fitbit 数据 这样他们就可以检查您的健康状况,并可能调整您的保费。 智能牙刷是 回传数据 给你的牙医,所以如果你刷牙的频率不够高,那就准备好掏更多的钱吧。

我们也开始依赖这些模型。 您会从 eBay 卖家那里购买评分较低的产品吗? 在尝试新服务之前,您多久阅读一次在线评论?

当然,这些例子中的每一个都只反映了一小部分监控,而不是政府运营的社会信用体系所采取的广泛措施。 但这种表面上的限制在很大程度上是存在的,因为科技公司一直在其有限的范围内运营。 如果将所有这些数据点焊接在一起,它可以为类似的广泛监测系统提供动力。

这是一个道德困境。 我们对技术的依赖和我们愿意放弃的数据点使算法更智能,科技公司更富有。 虽然抱怨缺乏隐私很容易,但事实是,只有当技术对我们了解得更多时,它才会更好地为我们服务。 这是良性循环还是恶性循环,取决于你如何看待它。

它也有一个术语: 监视资本主义,由哈佛商学院的 Shoshana Zuboff 创造。

隐私是技术不可避免的牺牲品吗?

随着社会信用体系在整个社会的扩散,国家有什么用? 维护自由和保障基本权利的集中力量对社会至关重要——或者是吗? 如果我们知道我们口袋里的设备能够记录日常行为,那不会自动导致行为改变吗?

无政府主义是下一个主要的社会运动吗? 这当然是可能的, 根据 Andreas Wittel 教授的说法,他认为“数字技术可能为大规模的无政府主义组织形式开辟新的可能性。”

我们中的许多人都知道与技术相关的隐私风险。 然而,我们要求 Alexa 给我们买东西,让 Siri 来检查行车路线。 我们在 Spotify 上播放音乐,通过 Uber Eats 订购食物,并通过 Venmo 拆分支票。

技术将继续存在,隐私问题不会将其从地图上抹去。 我们应该解决的问题是它是否会继续为我们服务,还是最终会反过来?