【谷歌版“黑镜”】Ledger全面收集数据视频曝光，人类易被引导

原标题：【谷歌版“黑镜”】Ledger全面收集数据视频曝光，人类易被引导来源：TheVerge作者：克雷格、肖琴【新智元导读】谷歌两年前制作一个视频本周被曝光。视频里提出了“Ledger”概念，Ledger收集用户所有数据，然后根据用户的行为、习惯等信息，引导用户完成一个目标。看上去是在帮助用户解决问题，但细思恐极的是，这不就是黑镜里的情景吗？谷歌两年前做的一个视频，本周被曝光，立刻炸开了锅。这个名为“The Selfish Ledger”的9分钟视频，描述了一个所谓的“Selfish Ledger”概念，它可以收集用户所有数据，包括在手机上进行的任何操作、偏好设置和做出的决定，然后这个由谷歌设计和管理的ledger将解释这些信息，引导用户完成一个目标。举例来说，如果你想减肥，ledger会看到你正在用手机购买的食物，然后指导你购买哪些会更健康。更可怕的是，即使AI缺少一个关键的数据点，它也可以填补数据的空白：ledger能够在设备中寻找，以便在使用的时候提供所需的数据。比如你缺少体重数据，ledger甚至会频繁推荐电子秤让你购买。Ledger：引导用户达成目标，对数据无比贪婪“The Selfish Ledger”短片以Lamarckian的表观遗传学的历史开始，它关注的是在一个有机体的一生中所获得的特性的传承。Nick Foster是这段视频的解说。Foster说，这一理论在遗传学上可能是不可信的，但它为用户数据提供了一个有用的隐喻。我们使用手机的方式创造了“‘我们是谁’的不断演变的表述”，这就形成了一个“Ledger”，Ledger假定数据资料可以被利用起来，并能够用于修改行为，还能从一个用户转移到另一个用户:“以用户为中心的设计原则已经主宰了计算世界几十年，但如果我们以一种不同的方式看待事物呢？”如果Ledger可以被赋予一种意志或目的，而不是简单地作为一种历史参照，该怎么办？如果我们专注于通过引入更多的信息来源来创建一个更丰富的Ledger，那会怎么样呢？如果我们认为自己不是这些信息的所有者，而是作为托管人、临时承运人或看护人呢?我们的设备使用的所谓Ledger——我们的“行动、决定、偏好、运动和关系”的数据——可以很容易地传递给其他用户，就像遗传信息代代相传一样，Foster说。基于Ledger的想法，该视频的中间部分提出了谷歌系统的概念性决议（conceptual Resolutions by Google system），其中谷歌提示用户选择一个人生目标，然后在他们与手机的每一次互动中引导他们走向这个目标。这些例子“反映谷歌作为一个组织的价值观”，其中包括使用Uber或指导你从Safeway购买本地生产的产品时，尝试更环保的选择。当然，Ledger概念是在谷歌上进行的，它可以访问大量的用户数据和决策，不过，视频中没有提到隐私问题或潜在的负外部性。Ledger对更多数据的贪婪需求可能是这部视频中最令人不安的地方。Foster设想了一个未来：“目标驱动的Ledger概念变得容易被接受，并且行动建议可能不是由用户而是由Ledger本身提供的”，这就是《黑镜》描述的景象。而Ledger积极地寻求填补数据的空白，甚至选择购买它认为可以吸引用户的产品，以便采集数据。视频中给出的例子是一个浴室秤，因为Ledger还不知道它的用户有多重。这段视频又进一步转向了让人焦虑的科幻小说，因为这个Ledger可能会变得如此精明，以至于它可以提出和3D打印自己的设计。Foster对Ledger的看法超越了自我完善的工具。该系统将能够“填补其数据的空白，并完善其人类行为模式”——不仅仅是你的特定行为或我的行为，而是整个人类物种的行为。“通过将用户数据视为多代人，新兴用户可以从上一代的行为和决策中获益。”Foster解释说，设想一个挖掘人类行为的数据库，将其与人类基因组进行排序，并“对决策和未来行为做出越来越准确的预测”。“黑镜”要来？X发言人：它与任何当前或未来的产品无关短片命名为“The Selfish Ledger”并非是Ledger很自私，而是向理查德·道金斯（Richard Dawkins）1976年《自私的基因》“Selfish Gene”一书的致敬，这本书提出了以基因为中心的进化论的观点，在现代生物进化理论中地位非常重要。这次视频的解说Foster也是Alphabet X部门的设计负责人，同时也是the Near Future Laboratory的联合创始人。X部门是Alphabet的创新孵化器（以前是Google X部门），在这里把大批天马行空的想法变成了现实，包括谷歌glass、自动驾驶汽车、Loon、Wing等。Foster在2016年制作出来“The Selfish Ledger”视频后，一直在谷歌内部共享，直到本周被The Verge曝光，随后引发了大家对谷歌“黑镜”行为的担忧。对此，一位X的发言人向The Verge声明：这是多年前设计团队的一个思想实验，他们使用一种被称为“推测设计（speculative design）”的技术来探索让人不舒服的想法和概念，从而引发讨论和辩论。它与任何当前或未来的产品无关。谷歌两项专利思维模式与Ledger类似虽然X发言人否认，但The Verge又发现谷歌有两个专利申请表现出的思维模式，跟 Ledger的设想一样。有读者指出，去年公开的谷歌自2015年开始的一项专利申请，标题为“检测和纠正用户行为中的潜在错误”。Selfish Ledger概念的核心部分跟这个标题非常相似：它的前提是，在个人层面上帮助用户进行自我改善和行为修正。这个专利文件中提出了一个系统，在这个系统中，你的设备将使用Google已经收集到的信息——例如从你的电子邮件收件箱中收集的旅行行程——然后在检测到你行程偏离时采取行动。系统预测计算设备的用户将要采取的行动，并根据与计算设备相关的上下文信息来确定用户正在采取的当前行动。计算系统根据当前的操作决定用户是否能够采取未来的行动，并根据可能性程度预测用户将无法采取的行动。计算系统向计算设备发送信息，表明用户当前正在采取的操作将导致用户无法采取未来的行动。因此，假如你正在前往的机场不对，你的手机会发出通知，告诉你走错了路。谷歌的专利图（因篇幅限制，仅展示部分图片）然而，为了实现这种智能，手机需要对你的生活非常熟悉。除了事先知道你的计划之外，它还必须了解你的日常驾驶或通勤模式，它需要知道你当前的位置和活动，以确定它是否与计划一致。这是谷歌服务的永恒二分法：它们真的非常实用，确实有帮助，但是你愿意为了方便而放弃多少隐私?另一项谷歌专利申请也是2015年开始，去