科技的诱惑：请不要不回答

    还记得，上一次目睹火箭发射时的感受吗？在点火及之后的几分钟时间里，人群安静极了，每个人都屏住呼吸，焦急地等待着，想看看这一次是否会成功。科技设备会像预想的那样正常运转吗？但愿如此。

    不幸的是，我们也看到过几次失败，也有几次对失败压根儿不知情。总之，风险、失败总是与科技实践形影不离。

    信任科技的恐惧不仅仅只在万众瞩目的大事上出现，它还和我们的家庭生活也十分密切。在每一个领退休金的季节，当长辈问我帮他们取钱的智能机器是否工作正常时，我就不由自主地觉得自己是多么地走运。

    不过，无论你碰到的问题是大还是小，重要的是要认识到，尽管“伙伴”只是一个机器，但有关信任的根本动力仍是一样的。依靠科技把我们送入太空，或计算花费把钱提走，这么做实际上让我们自己更容易受到科技能力的伤害。如果科技产品工作正常，一切都好。否则，我们会更糟。

    尽管科技现代化给人带来了种种问题，但我提到的以上情况却并不是新近才出现的。事实上，已经持续了几千年之久。至少是，在9世纪的阿拉伯诸多文献上，“科技”或“科学”是常用的词汇。

    人类为了获得利益如今不仅对科技十分依赖，并且还接受了科技造成的某种程度的伤害。听说过星盘吗？这种仪器在公元前150年就已经被用来准确计算时间、星座位置和地理位置，就像科幻小说《三体》游戏中所描述的在秦始皇时代已有“冯·诺依曼”（计算机发明者）和“牛顿”那样的伟大科学家。

    结果，那些愿意相信星盘计算的人很快获取了用其他方式难以得到的信息。但是，如果他们误信了星盘，也就是说，如果他们使用的星盘有缺陷，他们的计算可能会出错，从而导致灾难性的后果。这种缺陷是所有科技，无论新科技（今天最热门的智能聊天工具）还是旧科技都需面临的一个基本挑战。

    可以说明导航软件存在严重问题的例子不胜枚举。在澳大利亚，曾有人打算开车到维多利亚州西北部边界的一座内陆农业小镇——米尔杜拉城去，但导航软件却把他们指引到了40多英里以外的一个干旱的国家公园。那里的气温接近46摄氏度，他们常常因为没有汽油而被困在路上。

    现成的例子也有一个，那就是在过去的一年里，俄国向西边那个与其发生冲突的小伙伴的领土上倾泻了近千枚导弹，可惜命中对方要害目标的很少，差不多的意思是，瞎了眼的俄弹疲软无力。

    面对一次次的失败，为什麽我们还要继续相信科技？这个问题的答案很简单，这与相信人是同一个道理，收益大于成本。

    科技通常会为我们提供很好的服务，技术瑕疵也会通过竞争而快速改进。如果人们发现一种产品不可靠，他们会很快转向另外一种产品。而且，相信科技和相信别人的结果是一样的，都会使我们取得成绩，但依靠科技比仅靠自己取得的成绩更大。

    印刷机的发明极大地加快了图书的出版，这是先前所无法想象得到的。电子邮件的发展是交流的速度和数量迅猛增长，这也是前所未有的。在两种情况下，印刷文本或电子交流肯定都会有出错的可能，但是与不使用这两种科技所带来的高额成本相比，所有的顾虑似乎就显得微不足道了。

    尽管相信科技和相信人类有很多的相似之处，但它们却有一个基本差异。人是血肉之躯，有七情六欲。我们一直都在有意无意地比较诚信和自私给我们带来的长短期利益。机器至少在大部分情况下是没有欲望的——虽然不排除将来可能会有——它们不会想着如何最大化自己的利益，它们就是为完成特定的任务而生的。

    这个基本事实意味着，从信任等式中去掉善变的诚信；相信不善交际的机器最重要的是机器的能力，因此，相信科技变得日趋引人注目。

    随着科技在我们生活中的普及和应用的推广，我们的大脑至少在潜意识上似乎越来越愿意把科技的复杂性标志看成科技能力的暗示。给信息披上一件技术含量更高的“外衣”，人们突然会更有可能相信这样的信息。这种现象被称为“核磁共振效应”。

    但是，请不要被上述看法迷惑。如果科技是能力的一个潜在暗示，那么我们在日常事务中需要做决定时，对人力助手和自动化工具两种信息渠道有无信任的偏重呢？事实是不会出现偏倚。然而，随着风险的提升，我们的决定就会与自动化工具提供的信息越来越吻合，而不是与人力助手的。不久前，我们在疫情防控决策方面所经历过的大概就类似如此。

   启示很明显，当受侵害的风险趋高时，人们会不经意地利用科技所提供的能力暗示来做决定，他们对科技能力如此信任，竟然忽略了看似很能干的人力助手所提供的研判信息。

    这难道是昭示着，在信任科技方面，我们更加听信“机器专家”或者是容易上当受骗到了无药可救的地步了吗？并不见得。还是那个结论，我们相信科技的目的与相信别人的目的，两者没有太大的差异。

   正是因为没有很好的借口怀疑科技，潜意识偏见才会认为其能力更胜一筹，所以潜意识偏见在此起到了决定性的作用。

    但是，当我们对任何科技的可信度确实产生了怀疑，我们有理由保持谨慎时，情况可能很快就会变得更为复杂。当今世界，科技风险不仅仅是科技本身的能力问题造成的，更多的是科技使用者的目的，或者甚至是科技本身的目的所造成的。我们的社会正在快速进入这样的新世界。

    一个日益突出的新世界现象是，在线电子游戏变得日趋高级。于是，虚拟世界对我们的感官诱惑越来越多，我们在虚拟世界花费的时间越来越多。随着这种交流的深入，对潜意识来说，现实世界与虚拟世界之间的界限会越来越模糊。

    请不要忘了，我们的大脑并没有在“虚假”世界环境中进化发展，因此当虚拟世界在视觉上变得更为赏心悦目时，就难以抵制虚拟世界的影响。正如在“三体游戏”中所看到的那样，如果化身被设计成支配型，从使用支配型的化身中获取的强大的权力感会渗透到对他（或她）自己本人的看法当中，并相应地改变他的可信度。

    所以，尽管没有人明确承认我们受到了自己所使用的化身的影响，因为那个化身的特点常常会与我们自己的相差甚远，但那个化身的特点却能极大地改变我们的直觉计算，实际上最终让我们反过来变成虚拟角色的化身。有时我们甚至还会做出与它一样的动作。

    看透虚拟主体和化身的心思有好处，但要付出代价。数字化主体和化身的精准度会带来很多操纵信任的机会。有关虚拟主体的研究结果显示，人类会对科技实体的非语言暗示作出反应。人类经常会不经意间用非语言形式发出信号，表露出自己的真实意图。但虚拟主体与化身不同，它们只会发出使用者或程序编制让他们发出的信号。与诸多人工智能Chat机器人一样，它们能表达一组组暗示，发出可信或不可信的信号。它们还与虚拟护士一样，在感受不到任何真实情感的情况下，看上去可以让人感觉既热情又有同情心。

    因此，我们应能认清，数字实体可能是完美的骗子。它们可以流利地与我们的直觉信任机制进行交谈，从而影响我们的决定。

    克服这种影响其实不难。我不建议作出诸如“请不要回答”的回避举措，而是来吧，你可以忽略或有意反抗虚拟主体或化身表现出来的非语言暗示。例如，你可以把欢迎的手势，与你相同的口音，或者伸展姿势，看成是操纵你的信任的信号。

    不过，操纵并非总是坏事。有时，操纵会增进你对给你提供帮助的数字实体的信任，操作也能转化为一种享受。一切都取决于具体实体设计师的目的。随着人与虚拟主体和化身的交流越来越普遍，如果你盲目地认为设计师是出于恶意，你就无法从中受益。（完）