我们如何信任 AI

（本篇为观看《芬奇》后的一些感想。推荐大家去看的一部经典电影。即便没看过也不影响阅读）

你信任你正在使用的 AI 吗？

对于笔者而言，我信任我目前使用的一切 AI 产品。我相信我在 chat 页面上得到的信息（至少不会错的离谱），我相信 Coding Agent 编写的代码能够正确运行。

但是仔细思考就会发现，我信任的并不是 AI，而是在信任自己。我对于目前的 AI 产品拥有“掌控感”。作为人工智能专业的学生，我能够理解 AI 训练的技术，因此相信它说的话大概是正确的；作为拥有自主编码技术的人，我给Coding Agent 下的是明确的指令，简单来说，我知道我在做什么，因此我不担心出错。对我而言，AI 是我自身的一个组件，一个工具，信任 AI 其实是信任自己。

当 AI 的能力越来越强，黑盒程度越来越高，这种“掌控感”不复存在的时候，我们还能信任 AI 吗？

芬奇就遇到了这个问题。他创造的机器人 Jeff，正正好好落在了独立和辅助的边界之间。一方面，Jeff 被写入了机器人三定律，如果一切正常，知识传输完毕，Jeff 应该成为末世中最强大的工具，要求他绝对的服从；但另一方面，Jeff 被写入了“第四定律”，有了自己的目标——保护小狗。这个目标，要求着 Jeff 不能止步于工具，要求他独立而可靠。正是后者，推翻了基于“掌控感”的信任逻辑。这种情况下，我们怎么信任 AI？

不妨将 AI 朋友和人类朋友做一个比较。作为人类，我们大多会有几个信任的同伴。对于人类朋友的信任，显然不是基于掌控感实现的，而是一种更复杂的，在长期相处中逐渐形成的关系。问题在于，我们能像信任人类一样信任 AI 吗？信任 AI，是比信任人类更容易，还是更难？

在笔者看来，我信任我的朋友，是因为这样的原因：1. 我认为朋友无害于我。2. 我认为合作有利于我。3. 我认为朋友也有一样的想法。因此，我推断我的朋友们不会怀着主观的恶意，他们的出发点，一定是对我们整体有利的。

AI 是否无害于人类，这是非常困难的命题。我们姑且假设训练 AI 的厂商都怀着崇高的目的，并且正确地向 AI 灌输了机器人三定律。这样，我们相信 AI 无害，其实是在相信制造 AI 的厂商。后者是见仁见智的事情。

和 AI 合作是否有利于人类。从个体的角度出发，这是不言自明的。和一个更强大的个体合作，一定能够做成更多的事，拓宽自己能力的边界。不过也会有这样的担忧：从整体上看，充分与 AI 合作会带来更大范围的失业。但一方面，笔者乐观的认为，总的生产力在进步的情况下，我们会找到方式让每个人过得更好；另一方面，信任毕竟是每个个体的选择，对于个人的最优决策，还是会选择和 AI 合作。

AI 是否怀有一样的想法？即便我们假设了 AI 无害于人类，无所不能的 AI 大人，是否能够看得上与人类的合作？AI 是否能相信人类无害，不会偷偷的拔电源？“他人即地狱”，即便是对于自己的同类，想要清楚的了解别人的想法已非常困难，面对一个由电流驱动的钢铁巨兽，要了解 AI 的想法则是几乎不可能的事。

这就引出了笔者的观点：信任 AI 比信任人更困难。因为信任，不是“I trust you”这样简单的陈述，而是“We trust us”这样相互的关系。

但这并不是说，信任 AI 是不可能的。相反，这要求着我们，在创造 AI 的过程中对 AI 进行更好的教育，在 AI 还在成长的过程中，通过协作来适应 AI，建立信任的基础，以免在超级智能真的降临的时候追悔莫及。

就像芬奇所做的那样。给 Jeff 写入了那至关重要的第四定律；阴差阳错之下，没有完成全部的知识传输，而是和 Jeff 一起在逃命的过程中成长；在两人分别犯下致命失误的时候，想尽一切办法拯救对方。如果任何一步走的不同，也许故事的结局，就大不相同了。