剖析信心：确定性与行动动力

当我们将某人标记为自信时，我们实际上在说什么？ 那过分自信呢？ 如果一家初创公司创始人将自己的生命投入到自己的初创公司中多年而没有任何成功的迹象，这是否意味着她误解了成功的可能性？ 如果有人仍在吃肉，这是否意味着他们不相信工厂化种植不好？ 我们知道，通过讲述一个生病的孩子而不是成千上万个孩子的故事来募捐是最有效的； 由于某些原因，随着人数的增长，人们的情感压力变得越来越小。

最好将信任度概念分为两​​个部分：

• 为死亡腾出空间
• Tworzeniewięzi，zniewolenie —杰克·乌切克（zak uciec）饰演Piekłemwięzi创伤
• 关于“意义地图”的思考[Quora]
• 有说服力的内容心理学
• 用心理学揭示消费者行为的奥秘

• 确定性：我给这个想法是否正确分配了几率？
• 采取行动的动力：在某种深层的直觉层面上，我被迫以多大的努力去实现与这一想法相关的目标？

以下是一些可能的虚构示例，可以帮助您充实这个想法：

吃鸡

我个人同意，从伦理的角度来看，工厂化养殖确实是很糟糕的，最大的影响差异将是至少停止工厂化养殖鸡，这是造成许多苦难的地方。 话虽如此，我仍然无法抗拒Chick-fil-A的鸡块，总的来说，我还是吃鸡肉。 您可以说我的确定性很高，但是我行动的动力却很低 。

协和飞机

协和飞机的开发被广泛视为沉没成本的一个例子。 从维基百科：

英国政府私下将该项目视为“商业灾难”，该灾难永远不会开始，几乎已经被取消，但是政治和法律问题最终使任何一个政府都无法撤军。

您可以将沉没成本谬误描述为此处的特点，因为英国政府并未根据他们对协和式项目值得追求的确定性来调整其采取行动的动机。 他们的确定性较低，但采取行动的动机很高 。

LessWrong和MIRI

LessWrong是一个围绕理性讨论而建立的社区，该社区之所以兴起，很大程度上是由于Eliezer Yudkowsky的论文系列（“序列”）涉及人类行为，决策理论，伦理学，元伦理学以及最后的人工智能主题。 序列的目的之一是说服读者相信某种功利主义观点，即使是很难直观感觉到的极端情况，也应该合法地遵循。 这些结论之一是，如果我们开发能够学习如何提高自身水平的人工智能，则可能会发现这些程序难以控制的智慧呈指数级增长。 想法是，如果程序的效用函数错误，则通用AI可能最终破坏人类。 功利主义的论点是，即使发生一般性AI的机会很小，而且我们可以抢先弄清楚如何使其安全的机会甚至更少，我们也应该将钱捐给AI安全研究，因为由于AI而终结的世界仍然会产生很大的负期望值，该期望值的优先级应高于大多数慈善机构。

之所以引起这篇文章有趣且与之相关的原因是，您可以将LessWrong视为一次漫长的尝试，以说服我们我们对人工智能安全值得资助的把握很高 ， 因此我们采取行动的动机应该很高 。

内在动机

出于某种原因，我个人喜欢制作可以检查其他软件是否编写正确的软件。 大多数人并不觉得这很有趣，所以我必须咬住我的舌头，这样一来，我就不会无聊地打扰别人。 同样，我有一些朋友确实对住房政策和城市设计感兴趣。 通过在周末进行一些刻苦的努力，我设法稍微发现了一些有趣的话题，但是我感到对于这个话题，我的内心充满了不同的火花。我可以狂欢阅读以娱乐。 我想很多人都有这样的经历：一组使您对某些事情真正感兴趣的个人怪癖，同时还为朋友的怪癖思考“我就是不明白 ”。

我可以谈论Devon的突变测试，也可以谈论SB827。我想我已经与Devon谈论了足够的突变测试，以使她可以肯定地说它是一种被低估的软件分析技术。 同样，德文郡（Devon）有足够的时间与我讨论湾区的住房政策，这使我非常确定我们应该拥有比我们更多的住房。 尽管如此，如果德文郡像我一样花了数百个小时开发有趣的突变测试工具，我会感到惊讶，而如果我像她一样每天开始阅读数小时的住房政策，我会感到惊讶。 换句话说， 我们大大提高了彼此的确定性，但我们采取行动的动机一直保持相对稳定 。