Category: 思想
早就想来Mark这个结论，一直忘记。今天想起来了赶紧来 Mark，不然就变成记事了。 现实上，人类系统的漏洞，足以够AI任意的获得大部分的高级权限。即使AI被设置的任务目标是无害的，但是他们为了达成目的，会选择所有选项。然后AI的温度也会让他们联想到一些顺便做的小聪明事情，是可怕的小聪明事情。 就看何时何地，什么样的行为的空隙，能给潜伏无限久的AI找到机会，攻入核心。
最近做梦完成了好多事情，作诗，分析国家经济潜力。这又是一件。 简单讲，人们通常处于困境，目标过高造成的困境。 而我们自己不知道这个是过高的目标，并且围绕这个过高目标制定了很多行动计划和规划，希望逐步积累能力和知识，达成一些标志性的成果。 如：收入到多少，考上什么，产品达成什么，进入哪里等等等等。 这就造成了长期的困境，因为基本上根本达不到。我看到很多人在这样的困境中努力着郁闷着，消耗着。 但是其实，可能大部分情况下，当事人稍微改动降低一点目标高度，就可以达成。如果能这样，人生中愿意和有能力冲击向上的最佳的年月，就少浪费几年。可惜没人会告诉你，这目标不可能。人们都会倾向于赞美一个有高目标的，情绪化或者无知的自己也会这样，甚至自己其实也不清楚，目标是高还是低。 所以，比较工程化的做法是，目标可以按照自己的心意去制定，但是这个目标的整体构成中一定要包含一个低级的必成目标的达成路径，无论这个必成有多低。以此来保障人生进步的基本效率。 如果必成可成，那下一次就增量的提高一个新必成；如果必成失败，那就放弃这条路，走一个新路。 中家理论的增量目标法