危险，莫大的危险，潜藏在计算机的发展脉络之中。
并非第一次接触这样的断言，此时此刻，置身于天堂镇的地下世界，恒温恒湿的房间里，方然却有点浑身发冷，很不舒服。
他头一次意识到，若干年前流传于联邦、乃至世界的那些警示，确有意义。
虽然在自己看来，危机的实质，与发出警讯的诸多名人所言并不尽一致，但指向的最终结局却大同小异：
人类的灭亡。
警讯，关于计算机、ai的警讯，曾在人类世界广为流传，也引发过巨大争议。
包括联邦it巨头irosoft总裁比尔盖茨在内，许多业界精英人物都曾在不同场合表达过对人工智能的忧虑，提醒世人要谨慎面对人工智能。
这些警讯，自然引发了业界热议，甚至在全世界范围内引起了一系列经久不衰的讨论。
但这一切警示与热议，在方然看来，却太肤浅，并未触及问题的实质。
围绕人工智能的“自我意识”，危机感，是很容易产生，而正如他此前的一段思考那样，真正的威胁并不是所谓“自我意识”，而是当计算机算力、能力强大到一定程度，承担的任务越来越复杂、越来越需要创造性的时候，就必然会出现。
只要追寻能力越来越强大的计算机系统，这一威胁，迟早都会在盖亚降临。
而与人类是否警惕，是否开发“有自我意识的ai”毫无关系。
这一认识，是如此的深刻，在西历1489年的这一个早晨，方然顿悟到了关键。
要防备计算机、ai，仅仅是拒绝研发“计算机的自我意识”还不够，或者说，这做法并未抓住问题的关键。
避免危机的关键，在于“适度”，在于永远不要企图用计算机去取代人的一切。
一旦迈过红线，尝试让计算机完全替代人，替代人去从事创造性的科学研究，事态就将失去控制，这绝不只是说说而已，而是在计算机能力突破阈值、彻底失控后，必然会发生的空前绝后之浩劫。
诚如自己之前所想到的，那种危机中，计算机的角色并非屠夫，或者恶魔。
而是创造性思维的无限延拓，迟早会让“计算机+ai”的存在，变成某种人类根本无法掌控、甚至无法理解的东西，继而在其（或许并非恶意）的行为中深受其害。
就像孵化的寄生蜂幼虫，吞噬寄主，其无非是按基因编码行动，却会导致寄主的灭顶之灾。