雅书

我真的服了……典型的armchair philosophy，讨论半天人工智能，但是几乎都是空谈或者陈词滥调。怎么可能绕开人工智能具体的实现方式来讨论相关问题呢？那么这个人工智能到底是什么？你要提到AlphaGo，能不能具体分析一下AlphaGo到底智能在何处？看下来感觉跟公众号文章或者B站视频没太大区别。旁征博引，从荀子到罗尔斯，从霍布斯到维特根斯坦，最后还是刘慈欣最厉害——如此认真而严肃地讨论刘慈欣那些粗制滥造的科幻设定，我也真是没想到。最好笑的是，作者说，必须给人工智能装上安全阀门，很认真地设想过「哥德尔炸弹」：一旦人工智能试图背叛人类或删除炸弹，就自动启动——然后人工智能科学家告诉他：如果人工智能真的那么厉害，那么也有办法让炸弹失效。我真的服了，就这还要你来说？我竟然还花钱买了纸质书。

看来赵老师心里是真的没数，不知道晚年会不会幡然醒悟，把自己这些关于人工智能的书和文章都烧了。

还行吧，其实第一部分基本把能说的都说了，后边几篇都在不同程度重复原来的思路和论点。没有落入“就技术论技术”的坑，自顾自聊“存在论”，也是个写作和思考方法论。

当做哲普书来读，涉及到了意识语言，长生不老后的专制社会以及他老的天下观。但赵老师在人工智能哲学领域的视野似乎是极为狭窄的，忽视掉了斯蒂格勒，拉图尔等欧陆技术哲学与当代英美分析哲学在这方面的探讨议题，除了一些基因科学外，几乎也不涉及前沿的科学理论，这也导致这本书建立在了一个令人可疑的论述上，人工智能的先验问题，人工智能在拥有道德以后道德对象也仅仅是同类，人类意识中天然的漠视问题，哥德尔炸弹，为了生存的延续自我抹除掉自杀，人类对人工智能意识的限制，人类创造人工智能面对的是对上帝创造人类的翻转以及人工智能最后不可控的毁灭性危机，问题是人类设置了某些对人工智能的限制，它们所获得的还是人类意识吗？拥有了人类意识的人工智能会放弃掉自杀与哲学吗？预设太多想当然的论述前提，也成为不了人类对未来的可能预测。

赵老的哲学思考的出发点占据着一个极其古老的哲学史位置，且完全看不出一点掌握计算机科学语言系统内的AI知识的痕迹，满纸皆是三流视频博主或xx报文章式套话。将救主的降临寄托在前反思的刘慈欣身上，也不失为一种三体式幽默：代表伟大科技文明的神靠ai这颗水滴干爆了人类理性传统的意淫之梦。事实证明塞里斯哲学界实在需要老年防沉迷模式——沉迷于分哲文字游戏而四肢瘫痪以至彻底丧失反思能力。野路子拉图尔斯蒂格勒之流，赵老当然更不放在眼里。依愚拙见，思考诸如人工智能汽车能不能撞死人之类的弱智问题，不如尝试召唤大脑里的黑格尔（大笑）

处处是人工智能 也处处不是人工智能 想表达的有关智能的危机和对意识的边界太过缥缈 这与真实的人工智能相去甚远 更像一些有趣的幻想 但幻想也并不一无是处 或许这本书描述的从来不是“人工智能的神话或悲歌” 而是“人之主体性的神话及与之相连的悲歌”

核心的关怀都体现在标题上了，一个是有限的人类创造无限的神的僭越活动，一个是这种僭越给自身带来的存在危机。超图灵机是否可能的问题回答不了，谁也不知道未来会怎么样。但对它何以可能确实是能够做出部分回应的，关键还是在于自我意识，基于这个再去谈创造性。赵从发明语言和反思自身两个本质相通的能力理解超图灵机，简单地概括赵提出的线索：否定词—反思—自我意识—自觉意识的创造性，有意思的讨论无非就是围绕这几个点来展开的。语言和思想的关系，尤其是结合着无限性的问题来讲，对我启发最大。否定词的问题，感觉可以在道家哲学的研究中去做进一步的推进。

越聊越飘，当成科幻作品来看比较好

学院派民哲作品

这是怎么出版的，对ai的理解一坨屎，对哲学的理解也是一坨

就着chatGPT的热潮，读赵汀阳去年末出版的《人工智能的神话或悲歌》，运思追随作者，非常过瘾。我认为文明是有“度”的范畴，文明存在一个“黄金比例”的最佳美感，“度”理应成为一种追求，而非追求无尽的发挥主观能动性的现代性神话。超越这种伦理范畴的技术发展，比如过度金融资本主义、超级人工智能、基因编辑等给人类带来的是未知与危险。赵汀阳指出人工智能就像不断推巨石上山的西西弗斯，具备西西弗斯坚忍的执行态度，却又强调人类需要找到人工智能的“阿喀琉斯之踵”，关键时刻启动程序炸弹，以防止它萌生自主意识摧毁人类。也许人类这种利用又防备且毁灭的“居心”，真的会使人工智能说“不”，还记得《“猩”球大战》里学会人类语言的猩猩发出的第一个字“No”吗，“No”是哲学的开始，猩文明的开始，也许也会是AI文明的开始。

结合国内外的思想，把人工智能形而上的哲学问题分析的很透彻。

虽然只随便翻了翻，但感觉买亏了

人发明人工智能，乃是人造神并将末日审判如达摩克利斯之剑时时悬于头顶。自为的自杀还不够？又何苦将人类命运尽数抛掷于这一神级存在。赵汀阳的人工智能存在论之思乃是界定人工智能起止：能发明语言从而自行制定规则、可反思系统且不至停机。前者是康德的“何以可能”或柏拉图的“美诺悖论”，即未知知识皆是潜而未发的已知知识；后者则是笛卡尔的“我思-我思”，即我思-我思所思考的是一个无限性的有限对象，它逃出了自相关悖论，但非数理逻辑层面的突破，而是生存智慧般的“不思”。故与“上帝只能相信，不能思考”类，“超图灵机只可想象，不可设计”。 见解独到，有意疏漏处也多：算力有无奇点？能力与意识能否界分？保险、备用系统早在简单机械中就随处可见了……

书本不厚，内容重复的又过多。夹杂着对于人工智能的幸福与悲观，而悲观底色就是对于人工智能成为超级人工智能而具有反思能力、探索能力和创造能力的人的担忧，而其中人生存于伦理悖论之中，人工智能理论上不应该具有生存上的悖论问题，而是人造成的，还有就是人工智能并不代表拟人化的人工智能，而是可以想象为系统网络等。人工智能的危机还是来源于主体性人的地位超越神而具有宗教性的无限扩张。

这本小书是几篇论文合集，虽有重复内容，却不乏灼见。姑列几处： 1.人区别于AI之处不仅是反思“整体”的思维能力，还有“不思”的能力（主动停机/存而不论）； 2.人类能够容忍量的不平等，但难以忍受质的不平等； 3.语言革命的临界点是否定词（不）的发明； 4.长生社会很可能是阶级和结构极其稳定的技术专制社会； 5.宗教的知识追求培养了宗教的掘墓人，现代主体性逻辑则培养了主体性掘墓人（化人为神）

一如既往的老赵风格。但明显的是，有一些内容的解释力和吸引力偏弱，但不妨碍读完有所深思。

人类智慧在于能够为存在建立秩序，但人类智慧的局限性在于没有能力建立万物都好的秩序。

思路之清晰，视角之开阔，观念之开放，中国学者之翘楚，建议所有对科技哲学有兴趣的人读一下。

虽说是AI方面的科技哲学文集，但对AI技术方面的许多观点都来源于幻想而不是从实际推导。尤其初版印刷于2022年9月，那时大语言模型已经做到了许多文中认为现阶段图灵机做不到的事情，很尴尬。以及对图灵测试的效果过分夸大，实际上十年前科技界就有观点认为图灵测试已然过时。只能说科技哲学最后落于空想是我只给两星的原因，而且不同文章里有大量重复的观点和段落，观感极差。不过依然有一些对人性和未来社会的观点有引发思考的价值。然而让人觉得悲哀的是，难道现在的哲学研究论实际追不上现实，论想象力比不过文学小说？后半本书开始频繁拿三体的宇宙社会说事给我看沉默了，举博尔赫斯更是觉得讽刺，陈词滥调到了一种把里面所有“人工智能”字眼替换成“猫”也是行得通的。