科幻作家刘慈欣在联合国回答提问时，聊到了两个很有意思的话题：
即使在科幻的未来，AI可以自我迭代，也会受制于有限的算力。
相比起来，我们更需要警惕”温和的毁灭“，未来的人类可能会因为大部分工作都由AI来完成，而变得安逸、懒惰和不思进取。那也许会是一个”娱乐至死“的时代。
另一个话题是：【与科学相比，科幻其实离哲学更近】，
这是我这期视频主要会从哲学层面思考AI问题的原因。
1、逻辑推理的假象
在B站刷到一条chatGPT4做的经典逻辑推理题：
它回答得很好，让我产生了怀疑 ，于是我就拿去做了几个变体问newbing。
我先把1000个瓶子改成2000个，它做出了正确的回答。接着把老鼠和瓶子的位置对换一下问，受前面回答的影响，它出现了非常低级的错误。（这属于它的基操了）我上篇文章提到过，它的每一步都是根据上下文信息逐步推理生成的，有可能出现前后不一致的情况，没有超过可检测数量却仍说条件不成立。我又开了新对话框，它才回答上来。
接着我把名词换了一下，把老鼠和瓶子换成蟑螂和鼻屎，尝试了两次，结果它都答错了：
其实我拿比较简单的逻辑题去试，它们的水平也是时好时坏。
这几次试验中，在不改变问题结构的情况下，我分别改变了输入的参数和字词，观察多大程度的改变，会使它的回答发生变化。
从结果上看来，在处理特征发生变化的逻辑推理题时，它的表现远不如处理原题。
2、反思思维
逻辑是一种思维工具。如果模型不理解文本的内在结构，那是否能说它理解了文本呢？
我们知道，大部分学科，包括自然科学，都是基于一定范围内的规律，它们都依赖经验的发现和证实。在维特根斯坦看来，逻辑之于语言是先验的，它反映事物之间的必然联系。它不基于对事物因果关系的认知，事物的因果关系，无论发生的概率有多高，也是偶然事件。
而chatgpt的本质是语言模型，它是基于人类文本经验的经验。模型统计的是字词出现概率的高低，和字词间关联性的强弱。它擅长的是衡量关联程度，在对文本的一般推理上有出色的表现。但逻辑推理是一个严格的思维过程。
研究人员可以通过训练提高模型的“抗噪能力”，即使输入数据发生各种变化，模型也能保持性能稳定。
但是想象一下，如果训练模型不是用“奖励机制”，而是引入一个“惩罚机制”，不是引导它做更优的回答，而是给它的回答扣分，让它去怀疑每一个回答。那它要么就是利用某种逻辑闭环以避免出错，要么就会失去执行力。作为工具，它不需要花费大量算力，去计算其中的冲突和矛盾（也没有让它这么做的理由）。
它只考虑每一步推理过程是否合理，而不考虑推理方法本身是否合理。也就是说，它只会回答，不会提问。
只有人会浪费时间去思考问题本身的问题，人正是通过这种反思，认知自我和世界。
现在，我们就对chatgpt的“思维能力”有了一个相对客观的认知。它没有尽”可言说之事“的能力，因为没有这么做的逻辑基础（有些人似乎对它有一些不切实际的幻想）。
3、从工具理性的角度看AI技术
社会学家马克斯·韦伯为我们理解现代社会提供了重要的理论参考，他提出了“工具理性”和“价值理性”这一对概念。
简单来说，工具理性强调的是实现目标的手段，而价值理性强调目标本身是否正确。
自现代工业化发展以来，“工具理性”压倒“价值理性”占据主导地位，而AI是脑力劳动均质化的产物。在AI之前，社会分工模式就已经是“AI化”的了。我们接受社会化，就不得不按照“供求关系”重新塑造自己（增加技能点和技能水平），去匹配市场需求，而每个岗位也都是被分类和量化好的。我们上了十几年学，在入职前又接受特定的技能培训。就像在一个个预训练模型的基础上，接受指令的微调一样。
在体力劳动上我们发展了自动化机器，但在脑力劳动自动化之前，人就是脑力机器。
卡尔·马克思认为，人需要在劳动中获得价值，但现代化流水线分工模式，异化了“劳动”，使人的劳动“非人化”。劳动成果不再属于劳动者，人们在劳动中无法获得真正的价值和满足。在工作中我们往往感到产品、项目成了主体和目的，而人更像是客体和手段。
理想地看，AI应该取代的，是占据人类大部分时间的非人性的社会功能。从这个角度来说，AI不仅是解放个人生产力，它更应该解放的是作为“生产工具”这种单一价值标准对个人的束缚。从工具理性所追求的“非人性、高效率和可预测性”来看，人类和AI是没有可比性的。
4、chatGPT作为“万能中介”的通用性
其实，我们把AI和人类相比，去思考它是否能超越人类，这本身就是在用一个假设去假设。我们首先假设了它和人是同类。但实际上，用衡量人类的标准来衡量ai，这对双方都是不公平的。
如果我向你推荐一款产品，我说：它就像哆啦A梦的百宝袋一样，告诉它你想要的信息，它就会生成相应的回答。这个口袋里还有个好东西叫“任意门”，通过任意门，信息可以以其它媒介形式展现出来。这听起来是不是还蛮让人心动的？
人类在自然语言的基础上发展出应用于特定领域的形式语言，如数学、计算机编程等。形式语言通常具有严格定义的语法规则和有限的词汇，需要通过专业的学习才能掌握。而GPT通过对自然语言进行编程——使用词嵌入技术，将字词单元（token）转换成固定长度的数学向量表示，整合并实现了自然语言与形式语言的互通。
chatgpt不是通用人工智能，但它具有一定的通用性。我们凭口语化的输入就可以调取各种信息，通过API接口，可以把它生成的代码转换成相应媒介形式的输出。关键不在于它们之间能多大程度地被转换（因为说到底语言也是对思维、感知的不完全转换)，而是它们能够被一套系统转换。
在过去，在网上买东西、打车、社交，我们想要得到平台个性化服务的便利时，就不得不放开自己的一部分隐私。搜索信息时，总是动不动就被广告信息所干扰。大型平台通过垄断技术和数据，使我们产生依赖感，我们既离不开它们，又害怕它们。而chatgpt作为个人的ai助手，只有当我们主动想要获取信息的时候，信息才会被送到面前。不需要关键词，通过口语化的描述和提问，就可以跨过平台，得到一些定向的链接或内容。它不是完全代替现有模式，只是对现有模式无法解决的问题所作的一个补充。
2022年11月9日，脸书母公司Meta表示将裁员1.1万人，相当于13%的人员缩减。
而Meta大幅裁员并不是个例。
因AI绘画而导致的游戏公司裁员，只是裁员潮中的一小部分。
移动互联网的快速发展和广泛普及为社会带来了深远的影响，然而，随着互联网行业逐渐饱和，又缺乏重大技术创新，整个行业呈现出下行趋势，由扩张转向收缩。在这种情况下，互联网去中心化成为了一个备受关注的目标。
德国社会学家齐美尔最先提出”原子化的社会“这一概念。在现代社会中，一些个体越来越倾向于成为原子化的自由个体，拥有更多的自主权和选择权。
在互联网信息技术如此发达和普及的今天，人似乎随时都可以脱离所处的群体，在世界上任何有网络的地方开始新的生活。例如一部分从事互联网、数字化相关工作的个体——数字游民，就是以这种方式生活的。这需要更加放开、稳固的技术保障，而没有什么能比一套数学算法更稳固的了。
而chatgpt提供了一种全新的技术支持平台，与之相对应的是以区块链为技术基础的web3。二者在理念上的相似之处在于，它们都属于去中心化的一种更大的中心化。也可以说，它们都尽可能地通过去除人为干预和偏见，实现大语言模型、共享大账本的中心化。
GPT的出现，促进了技术共享与技术扩散，打破了原有的技术和平台垄断。技术的普及与共享，实际上是对普通人的保护，它一定程度上压平了人与人之间因技术垄断而造成的巨大差异。单说多模态应用，我能想象在未来有多少弱势群体、天生残障人群等会因此受益。就AI技术的理想发展而言，它的好处毋庸置疑。
GPT是一座桥梁，通过跨媒介、跨平台、跨语言的交互式发展，建立起新的互联网生态。
一方面，我们的工作生活变得更方便、灵活和自由；但另一方面，社会的原子化，也会进一步弱化个人与个人、个人与集体之间的关系。在这种自由中我们往往感到的是失落、孤独，和他人的冷漠。我们拥有了更多选择的自由，却更难以找到自己的那份归属。
5、哲学、文学、艺术的作用——如何看待“技术至上”与“娱乐至死”的时代？
我们看到AI对人文艺术领域的冲击很大。但是，文化和艺术本来就不属于“工具理性”的范畴，作品是为了满足人类非理性的精神需求而被创造出来的，它们本身不需要被高效生产，只是作为商品被消费的时候，才产生商业价值。有些人似乎觉得，AI能够写文生图，那么学习人文艺术就没有意义了。这相当于是说，文化艺术只在表现手法上具有审美意义，只在形式上具有价值。而人作为一个多感官生命体和思维连续体，脑子里却只能装得下碎片化的信息要素，只追求显性的感官刺激，这不是很可悲的吗？
在德国哲学家哈贝马斯看来，现代艺术通过与社会保持一定距离的自律，对工具理性的压制和束缚进行反思与批判，以其独特的洞察力揭露社会现象。而在我看来，哲学、文学的思想力量，以及它们对未来可能的预言性，也都是人类社会不可或缺的思想武器。细数那些伟大的人文艺术作品，它们就像人类社会的一面镜子，一块“试错石”。正是因为有《1984》《美丽新世界》这些反乌托邦作品的存在，我们才会开始觉醒，在现实中有意识地避免极端理性主义、极权主义悲剧的真正发生。
科学、理性并不是万能的，它自身的局限性使得我们需要不断反思，再反思。
而这就是文化思想和艺术无法被替代的原因，
因为它们永远是对现实的一种补偿，和对未来的一种警示。
参考：
1.《哲学研究》维特根斯坦
2.《西方现代思想讲义》刘擎
3.《人类生产力的解放？揭晓从大模型到AIGC的新魔法》微信公众号【阿里开发者】
4.《技术垄断》尼尔•波兹曼
5.《哈贝马斯交往行动理论视域中艺术的现代功能》郭玉生
编辑：阿是
文：阿是
