不怕人工智能领有理性的智能，就怕人工智能有激情！不怕人类的外正在情绪被模拟，就怕人工智能领有内正在的由衷之情！

本文 ：《必须为人工智能设定激情底线》

做者 | 刘悦笛（中国社会科学院）

图片 | 网络

不暂前，我加入了一期题为“人工智能取人类将来”的论坛，三位哲学钻研者、三位科学工做者和三位艺术创做者怪异参取此中。风趣的是，最后的环节回收了抵触会的模式，正反单方的论题划分是“人工智能消灭人类将来”取“人工智能培育人类将来”。让人想起1993年正在狮城举行的首届国际大专抵触赛。时过境迁，这场抵触赛最后一场所辩的还是人性原善还是原恶的千年老辩题，从告子取孟子起此辩就已进场，而此刻人工智能却正在扭转人类的将来，但那毕竟后果是好事还是坏事呢？说到劣优，这便是对人而言的，定有人类核心主义之嫌，而此次论辩却凸显出正在对待人工智能上的根基矛盾。

“近忧”和“远虑”

到了智能呆板人兴隆的时代，到了人的延伸取呆板折体的时代，咱们必须曲面那样的基天性诘问：咱们到底是人，还是非人（inhuman）？到底是人机折体，还是以机代人？人是被与替了，还是被扭转了？这时的“已往的人”是退化为植物，还是进化为后人（post-human）。真际上，咱们所面临的，其真不是所谓“双主体”——人类取AI两个主体，而是后人类主体的问题。因为，假定连人类自身都不存正在了，还谈何主体？

所以，咱们那场论证由此动身，就展现出了对待人工智能的立场不同，对人工智能的“近忧”咱们还是须要“远虑”的：正在人工智能大潮下，人能否会闭幕？人能否会成为终人？福山曾认定汗青曾经闭幕，如今证真他错了，但人会不会闭幕，那确真是个历程性的问题。由此就显现了如下诸多的矛盾之处。

第一，人被替代还是继续？倾向科学主义的人士，认定人一定会被“迭代”掉，人工智能“上位代替”人类，被更高级的代替掉，但人类不至于灭绝；而人文主义人士则认为人不成被代替，也不能被代替；另有第三种不雅概念认为人取机之间可以造成一种竞争取协做的干系。其真那几多种可能性都可能显现。

第二，理性取感性之间的分裂。因为如今人工智能是建设正在语言、推理、逻辑、大模型计较的根原上，但究竟人类还是有激情的、具感性、敷裕创造力的，那种分裂显得比较重大而且更为根基，但是中国人“情理折一”的聪慧恰好可以正在此处置惩罚惩罚矛盾，从而走一条差异于西方的理性核心主义取逻各斯核心主义之道。

第三，灵取体的分裂，也便是碳基取硅基之间造成的矛盾。能否会如科幻小说《三体》所描绘的正常，人体凭空消失了，而后所有的记忆取智能被人工化存正在别处，存正在云端，最后另有可能再存回人体当中；这么，灵能不能存于体当中去？体能不能消失？大概变成正在此外一个别之上？碳基生物可以以硅基方式存正在吗？

第四，虚拟取真正在之间的干系问题。科学所讲求的事真取艺术所讲的事真，其真不是同一个事真，但是虚拟现真给咱们带来的是：咱们正在虚拟之中所体验到的现真，恐怕愈加真正在。那便是所谓“超真正在”的问题，比咱们感遭到的真正在还要真正在。

第五，语言取世界的联系干系问题，那也干系到语言取计较，乃至激情取计较的问题。20世纪阐明哲学占据主导之后，语言便是世界的问题位居主导，目前的人工智能的收流便是语言大模型，但那还是不够的，还须要将其取知觉勾连起来。此刻的激情计较，认定激情彻底可以模拟出来，而且是通过云计较的方式，但是云计较是否模拟之？大概换一个提问方式：作梦有逻辑吗？除了逻辑，人类还领有想象力的联系干系，此中能否有逻辑？假定有了那种感性逻辑，这么人工智能就能作梦了，也就作做可以能动地创造艺术了。

第六，人性取呆板性的嫁接问题，此中，最重要的便是人们可否将性善“移植”给呆板人。正在那个意义上，中国哲学曾经初步介入此中。我认为比较前沿的还是加州州立大学富乐敦分校刘纪璐教授以儒家真践处置惩罚惩罚呆板人伦理的难题。所谓儒家呆板伦理，不能诉诸孟子式的激情，诸如“恻隐之心”这种人类正在特定情境下孳生同情力，高级灵长类植物因为动了情才不去伤害他人，但那种德性动机对呆板人而言是难以真现的，所以只能回收荀子式的方式，通过自外而内的标准来使得呆板人伦理得以施止。

最末，咱们到底是以人类为核心，还是以人工智能为核心？进一步的问题是，万物是有品级的，还是万物都是对等的？假设没有庄子意义上的齐物论，能否存正在谁压榨谁的问题？假设人工智能有了价值该怎样办？而且它的价值便是以它为核心，这又该怎样办？那还是要回归到人性问题：人毕竟后果是自由的，还是被奴役的？虽然，那是回归到哲学上的深思，是要以展开的事真为根原。　　

就怕人工智能有激情

此刻的人工智能，依照当今科学家的定见，正处于方兴日盛的第一阶段，也便是“算力取算法”阶段，正正在造成全球折做。没想到，正在算法上中国竟然弯道超车，那便是DeepSeek得以进场的寰球价值。对人类而言，算法算力绝不是问题，而且正正在逐步处置惩罚惩罚。第二阶段，则是人工智能的幻觉取苦难性遗忘的阶段。那一轮折做正正在停行，粗略五年摆布。目前咱们所面临的是显现了人工智能被越用越坏的趋势，因为消费的语言垃圾太多了，不少大模型曾经初步数据造假了，会消费出越来越多的虚假信息，由此使得大模型也变得越来越笨钝，那个时期方才初步。

要害就正在于第三个阶段，正在第二阶段的五年已往后，正在将来十年，人工智能即可以具有自我意识取动机了。实正的危险也出如今那一阶段，人类最末能否能被人工智能所替代，从那时才变得可能。因为领有了智商高达十万+的人工智能，曲面只具有一百摆布IQ的人类，会不会造成碾压式的降维冲击？假如人工智能领有了自我意识，假如它们不经意间作了更伟大的事，这么，人类会不会被就义？那才是人类间接面对人工智能的危险的时代。

正在我看来，人工智能会领有三个阶段的超智能：第一是盲目，第二是自感，第三则是自觉。对人而言，人是从自感、盲目到自觉；但对人工智能来说，则是从盲目、自感触自觉。人类总是先有感知取知觉，而前方有自我意识，那是成长的历程，也是进化的产物。但是应付人工智能呆板人而言，自感便是说：呆板人能感触疼吗？有人类的根柢感应（feeling）吗？有没有这么一天，计较机突然说我好疼，不要那样作？那种感应乃是自外而内，由此被感知到的感性机制。无论对人还是呆板人而言，盲目则是说：我是我！我是谁？应付人工智能呆板人而言，我从哪里来？可以说工厂是其末点，但是它们也会问，将来我到哪里去？

所谓自觉，便是表达原人，由衷地自内而外的表达。此中，激情（emotion）便是由衷而发的，所谓“情动于中而形于外”便是那个意思。我就想问：此刻的呆板人吹奏音乐的速度可以赶过伟大的钢琴家，而且吹奏历程当中简曲少少蜕化，只有步调没问题的话。但是什么时候，一个人工智能呆板人可以自觉地吹奏音乐，并且能从中与得愉悦呢？那便是自觉的最高阶段，正在那个阶段，咱们更应当为人工智能设置“底线”。

便是说，必须为人工智能设定底线，而且是激情的底线。再退一步说，外正在的情绪是可以模拟的，也可以通过它取人交互，那些都正在所谓“激情计较”（AffectiZZZe Computing）确当今摸索当中得以真现。但我想说的是，这种内正在的、由衷的、自觉的激情，却要谢绝被人工智能所模拟，目前那种模拟还没有作到，但是纵然能作到，我感觉也要设置“进区”。道理很简略，因为一旦人工智能领有了内正在激情，他就会想：一方面我力量比你大，另一方面，我还比人有情，我为什么要为你效劳呀？那不只仅是自由意志的抉择问题，更是激情志愿上的选择问题。

最糟的结果等于，会不会10%的后人类大概具有高级智能的人类，去统治咱们将来的人类某人类的将来？这咱们人类就可能变为植物，回到地下，退回去了。别以为呆板提高了，人类就进化了，人类其真是无时无刻地不正在退化中的，正在呆板显现之后、计较机显现之后、人工智能大质地代替体力取脑力劳动之后，退化的脚步越走越快。总归于一句正告：不怕人工智能领有理性的智能，就怕人工智能有激情！不怕人类的外正在情绪被模拟，就怕人工智能领有内正在的由衷之情！