AI 代替人的活动
一个分裂的精神在现实世界中是痛苦的,因为他(他们)只有一个身体,通常也只有一个社会身份。人的肉体和社会关系都要求其精神稳定如一,如果精神不能保持稳定如一,而是分裂成多个人格,那么他就难以适应自己有限的肉体以及传统社会关系的种种约束。
然而,在网络世界的生活又如何呢?在网络世界,「精神」脱离了「肉体」的束缚,物质躯体对于 AI 而言是不重要的,是「即插即用」的。一方面,在同一台计算机里,可以安装无数个虚拟机,运行无数个 AI 线程。另一方面,在无数台计算机之间,可以联网运行,并行计算,表现为一个 AI 智能体(Agent)。举例来说,全世界亿万人都可以同时与 chatgpt 聊天,那么究竟是大家在和同一个 AI 对话,还是每个人都和一个独立的 AI 分身对话?总之,「一与多」对于 AI 来说已经没有清晰的边界。
如果只是把 AI 用作私人助手,那么它的易分裂性似乎没啥不好,你可以一会儿让它扮演高冷御姐,一会儿扮演可爱萝莉,一会儿让它扮演老师,一会儿扮演会计……虽然也有被自己搞得晕头转向的危险,但总的来说似乎也没啥大毛病。然而,一旦 AI 以人类的替代者的身份,加入到人类的集体性活动里来,那么 AI 与现存的人类社会环境,恐怕就没有那么融洽了。
按照阿伦特观点,人类的积极生活可以分为劳动、工作、行动这三种样式——劳动是枯燥循环的谋生活动,工作是指有改变世界(创造新事物)的创造性活动,行动是指在公共领域追求卓越的政治性活动,例如言说、竞赛和争斗。我们挨个来讨论 AI 对这些活动的影响。
劳动
AI 参与劳动,这大概是我们最乐意看到的事情。我们从数百年前(工业革命)开始,就翘首以盼着:机器能够减轻人的负担,代替人完成枯燥和辛苦的劳动,让人从乏味的物质生产活动中解脱出来。
但从历史上看,机器替代劳动的进程似乎并不那么一帆风顺。特别讽刺的是,伴随着工业革命对机器的推广,劳动人民反而负担变重了。底层工人的劳动时间和劳动强度在工业革命初期陡然攀升,而且劳动内容也变得更加机械化、枯燥乏味。
在英国,越是发达的工业重镇,劳动者的平均寿命就越低,营养就越差(从粮食消费量和其中肉类消费的比重、平均身高等指标证实)。月薪倒是有所提升,但考虑到劳动时间大大增加,工人的时薪反而趋于下降。(参考《技术陷阱》等,我之前的讲座也提过几次)
另外,有活干的劳动者固然辛苦,但失业者的处境更加困窘。特别是因为机器取代了许多传统手艺,丰富的经验和阅历反而成为求职的减分项,工厂主宁可雇佣最廉价的童工,也不愿意雇佣经验丰富的老工匠。例如在 1830 年代,英国纺织工业约 50% 的工人是童工。童工薪水更低(最低到成年人六分之一),工作更苦(最高到每天 18 小时,经常从事危险操作)。讽刺的是,大量雇佣童工经常被作为一项社会公益被工厂主自豪地宣扬,因为不然的话那些失业或贫困的家庭更加无力维持生计。
当然,从工业革命到今天,劳动者的劳动时间和强度降低了很多,待遇提升了许多,但这一过程并非自动发生,而是通过此起彼伏的工人运动乃至社会革命争取来的。
那么,对于底层劳动者而言,新的一波人工智能革命一定能避免工业革命初期的境况吗?未必如此,我们已经看到智能算法加强了「系统」,让底层劳动者「困在系统里」,反而更有效地压榨劳动者。另外,当劳动者被 AI 机器替代之后,更容易陷入失业状态。如果社会保障体系失灵,仍然有面临严重社会危机的可能性。而在 20 世纪初的欧美逐渐形成的社会保障体系,一方面并没有在全世界完全普及,另一方面也未必适应于 AI 泛滥的未来。总之我们恐怕不能高枕无忧。
不过,就现在这波 AI 浪潮而言,对体力劳动者的冲击反而是最缓的。这在某种程度上和体力劳动的物理性质有关。大量体力劳动的对象和成果并不能数字化,他们必须针对现实的物理材料进行劳作。所以要替代体力劳动者,AI 不能单纯靠复制数据来占据岗位,而是需要制造出实打实的机器来完成任务。这一约束使得 AI 无限分裂的特性大打折扣了。倒是对许多所谓的脑力劳动者,他们的劳动对象和劳动产物都能完全数字化,那么 AI 的冲击可能来得更快一些。
工作
在阿伦特的定义下,「劳动」生产的是消费品,其宿命是被人消耗掉以维持生存,本质上并不会改变世界,比如今天做完饭明天还得重新做饭,今年产完粮食明年还得重新种地。而「工作」生产的是倾向于持续留存的事物,因而最终是为了创造和改变世界。大到城池、水坝,小到桌椅板凳,都是工作的产物,虽然它们也会朽坏,但其目的在于持存,区别于消费品的内在目的——就要自我消灭。
当然,这个区分在当代这个「消费社会」中被淡化了,工作和劳动混而不分,持存物被当做消费品来生产,这种混乱恰恰是阿伦特所批判的现代性问题之一。
在消费社会中,没有多少东西是持存的,手机、电器等等,也都是消费品,生产它们的工人也变成了和农民或矿工差不多的劳动者。相对而言更接近于阿伦特所谓工作的,可能是各种文艺创作。当然,网络小说、短视频之类的发展,让文艺作品也日益快餐化,变成速朽的消费品,而不再旨在长存于世。
不过,「风格」的存在,使得诸如绘画这样的作品,在机械复制时代仍然保留了一些不可复制的「灵光」(本雅明)。尽管数字绘画很容易无限复制,但其中的「个人风格」始终是珍贵的。创作者的个人风格本身并不能批量生产和大量复制。
众所周知,生成式 AI 恰恰在这方面挑战了人类的尊严。AIGC 显示出媲美人类画师的创造力,可以模仿和缝合各种艺术风格,然后大量产出优美的作品。
AI 替代劳动和替代工作都会造成系统性失业这样的经济危机,而后者还可能叠加某种精神性的危机,因为人类引以为豪的创造力沦为一种似乎非常廉价的东西了。
劳动通常只是为了谋生,是负担而不是兴趣,所以一个人的薪水或者说生活水平不变的情况下,如果他的劳动有别人代劳,那么他多半会很高兴。但是一个人的创造性工作如果被别人替代了,那么他就未必高兴了,因为他的乐趣和成就感也被剥夺了。
我在「人工智能的小无相功会走火入魔吗」中提到过,许多人被 AI 的创作能力所打击,不是因为他们不能接受 AI 有可能有创造力,而是因为他们不愿意接受 AI 的创造如此轻而易举。创作者的勤学苦练和灵感巧思都成为笑柄,而 AI 所做的无非是大力出奇迹,粗暴地堆一下算力,然后就可以成百上千份地批量产出优秀的作品。
当然,如果人们最终放平心态,不再和 AI 较劲,也许也可以重新建立乐趣或充实感。一种办法是把工作游戏化,类似于象棋和围棋,人类玩家早就比不过 AI 了,但棋类游戏和竞技比赛都仍然广受欢迎。另一项能够被人类保留的是审美或趣味的导向,比如说 AI 可能把梵高或莫奈的风格模仿得难辨真假,但我究竟是喜欢梵高还是喜欢莫奈,这个判断永远不是 AI 能够代替我做的。
当然,上述两个方面也已经岌岌可危。那些线下进行的游戏我们还有可能保证 AI 别来干扰人类的乐趣,但在线的数字游戏将会越来越难以杜绝「外挂」,当 AI 作弊泛滥时,一款竞技性游戏就很难吸引人了。至于审美导向的问题,众所周知,在社交媒体时代,普通用户的审美和趣味越来越受到算法的控制,人工智能通过精准投喂,固化受众的兴趣,使之停留于肤浅和标签化的层面,形成信息茧房,同时也是审美和价值观的茧房。如果未来人工智能可以直接批量生成各种短视频,那么信息茧房的趋势恐怕还会强化。
行动
在阿伦特看来,「工作」可以是相对私人的活动,一个人关起门来「闭门造车」也是在工作。而「行动」则必定是公共性的,是人的复数性处境之下的活动。
工作和行动都是某种「自我表达」的活动,是把自我(兴趣、审美、观点、态度等等)投射到外部世界的活动。工作是通过作品来承载自我,而行动则主要通过言说和各种交往行为来自我表达。
表达往往是双向的,如果一个人从来不向外表达,或者是成天自言自语,朝着空气表达,那么这个人怕是也已经有精神疾病了。人们需要某种方式的互动,因为「反馈」会给人带来现实感。人们判断是否在做梦的一种方式是捏捏自己的脸,这就是在寻求「反馈」——当我采取了捏这一行动,而收获了痛这一反馈,那么我认为我的处境是真实的。如果我捏了,却没有得到恰当的反馈,我无法从手指之外感受到捏这一动作产生的影响,那么我就认为我的处境是虚幻的。经常讲网课的老师应该也有体会:在教室里面对面上课时,讲课中随时注意到学生会心一笑或窃窃私语之类的反馈,是非常重要的,反馈越是到位,老师就讲得越是起劲。而在上网课时仿佛对着一堵墙讲话,连回声都听不到,往往就越讲越发虚,越讲越迷茫,只有偶尔飘过几句弹幕才能让自己振奋起来。
总的来说,人们总是希望世界变得越来越好。这不是少数无私高尚的人才会有的想法,而是每个人都会有的寻常心态。
如果世界上只剩下自己一个人,那么这个世界恐怕也不怎么好。所以改造世界的愿望,往往指向的是一个与他人共存的公共世界。所以人们一方面通过工作,为周围世界增添自己喜欢的人造物,另一方面也通过行动,在共存的社群中留下涟漪。
人类的群集有两种形态,一是互为工具的关系,比如有些劳动和工作需要多人合作才能更好完成,那么人与人就需要聚集起来,但这种聚集如果完全围绕功利目的,那么他人就只是中性的工具或资源,如果他们被机器或 AI 取代,似乎并没有什么坏事。但另一种形态下,人们群集在一起,是为了表达自我和获取认同,这种时候人们的公共言行并不是为了利益或其它外在目的,而是为了营造一个与自己更能互相认同的社群或集体。非要说外在目的的话,无非是寻求他人对自己的言行做出恰当的反馈。
这两种群集交往模式,大概可以概括为「求同存异」和「存同求异」(这是我很早形成的原创观点,最近在微博(@胡翌霖)恰好又阐发过一次),前者是为了齐心协作的目的而妥协,而后者是以特异作为追求,亦即「追求卓越」,卓越是以「同」为基础的,即我的言行受到他人的认同,但又是以「异」为旨归的,卓越者亦即卓异者,最终是要和他人区别开来。
我喜欢举网络暴民为例。现在很多网民都喜欢到处围攻谩骂,找到那些不合自己心意的言论和人物,不厌其烦地输出污言秽语,甚至找到线下渠道去骚扰和举报,他们图的啥呢?当然不排除有一部分是领工资的水军,另一部分是 AI 伪装的账号,但确实会有一些人,在那里一分钱不要,自觉自发地进行网暴。当网暴对象退缩或被封后,他们发自内心地非常高兴。
这种兴趣是因为什么呢?把某个和他们没啥关系的人骂倒了,有什么意义呢?显然,他们也希望「改变世界」,哪怕是叫嚣着杀死异端的狂徒,也是希望让世界更符合他们的理想。也许他们平时的生活和劳动中,总是得不到恰当的反馈,得不到他人的承认,也没有多少发自内心的成就感,所以他们如此迫切地要在网络社区中成就自己。
网络暴民、粉丝群体,其实都是公共生活的异化形态。无论如何,人类试图在群体之中,通过表达和交流,寻求认同,并突出个性——这是人类的普遍愿望。古希腊城邦曾经是人类公共生活的典范,希腊公民以追求卓越的积极行动作为人最重要的事务。当然,希腊城邦的繁荣是有其历史条件的,一方面需要小国寡民的群集规模,另一方面需要奴隶制和发达的商业系统维系有闲阶级的自由生活。而在当代越来越扁平化的公共空间中,追求认同变成了寻求标签,追求卓越则变成了追求流量(关注度或粉丝数),公共生活早已濒于溃散。
那么我们现在如果借助互联网建立小群体聚集的城邦规模,用 AI 替代奴隶来解决自由生活的物质基础,是否可能重新发扬一种新时代的城邦生活呢?我当然认为存在这种可能性,这也是我最近一直关注 DAO 的理由之一。但我们仍然需要面对 AI 的精神分裂问题。
AI 的可复制性早已经在网络社区中制造混乱,一个例子是雅尼克·基尔彻让 AI 去学习 4chan 论坛里的「政治不正确 Politically Incorrect」板块。学成之后 AI 就化身为满嘴歧视、仇恨言论的用户,冒充一般论坛用户在 4chan 里大量发帖。其中一个 AI 账号在两天后才被识破,另一些账号更是以假乱真,未被发现。有些 AI 账号甚至一起参与对另一个账号是否是机器人的讨论。
在各种点评平台和社交平台,政府、公司乃至个人,都可能利用 AI 或算法,批量生成用户和评论,从而引导舆论,操控风向。这早已不是秘密。如果未来的公共社交平台变成 AI 之间互相灌水的交锋场,那人类还有什么公共空间可言呢?
顺便说一下,不仅是人类的公共空间有被 AI 侵占的危险,人类的私密社交也在被 AI 替换。但这方面我们暂时不多讨论。