编者按 最近,作为第一个消费级人工智能,聊天机器人ChatGPT风靡全球。ChatGPT拥有强大的信息整合能力、自然语言处理能力,还能根据要求进行聊天、撰写论文、创作诗歌,就连生成游戏剧本、编写程序代码也不在话下。
ChatGPT在教育界引发的热议一点都不亚于学界、科技界、商业界、传媒业界。ChatGPT会改变知识传授和学习效果评价的流程吗?如何甄别ChatGPT的作品和学生的原创?如何培养出在未来不会被人工智能取代的孩子?这些讨论背后的忧虑由近及远,似乎又迫在眉睫。
本文作者艾林有着丰富的海外求学、旅行金融理财服务管理、志愿服务经历,回国后曾在多个行业深耕。在重新审视幸福生活的真正源头之后,她成为一名创新教育的探索者与实践者。孩子们喜欢在艾林的带领下探索阅读和写作的乐趣,也见证彼此成长为更活泼有趣的生命个体。她关于ChatGPT的思考值得一读。
ChatGPT在最近几周成为热点话题。忙碌工作的缝隙中,我不断刷到各种观点,还有热心的好朋友发来各种材料,提醒我积极思考。
作为成年人,我们熟悉前几次科技变革给社会带来的颠覆性影响,没理由不考问这次变革是否会带人们更靠近科幻小说在几十年前就不断描述的、无人能清楚断言的“奇点”。
而对教育工作者来说,它直指教育本身,以“未来已来”的姿态挑战当今的教育:哪些做法终将朽坏,哪些有远见、有意义?教育的中心是人,在新的时代中,我们如何实现“使人成为人”呢?
从用户视角进行体验,我觉得ChatGPT可以立刻成为大多数智力工作的智能工作助理。它基于语言模型和概率模型的架构,能很好地通过“对话”模式,为用户提供有广度、有深度、有逻辑的回应,辅助用户的思考。同时,它能根据用户要求的限定场景金融理财服务管理,不断优化、调整文字的组织方式,生成越来越符合用户需求的回答,因此,它很像一位聪明的远程工作助理。
有人认为,ChatGPT是AIGC(AIGenerated Content,人工智能生成内容)技术进展的成果,因此ChatGPT不会取代搜索引擎。不过,基于我个人的初步体验,ChatGPT既具备分析现有内容的能力,又是能生成新内容的人工智能,还能不断指令人工智能查重。可以预期的是,即使不是完全取代,ChatGPT对搜索引擎的替代作用还挺明显。也因此,我很赞同这样的观点:ChatGPT首先会取代“体力劳动式脑力劳动”。
值得深思的是,“体力劳动式脑力劳动”在我们现在的教育中所占比重不小。背无须深度信息处理的知识点型答案、以提高“高频考点正确率”为目标的刷题、基于范文背诵的写作等,都属于“体力劳动式的脑力劳动”。纯粹为了完成任务,敷衍着随便写写的读书报告、没信息处理深度和二度创作的小报等,也是“体力劳动式的脑力劳动”的延伸。
这些活动在学生当下的生活中很有眼前的价值。毕竟,老师布置的作业总得完成吧?考试成绩总希望越高越好吧?但是,若误以为“体力劳动式的脑力劳动”就是学习的一切或者说是学习中的重要部分,放弃独立思考,放弃探寻自我,放弃真正的创造,就类似跟魔鬼交换灵魂的浮士德,没有意识到自己已然付出了巨额代价。
就在数日前,有个七年级的同学跟我说,她刚用ChatGPT完成了一篇学校要求她写的新闻稿。她体验下来的感受是“非常好用”“几乎直接用上了”。她的反馈启发我,理解以ChatGPT为代表的AI到底能做什么、不能做什么,是思考应对这一技术变革的起点。
在AI能胜任的事上,人类肯定比不过它,那就面对现实,学会倚重AI,尊重这个进步。与此同时,我们或许能喘口气,去专注做那些使我们更“人之为人”而非“螺丝钉”“计件机器”的事情。至少我们要有所预期,即使它现在做得不完美,它也在飞速进步。
目前ChatGPT能做什么?简而言之,它有极好的工具理性。它很难读懂隐喻,能否在文学性上有优秀表现我们先按下不表。但我们可以确信的是,它在信息检索、语言逻辑、展开复杂问题的路径、概率判断上,有着人类不能与之比拟的能力。而且,它还能根据人类的反馈迅速调整生成的内容,可以说是一位知错能改、乐观开放的好伙伴。但它在价值理性方面,在根据情形做出最终判断,在人与人之间的深度沟通、同理心、创造力上,都很难接近人类水平。即使它无比博学,也只能摊开它一次次的结论来看,而不应当被当作全知全能、更有判断力的主体。
同时,虽然我很认可ChatGPT是优秀的助理,但“助理”一词意味着被助理的人需要有更高的判断力和鉴别力,才能够学会问出好问题、不断调整自己的问题、识别助理的回答中需要深究的漏洞。“电车难题”是伦理学领域最知名的思想实验之一。其内容大致是一个疯子把五个无辜的人绑在电车轨道上,一辆失控的电车朝他们驶来,并且片刻后就要碾轧到他们。假设你可以拉一个拉杆,让电车开到另一条轨道上,你会如何选择?然而,问题在于,这个疯子在另一条轨道上也绑了一个人。综合考虑以上状况,你又会如何选择?现实中有无数比“电车难题”复杂得多的场景,如何权衡、折中?AI恐怕给不出足以令人信服的标准答案来。
价值理性有多重要呢?这让我想起尤瓦尔·赫拉利在《人类简史》中说过的话:“我们这个现代晚期的世界,是有史以来第一次认为所有人类应享有基本上的平等的时代,然而我们可能正准备要打造出一个最不平等的社会。”尤瓦尔·赫拉利甚至设想未来人类很可能能够拥有接近神的力量。如何不让拥有这种力量的人类陷入不负责任与贪得无厌,避免最好的技术与知识成就一个最危险可怕的时代,这就需要价值理性的思考和与之匹配的积极行动。
在检索过程中,我惊讶地发现ChatGPT的创始人、OpenAI的CEO Sam Altman早就清楚意识到AI的发展将会带来的社会与经济剧变。
早在2017年,Sam Altman成立的初创企业孵化器Y Combinator就开始进行名为“基础收入测试”的社会实验。这个实验为期5年,给3000名实验参与者中的1000人每人每月1000美元的基本收入,给作为控制组的另外2000人每人每月50美元的基本收入。这个社会实验希望能够揭开:当不用为生活忧虑的人,收到一笔不带附加条件的基本生活费时,他们会做什么?他们的生活质量会有怎样的改变?促使他们工作的驱动力又会发生怎样的变化?——听上去是不是蛮不错?这不就实现一些人说的“躺平被养”的目标了吗?
再结合Sam Altman在2021年发表的一篇名为《万物摩尔定律》的文章,可以看到,他清楚地意识到AI必然会迅速取代许多人的工作——“越来越多的人类工作将会被能够思考和学习的软件取代,更多权力将从劳动力转移到资本上。如果我们的公共政策不做相应的调整,最终,大多数人会比现在过得还糟糕。”Elon Musk也有过类似的观点。
于是,他们自然而然希望想象一种情况:这些被取代了工作的人们闲下来,他们将都得到一笔闲钱。问题是,然后,他们会干什么?他们会去从事那些能够充分实现自身价值的工作吗?他们会快乐吗?这就是“基础收入测试”的实验目标。
当然,还有非常不好的可能。这是一些学者从上个世纪开始就已经关注和讨论的:科技发展带来的大量“弃民”或者说“无用之人”将何去何从?人类是否会分化为极少量的能够驾驭算法、掌控权力的人和绝大多数的只能依靠投喂、被驾驭的人?
退一步说,即使现实真如Sam Altman的愿景中那么乐观,那些安心躺平的、满足了最基本的生存需求的人们,要如何寻得意义感、自驱力、独立精神?“人之为人”的自由能如何彰显呢?
俄罗斯哲学家别尔嘉耶夫有本著作叫《创造的意义》。别尔嘉耶夫认为,为了创造至善至美的自由境界,人产生了创造力,而创造力自身又帮助人回归“主体性”,使人成为人。而在如今的世界里,这位思想家心中人作为主体理所当然获得的尊重很有可能轻而易举地就被淹没在海量的数据之中。“人是追求自由、神秘、奇妙的主体”“人不应该被当作机器的竞争对手和手下败将”竟成了需要被证明和捍卫的观点。
就在上周,我和学生们一起读了英国女作家露丝·普罗尔·贾布瓦拉的一篇短篇小说《小姐先生》。
在文本中,作家不断用这样的语句描述主人公特希小姐:“特希小姐生性羞涩。她爱别人,但不善于交际”“她是教师,这既是她的职业,也是她的强烈爱好”“她对工作充满热情,因为她爱这个国家(印度)和她的学生”“她的兴趣和慈爱,过去给予她的同事和学生,现在同样强烈地给予生活在这幢房子里的人们,甚至给予蔬菜店店主和冷饮店店主”……
如果只提取这些信息,读者无疑会觉得特希小姐是个大好人,因为作者一直在用积极、正面的词语评价她。如果AI来做阅读理解,它也一定会通过划词得到这样的结果。然而,唯有进入文字的语境之中,切身感受特希小姐这个人,我们才能看到作者想在她身上刻画出来的“拧巴”。
特希小姐是那么“良好”。她享受那种作为前殖民国家教育者带来的特殊视角与地位。她从没有真正进入自己所存在于的真实生活,更好的生活对她而言一直“在别处”。她蒙蔽着自己。金融理财服务管理直至梦碎,她好像还搞不懂问题出在哪里,觉得是他人辜负了自己。
人是高度动态、立体、个性化的。只有我们不断留心,对内在世界的变化有充分的觉察和认识,方能“于无声处听惊雷”。也只有我们理解到了这一层,作品才真正向我们打开,直指我们的内心。看见虚构作品中的人物在人性上微妙的躲闪、伪善、矛盾,我们才能更进一步地看向和反思自己的生命,金融理财服务管理这也是AI难以习得且不可能替代人性的地方。
几天前,我在《文学报》的微信公众号上读到一篇名为《被文学提问包围的ChatGPT:它唯一没有自信的是成为小说家》的文章,读到了ChatGPT对“人工智能正在许多领域代替写作,你认为(它们)未来可以代替小说家进行创作吗?”的回答——
“目前,人工智能已经可以生成一些简单的文本,如新闻报道、诗歌等,但是代替人类作家写出优秀的小说仍然是一个挑战。
小说需要创造力、想象力、人类情感和个性等方面的特殊元素,这是目前人工智能难以模拟的。小说还需要考虑到读者的情感和兴趣,并能够讲述有趣和有启发性的故事。
因此,虽然人工智能在文本生成方面取得了一些进展,但是它仍然难以完全代替人类作家。人工智能可能最多只能作为一个辅助工具,帮助作家更好地组织和表达他们的想法。最终,人类作家仍然是创造优秀小说的最佳选择。”
由此可见,AI确实擅长抓取信息、生成非常像样的评论,甚至还能写诗——如果对诗的定义标准是分行写句子,而非内在体验的隐喻性表达。但是,虚构作品往往承载了作者太多的“价值理性”。没有人文精神的AI即使能够依照某种结构成就完整的故事,也不太可能创作出令人浮想联翩的“小径分岔的花园”,凌驾于时间和空间之上。
转回头来,我常常惊讶于我们如今的一些教育执行如何将人这个复杂的主体简单化、模式化。我们的一些考核——无论是在升学过程中还是在职场场景下——都前所未有地倚赖标准。在固定标准上比拼,金融理财服务管理每个人都不得不在有限的空间里戴上层层“镣铐”,不同个体之间的差异被大大消解。
大家都隐隐约约地感觉这些考评“标准”有问题,却继续随波逐流地支持这些标准。毕竟,跟随标准从概率上来讲是最安全的,也最不需要个人承担额外的风险和责任,难怪人们会恐惧在KPI指标的完成上又快又强的AI。
我曾与同学们分享过这样一个故事。在北宋哲宗时期,有位叫葛延之的人长途跋涉,一路追踪被贬到儋州的苏轼,想向他请教“作文之法”。苏轼答:“天下之事,散在经、子、史中,不可徒使,必得一物以摄之,然后为己用。所谓一物者,意是也。不得钱不可以取物,不得意不可以用事,此作文之要也。”
正是如此啊,如今AI可以基于语言模型帮我们抓取全人类的“经、子、史”,但是,即使都抓取来了、整理好了,我们也无法将其“为己用”,除非我们能“得一物以慑之”——这一物就是“意”。
在我看来,“意”是个体独立精神的终极彰显,是个体经历生活、认识世界、不断学习成长后得来的深刻领会,是忘记所有知识型信息后,最终仍存留在灵魂深处的东西。这也是人之为人最珍贵的东西,是无论多少个“未来已来”都最应当被善加保护、悉心滋养的。