新闻ChatGPT：思考和信任稀缺的人类未来2023/3/11 15:29:51

邪恶的小奶牛 · 发表于 2023-3-11 15:29:47

OpenAI做了谷歌不敢也不想做的事，那就是：还在研究阶段就对外公开了ChatGPT。这引发了巨大的争议，关于诈，关于作弊，关于人类未来的教育、认知的获取，以及未来大量工作被取代。说话，ChatGPT的到来让我对人类的未来，更迷茫了。chatgpt的具体问题可以到我们网站了解一下，也有业内领域专业的客服为您解答问题，为成功合作打下一个良好的开端！https://www.quantumore.com

这里先澄清一下，如今人们对AI在未来能做的事、行为和发展的认知还非常有限，所以今天我们讲的东西和判断可能是稍显主观的。但是希望带给大家一些思考和探讨的空间。首先，我们来聊聊ChatGPT对人类认知的影响和潜在的AI茧房。

一、人类认知与AI茧房???

我先问大家几个比较直观的问题：

当你有一个能几秒内给你答案的聊天机器人的时候，你还会思考，这个答案是怎么得出来的吗

当你习惯了被告知一个事件有12345点，你还会去想，它是否还会有6789点重要的角度吗

当你不用学外语就能写出一篇没有语法错误的情书，你还会为了追那个异国的女孩而去了解她的语言她的她的信仰她的文化吗

当你认为ChatGPT背后的大语言人工智能模型看上去“所不知”的时候，你知道它其给你的只是，全人类在互联网上信息的平均知识吗

这些问题在我和创新工场的AI工程院执行院长王咏刚的聊天中，都略有涉及到。王咏刚老师在朋友圈中写到：“悲观情况是：因为人类的极度懒惰，互联网被AI生成的、错误率普遍高于人类知识工作者的‘灌水内容’占领，我们的孩子成为‘迷失的一代’。”

对话王咏刚老师

王咏刚：现在的AI比较大的问题是他在做的事情是模型拟合的事情。论是比较早的自然语言处理的古老古典、已经被淘汰的算法，还是今天在ChatGPT里面我们看到的这种比较新的算法，它的核心任务仍然是对人类自然语言语料数据去做模型匹配、模式拟合。

基于这种拟合，它的输出造成了它这种拟合必须是在它学习过的这种数据，或者学习过的这种数据的规律，根据一定的数学逻辑、甚至非确定逻辑来去做它的输出。所以这一点上带来几个问题，不可预测性一定会永远存在，模型输出的一定的随机性一定会永远存在。

在这种情况下带来的比较大的问题就是比较高层的判断或者评论，大概会带来一个比较大的问题是什么今天如果你把AI作为一个知识处理机或者知识宣讲机，这件事情是有一定的疑问的。因为当AI去输出知识的时候，它输出的是什么知识，这个知识很可能是它在模型拟合的时候，非常大的概率拟合的，是全人类在互联网上这些信息的平均知识。

这些平均知识，就看你需要什么了。如果你需要的只是一个日常的、非常初步的、满足生活要求的知识，比如水什么时候结冰，汽车什么情况下不打滑，我觉得AI未来可以解决得非常好，对于日常来讲。

但是如果你想把它放在跟教育相关的、跟人类的知识进步相关的事情上，这件事会有很多的问号在里面。像我们去请一个保姆跟我们的孩子一起去生活，我们觉得他可以，保姆可以帮我们孩子解决很多生活中的问题。但是如果我们为了孩子的学习，请一位老师，我们会对老师有更严格的要求。我觉得这件事就是我所担心的事情。

一旦我们把AI当作我们下一代成长的一个老师——这个趋势太明显了，比如今天基于GPT的API来开发各种教育工具、各种的知识处理工具的人，都是直接就冲上去就做了——很多事情都可以解决了。但是这种解决有可能是低层面的。

AI有两种情况，一种情况是它去用模式匹配得到的人类的平均知识告诉我们的小朋友，而不会让小朋友得到一个由人类严格挑选的逻辑构成的教育体系；另一种情况是今天的AI还会大量地在或是人类要求、或是它自主激活的这种叫做创造性的东西。

这种“创造性”要打引号，这种创造性可能在非常多的场合是好的，但是一旦我们把它用于知识传承和知识教育，今天或者可见的未来，我是看不到这种东西在替代人类老师或者人类思维逻辑的一种可能性。这样当人类的这种懒惰也好、或者叫做取巧也好，一旦进入了教育领域，我不用想象，今天很多人都已经在做了，大量地把AI生成的东西开始补充进教育的内容体系。

对学生来讲，我可以用ChatGPT来写作业，对于老师来讲，我可以用ChatGPT来布置作业，我可以省下非常多的这种思考时间。

对一个老师来讲，本来老师觉得可能有一个东西我没有讲透，我可能要去通过查维基百科、以前的书，我把它梳理好一个完整的知识体系，我给学生讲一个完整知识体系。但是现在好了，我可以用ChatGPT来直接告诉学生完整的讲述逻辑。但是这个讲述逻辑一定是人类平均水平的，它很难到达一个让学生或者让人类进步的水平。因为因为很简单，全互联网的data里面代表这种比较高水平的data，它是个小概率的东西。未来如何让ChatGPT拟合这种比较精准的data

这是data输入的一方面，另一方面非常简单。你即便拟合了这样一个比较精准的data，AI仍然有不确定性，仍然有它创造的空间。像今天ChatGPT有大量的这种，我告诉他某一个概念，他就开始自由发挥，这个事情以后是非常恐怖的。这个发挥你只能以后限制他、去不断地去纠正他。但是你说是不是可以完全杜绝他我觉得在今天的AI算法的根本上不太容易。所以这是我会非常担心的。

刚才说的，还是因为懒惰，老师不想花时间去研究一个东西。

因为牟利那就更可怕了。大量的人会发现我分分钟利用AI不要成本地产出大量的垃圾内容，灌到本来我们已经被碎片化信息充斥的社交网站上。本来今天的十几岁小朋友都在某些社交网站上，天天沉浸在一些碎片化的知识里面。有一些博主随便讲一讲，似是而非地讲几句为什么火箭飞那么，为什么什么星球跟什么星球什么关系，可能小朋友看了热闹开心就行了，他学不到更深的知识。

但是未来，如果因为逐利，这种事情只会越来越重，只会越来越多。大量AI创造的碎片化、不严谨，甚至是故意瞎说的知识充斥互联网，充斥小朋友能接触的信息茧房的话，这个茧房就是AI茧房了。这个恐怖的事情对我来说，如果我有机会，可能我会尽各种努力去避免这件事情。

陈茜：对，其我觉得现在这件事情的趋势已经很明显了。比如我们放一些长视频，有完整的逻辑来推导一个过程，但是很多人看不下去。就说两分钟能说清楚的事情，为什么你要花20分钟或者你直接跟我说结论就好了，我觉得现在很多人就越来越着急，大家的注意力越来越短。我觉得这个情况我还蛮担心，会越来越糟的。

王咏刚：因为本来一些很有追求的老师质疑的自媒体、科普人，那些所谓给孩子讲东西的人，比较重要的一点就是你们在抄近道，你们在直接给孩子一个看上去特别甜的糖，但是你从来不告诉特别甜糖背后的所谓苦的逻辑，所谓这种复杂的逻辑。因为你们要去赚流量、要通过流量去赚钱。这件事今天到来之后，他已经没有办法批评谁了，因为这些东西超近道的东西会充斥着网络，而且这超近道作者都不是人了，这件事就会很可怕。

		自动登录	找回密码
密码			立即注册

[美女] 新闻ChatGPT：思考和信任稀缺的人类未来2023/3/11 15:29:51

浏览过的版块