聊聊：周鸿祎：不要小看ChatGPT“胡言乱语” 这恰恰证2023/3/11 23:38:43

tony_chai

随着全国进入“两会时间”，代表及们的议案和提案成为全民关注焦点。两会期间，周鸿祎做客凤凰网财经《凰家会客厅》栏目，就他带来的提案及近期火热的ChatGPT、数字安全、网络安全等话题进行深入探讨。ChatGPT官网的相关知识也可以到网站具体了解一下，有专业的客服人员为您全面解读，相信会有一个好的合作！https://www.quantumore.com

提案中，周鸿祎认为，以ChatGPT为代表的人工智能大模型技术的巨大跃升将掀起一场新的工业革命，我国理应迎头赶上，并建议打造的"微软+Open AI"组合引领大模型技术攻关。而在稍早前的2月初，360也曾在投资者互动平台上表示：“计划尽推出类ChatGPT技术的demo产品”。

为何如此看好ChatGPT对此，周鸿祎表示，ChatGPT的伟大之处在于它不是为了解决某一专有领域的问题，而是现了对人类知识的存储，并在此基础上训练出了很多人才拥有的能力。

他进一步解释称，ChatGPT完成一项工作可分为两个步骤，首步是通过“大力出奇迹”的方法建立一个大语言模型，这一步中不需要人工标注，即为监督学习。在这种模型的基础上，ChatGPT的第二个突破还在于其增加了一种能力的训练机制。通过这种机制，人类可以训练它很多能力。

基于此，周鸿祎认为，ChatGPT已经现了成为强人工智能的基础，能够理解“自己在说什么”。他举例称，ChatGPT有时候会“一本正经地胡说八道”，而这恰恰体现了它的智能。“正因为人能编故事，能去描绘那些不存在的东西，描绘那些只有在想象中的东西，人类社会才有了信仰，才有了宗教，才有了文明的传承。所以ChatGPT的胡言乱语真的很可怕，标志着它已经拥有了一定的认知能力、理解力和一定的判断力，拥有和人类类似的思维能力。”

周鸿祎进一步举例：“比如我问ChatGPT，我说‘我有一只狗字叫3万，请问我为什么给它起这个字’。ChatGPT回答说‘我也不知道，人们给宠物起字有各种各样的原因，巴拉巴拉说了一堆’。我又说‘你知道吗这只狗原来遭遇了车祸，后来被主人遗弃了。后来我带他到医院做了手术，我就收养了这只狗’。ChatGPT竟然回答说‘那么3万可能是这次手术的费用，高达3万，你可能是为了纪念这次手术，所以给它起字叫3万。’”

在周鸿祎看来，在回答这个问题时，ChatGPT体现出了惊人的理解力，“很可能小朋友都不一定能理解到这个程度，但ChatGPT已经能够理解到了。”

“说起来ChatGPT‘胡言乱语’的例子还有很多，比如网上流传的‘林黛玉如何倒拔垂杨柳’、‘林黛玉如何打白骨精’。你会发现ChatGPT都能做到一本正经地胡说八道。我那天问它，我说赵匡胤招安了宋江为什么要杀掉岳飞，ChatGPT也给了我一个胡说八道的解释。很多人觉得这个东西不能当搜索用，我觉得如果把它当搜索就错了，这种胡说八道的能力恰恰证明它的智能。”周鸿祎说。

而对于ChatGPT与“人类威胁”之间的争议，周鸿祎则认为，任何技术在发展过程中都是一把双刃剑。他指出，目前ChatGPT仅仅是有认知。随着撬动ChatGPT的参数进一步扩大，ChatGPT可能很就会产生意识。不仅如此，周鸿祎还表示，目前ChatGPT还只有大脑，第二步，它可能进化出“眼睛”、“耳朵”、“手”跟“脚”，那时候它就能够看懂人类的各种图像、视频，听懂各种音频，智能化水平提升。

更进一步，随着ChatGPT接入互联网的API，进入万物互联的时代，它疑相当于拥有了手跟脚，间接拥有了操控世界的能力。这个时候，它不仅在网页上可以下单购买机票，可以打车，可以订购外卖，甚至能够通过网页操纵各种物联网设备。“再设想，假如让ChatGPT不限定输入的语料，随意能够获取搜索、浏览互联网上的知识，产生了自主意识的GPT会不会在看完类似《终结者》之类的电影后，产生与人类为敌的想法”

除此之外，周鸿祎还谈到，ChatGPT还可能能够自我进化。“如果这样，它就拥有了能够自我学习、自我进化的能力，现了机器人制造机器人的前景。”在此背景下，周鸿祎坦言，如果ChatGPT发展到这一步，那么人类是否会因此走入毁灭犹未可知。

尽管如此，但周鸿祎依旧认为，不能因此就不发展技术，而是要知道技术的底线和边界在哪，从而去规范技术向着正确的方向发展。

值得注意的是，在与《凰家会客厅》的对话中，周鸿祎还特别提到了与ChatGPT有关的“数据安全”“网络安全”等问题。他认为，这已经从一个技术问题变成了一个社会伦理问题，有的时候甚至变成了一个人类面临的不可预知的问题。

首先，周鸿祎认为，作为一个软件系统，ChatGPT是用数据来训练的，因此它像其他所有传统的人工智能系统一样，都面临着传统数字化问题。其次，周鸿祎指出，ChatGPT是为它的主人服务的。作为一个非常有利的武器，它掌握了非常多的编程知识，以及有关于网络安全漏洞的知识。

周鸿祎认为，作为一个机器人助理，ChatGPT除了可以帮助好人，也一样可以帮助坏人。他特别提醒，ChatGPT现在完全可以成为网络黑客作恶的有力的工具。“网上有很多黑客演示了利用ChatGPT写钓鱼邮件、写攻击代码，它大大降低了攻击的成本和难度，成为了很多黑客的帮手。”

同时，周鸿祎也透露，目前安全行业也在探索用GPT大模型能否解决对攻击的自动侦测、自动发现，或者建立知识库。“企业网管在面临安全事件分析的时候，需要有一个强大的知识库做支撑。所以，ChatGPT也可以扮演正义助手的角色。”

除了对ChatGPT的深入思考外，周鸿祎还与《凰家会客厅》就网络安全的其他方面展开了讨论。他表示，当前数字化速发展，由此产生的安全问题也尤为值得警惕。

他指出，通过研究分析近年来360帮助捕获的51个境外级黑客组织针对我国发动的数千次网络攻击可以发现，当前“看不见”攻击已成为网络安全和企业数字化转型中比较大的痛点。“对手往往来影去踪，很多企业和单位被攻击了才知道，甚至被攻击了都不知道。”

在此背景下，能否“看见”风险和攻击就成为了安全能力的“试金石”。而360去年以来综合运用大数据、云计算、人工智能技术，构建以“看见”为核心的数字安全大脑，探索建立了城市数字安全服务中心的新模式，在“四集中”的基础上提供集中化SaaS服务，现了“数据情报云化、产品SaaS化、安全服务化、服务托管化、托管专业化”，相当于帮助每一个企事业单位和部门在城市云之上建立了各自的“安全运营中心”，由云上的专业安全服务团队提供持续的安全运营服务，探索创新了城市数字安全的新范式。

周鸿祎指出，从攻防战来看，城市则成为网络战的首选战场，也是维护数字安全的主阵地。因此，对于城市中体量比较大的中小微企业而言，维护其企业数据安全就成为了重中之重。但由于其数字安全能力薄弱，极有可能成为数字安全屏障的缺口和短板。

对此，周鸿祎建议，推广针对中小微企业的免费或低成本SaaS化安全服务，护航数字化转型，把数字化SaaS服务作为重点产业方向进行培育，在主导下更大范围的更广SaaS服务平台，同时对SaaS生态企业给予政策支持，鼓励地方为中小微企业发放“数字化红包”，降低中小微企业获取数字化服务的成本。

1、ChatGPT如何影响未来周鸿祎：可能成为各行业的“水”“电”

《凰家会客厅》：近期，ChatGPT引发全球热议，您本次也带来了相关提案。您提到，“以ChatGPT为代表的人工智能大模型技术的巨大跃升将掀起一场新的工业革命”。事上，2月初，360在投资者互动平台上也曾表示：“计划尽推出类ChatGPT技术的demo产品”。

您为何如此看好ChatGPT如果从长远角度想象，您觉得ChatGPT将如何改变世界能够举例某个场景以具象描绘这种改变

周鸿祎：从新工业革命的角度来看，ChatGPT首先是一个通用人工智能，它不是为了解决某一专有领域的问题，而是现了对人类知识的存储。ChatGPT完成了这项伟大的使命，而它完成工作过程分两步，首步是建立一个大语言模型，通过大力出奇迹的方法来现，过程中不需要人工标注，可以称之为监督学习。

ChatGPT的第二个重要突破，是在这种模型上增加了一种能力的训练机制，通过这种机制人类可以训练它很多能力，比如逻辑推理能力，让ChatGPT对所存储的知识融会贯通，先把书读厚、再把书读薄。

我个人觉得，ChatGPT其已经现了成为强人工智能的基础，真正做到了理解自己在说什么。比如，ChatGPT有时候会一本正经地胡说八道，这恰恰体现了它的智能。正因为人能编故事，能去描绘那些不存在的东西，描绘那些只有在想象中的东西，人类社会才有了信仰，才有了宗教，才有了文明的传承。所以ChatGPT的胡言乱语真的很可怕。标志着他已经拥有了一定的认知能力、理解力和一定的判断力，拥有和人类类似的思维能力。

按照进化论的说法，人类从智人发展而来，智人从人猿发展而来的；而在人猿到智人的过程中出现了智力突变。我们可以大胆猜测一下，这个过程中有可能是随着脑容量的变化，脑子里的神经元网络发生突变，才引发了智力的出现。现在ChatGPT大语言模型参数达到了1750亿，同样激发了突变，使之产生了现在的能力。

ChatGPT的巨大进步，使得它有可能成为各个行业的“水”跟“电”，从而发挥支撑作用。我们要把它看成云服务、看成API，它对消费者是聊天机器人的界面，那只是一个连接端，聊天机器人之所以强大是聊天机器人背后的云端藏着一个智能大脑。今天如果把智能大脑通过API的方式，把云服务连到目前各个业务系统里，那么现在所有的产业，包括所有的软件、APP、数字化系统等等，都值得重新做一遍，比如有的可以做深度融合，有的可以做使用上的融合等等。