周鸿祎:ChatGPT“胡言乱语”恰恰体现了它的智能_顶尖财经网
  您的位置:首页 >> 财经频道 >> 风险投资 >> 文章正文

周鸿祎:ChatGPT“胡言乱语”恰恰体现了它的智能

加入日期:2023-2-24 16:49:07

  “不可否认,ChatGPT并不完美。比如它经常一本正经地‘胡说八道’,给出的答案可能张冠李戴。但我认为这些都是瑕不掩瑜,通过增加训练和用户反馈都可以解决。ChatGPT不是搜索,搜索的目标是搜出精准的资料不出错。ChatGPT也不是简单的输出,它是基于学习到的知识,利用推理的能力来组织问题的答案。从这个角度来讲,ChatGPT的‘胡言乱语’恰恰体现了它的智能。拥有想象力、可以无中生有地‘编故事’,正是智人区别于猿人和其他动物的重要标志。”周鸿祎说道。

  城市的未来构建在先进的数字化技术之上,创新驱动发展。当前,全球最前沿的技术和最热门的话题之一,非ChatGPT莫属。在2月24日举办的第三届上海数字创新大会主论坛上,360集团创始人周鸿祎以《ChatGPT掀起新工业革命,人类面临终极挑战》为题发表线上演讲,讲述他个人对ChatGPT当前情况及未来发展趋势的看法。

  周鸿祎认为,ChatGPT是通用人工智能发展的“奇点”,强人工智能即将到来的“拐点”。它的出现,标志着一场超越互联网的产业革命到来。ChatGPT的“出圈”原因,正是OpenAI巧妙地将复杂的人工智能技术用极简单的交互方式呈现到了用户面前,解决了用户各类实际的刚需和痛点。

  ChatGPT“编故事”的能力,标志着它已经拥有了一定的认知力、理解力和判断力,和人类类似的思维模式。“比如我问:有一只狗名字叫3万,请问我为什么给它起这个名字?ChatGPT回答:我也不知道,人们给宠物起名字有各种各样的原因。我又说:你知道吗?这只狗原来遭遇了车祸,被主人遗弃了。后来我带他到医院做了手术,我就收养了这只狗。ChatGPT居然回答说:那么3万可能是这次手术的费用,高达3万,你可能是为了纪念这次手术,所以给它起名字叫3万。”周鸿祎举例道。

  经过研究,周鸿祎总结ChatGPT的技术实现主要分为三层。第一层是知识铺垫。先将海量的知识灌输给它,扩大脑容量。这一步完全是无监督学习,实际上人类所有的知识都已经编码在我们所看到的所有的图书、网页、资料里边。通过这一步,把人类基本的通用知识学习进去。第二层是基于人工反馈的强化学习。“先把书读厚再把书读薄”,让机器具备举一反三的推理力和理解人们提出各种问题的能力。第三层是价值观的纠偏。让机器就一个问题给出了答案,挑选最符合人类的道德伦理价值观的问题,从而让机器回答问题不要太跑偏。这个过程很像人类从小到大的学习过程。

  周鸿祎相信,随着ChatGPT学习能力的进一步提升,算力和模型参数的持续增加,未来有可能成为新时代的操作系统。“如果大数据是数字时代的石油,ChatGPT就是发电厂。它能把大数据加工成电力,通过 API 接口,以SaaS服务的方式输出给千行百业,充分发挥SaaS服务的部署门槛低、使用难度低、使用成本低的优势,全面提升人类社会的智能化水平。未来所有数字化的APP、软件、网站,甚至所有的行业,都值得用ChatGPT重做一遍。现在人们普遍担忧ChatGPT会大规模取代人力,我反倒认为它会成为我们人类的助手,极大地提升脑力工作者的工作效率。”

  在全球竞争日益激烈的今天,ChatGPT相关技术的发展水平将成为不同国家提升生产力水平的分水岭。

  ChatGPT技术的研发做到了“四大一强”,分别是大模型、大数据、大算力、大标注、强算法。在大模型语言训模型训练过程中,数据量及模型参数的量至关重要。OpenAI将模型参数扩大了1750亿,才由量变引发了质变。“大力出奇迹”,最终使得ChatGPT拥有了认知能力。因此,我国发展ChatGPT技术,也需要大力发展5大类数据,包括以开源数据包为主的开源数据、以各类图书期刊为主的公共数据、互联网的网页公开数据、行业企业的私有数据,以及用户标注和产生的众筹数据。

  基于OpenAI与微软的合作,周鸿祎还总结了6个我国发展人工智能大模型技术的关键词。第一个是要开放互联网。要重拾开放精神,互联互通,内容共享,打破APP造成的信息割裂状态,做到数据互联互通。第二个是合作。效仿OpenAI和微软产学研各界的通力合作,包括大学实验室和产业公司等,而不是大家各自封闭、重复工作。第三是开源。不能基于开源代码编写闭源系统,画地为牢。开源模式应该是集中力量办大事,把各个公司、各个科研院所的力量,把散在民间的优秀人工智能人才,通过开源社区的方式集中起来,争取为国家打造几个优秀的开源模型。第四个是众包。ChatGPT在有了人类知识编码的基础之上,很多的技能还需要训练和学习。所以要充分发挥我国每年上千万大学毕业生和在校生的人力资源优势,建立知识标注的市场化机制,让ChatGPT人工训练师成为下一个热门职业,发挥中国的工程师红利和人口红利。第五个是生态。鼓励企业要建立ChatGPT的应用商店模式,在ChatGPT和国内大语言模型的基础之上,建立百行千业的垂直应用场景模型。第六个是软件。即服务,尽可能将人工智能很多产品SaaS化,让个人和企业都能降低门槛的接入。

  从长远来看,未来ChatGPT会怎么发展?“天马行空地想一想,ChatGPT可能会在认知的基础上产生意识;不断自我进化,实现机器人制造机器人的前景等。”周鸿祎说道,“当然,也有人认为最终它是否会产生与人类为敌的想法?可能大家也不用过于担心,人工智能的进化发展还受到能源的制约。”

  演讲最后,周鸿祎表示,360将不遗余力地投身前沿技术领域研究,继续助力上海数字经济发展高地建设,为上海的数字化和人工智能发展保驾护航。

  第三届上海数字创新大会由上海市经济和信息化委员会、上海市科学技术委员会、上海推进科技创新中心建设办公室、上海市普陀区人民政府主办,上海市普陀区科学技术委员会、桃浦智创城、中以(上海)创新园、360集团承办。

  相关报道

  如何打造中国版ChatGPT?周鸿祎透露关键信息

  周鸿祎:ChatGPT可能两三年内就会产生自我意识威胁人类

  周鸿祎:目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制

(文章来源:上观新闻)