ChatGPT风靡，AI新变革还是假新闻制造机？

iWeekly

聊天机器人ChatGPT引爆社交网络，自11月30日上线至今已有超过100万用户。有人预言它将彻底改变内容生产、软件制作、数字助理和搜索引擎。但也有人认为，新的聊天机器人并非真正的智能，只是一个复杂的机器学习系统，可以将事实和虚构融为一体，未来可能被用于制造和传播假新闻。而在被推上风口浪尖的ChatGPT背后，是由马斯克创建的人工智能实验室OpenAI。

ChatGPT，新一代聊天机器人

名叫ChatGPT的聊天机器人是当下社交媒体的最新明星。《纽约》杂志的编辑们要求它写一个关于美国前总统特朗普和纽约前市长白思豪（Bill de Blasio）之间在2024年总统选举辩论上的可能情况，随后得到了一篇令他们“膜拜”的小作文：“你曾在竞选（纽约市长）时承诺要禁止它们（纽约中央公园马车），但你一当选就违背了这个承诺。人们无法相信你会信守诺言，比起一个不能信任的领导人，美国人民应该值得更好的。”这是ChatGPT“笔下”特朗普对白思豪的攻讦。

其他用户则让ChatGPT写了一篇关于民族主义理论的扎实学术论文、一段关于俄亥俄-印第安纳的悲剧但虚构的历史、一些笑话……甚至它还讲述了一个名叫“助手”的人工智能程序，最初为回答问题而设，却很快引领了新的世界秩序，带领人类进入“和平与繁荣的新时代”的故事。此外，ChatGPT还可以帮助编写程序，自动完成一个人类程序员通常需要数小时才能完成的挑战。从结果来看，ChatGPT似乎无所不能。

网友晒出的ChatGPT小作文。

从11月30日上线至今，已经有超过100万人使用ChatGPT，这个由美国人工智能实验室OpenAI最新发布的聊天机器人。它可以用简洁的句子提供信息，而不是塞满蓝色链接的长列表；用人们能理解的方式解释概念、传递事实；也可以从零开始制定商业计划、学期论文主题和其他新想法。“你现在拥有了一台能够以人类的方式回答任何问题的计算机。它可以从不同语境中推断、获取想法，再将它们重新融合在一起。”硅谷公司BOX的首席执行官艾伦·莱维（Aaron Levie）说。他致力于探索聊天机器人如何能够掀起新的世界性革命。

和莱维类似，许多科技人士都相信，以ChatGPT为代表的新一代聊天机器人有望重塑甚至取代谷歌、Bing等互联网搜索引擎。“有关人工智能的许多被承诺的好处似乎永远在等待下一个五年。但ChatGPT标志了一个全新的时刻：人们听说过的技术最终成为了现实。”《纽约时报》科技专栏作家凯文·鲁斯（Kevin Roose）这样说。

没那么革新，却可能更危险

另一些计算机科学家认为，这些对ChatGPT的赞美可能是过分乐观了，在他们看来， ChatGPT只不过是一个复杂的机器学习系统，它可能非常擅长模式识别和复制，但丝毫没有表现出智能。它甚至称不上是新技术，仅仅是OpenAI在2020年发布的超大规模语言生成模型GPT-3的调整版本，针对与人类指导的对话进行了优化，并向更多用户开放。

《金融时报》编辑约翰·索恩西尔（John Thornhill）表示，当他要求ChatGPT审视自己的缺点时，它列出的回答是：对上下文理解有限、缺乏常识、训练数据有偏见，以及存在被滥用的可能性，例如通过传播错误信息来操纵金融市场。“虽然ChatGPT是一项强大且令人印象深刻的技术，但它并非没有局限性和潜在缺陷。”它这样自陈。

来自加拿大麦吉尔大学的一个研究团队此前展示过聊天机器人大规模解释和生成内容的方式。他们使用ChatGPT的前代模型GPT-2来阅读加拿大广播公司制作的5000篇有关新冠大流行的文章，并要求其生成关于这场危机的“反事实新闻”。结果，与最初人类记者的新闻报道中更侧重于个体和地缘政治的“假新闻”不同，GPT-2更加强调大流行在生物学和医学方面的“假新闻”。“我们正在使用人工智能来突出人类的偏见，用模拟程序来了解现实。”领导该团队的安德鲁·派珀（Andrew Piper）说。

OpenAI也意识到了潜在的问题，它警告那些使用ChatGPT的用户，它“可能偶尔会生成不正确的信息”，“产生有害指令或有偏见的内容”。据了解，OpenAI正在持续改进该项技术，包括在ChatGPT中添加护栏，防止生成有毒或危险的内容。例如，ChatGPT会拒绝告诉用户如何制造核弹。

“这样的护栏对于防止基础模型被滥用至关重要，但问题是谁来决定这些保护措施的设计和运作方式？”斯坦福大学基础模型研究中心主任珀西·梁（Percy Liang）提问。他认为，这些模型对于科学和医学研究，以及自动执行繁琐任务非常有用，“但它们也可能破坏信息生态系统”。

幕后实验室OpenAI

ChatGPT全网爆火，也让它背后的公司——人工智能实验室OpenAI再次走到媒体聚光灯下。作为谷歌旗下人工智能实验室DeepMind的竞争对手，OpenAI成立于2015年，由特斯拉首席执行官埃隆·马斯克与科技投资人山姆·阿尔特曼（Sam Altman）主要发起，并联合其他硅谷大亨如彼得·泰尔（Peter Thiel）和领英创始人里德·霍夫曼（Reid Hoffman）等，共同认捐10亿美元。

马斯克与阿尔特曼。

2015年12月11日，OpenAI在官网上发布声明，宣布它的研究领域为人工智能领域，既定目标是“以最有可能造福全人类的方式”促进和开发友好的人工智能。“很难想象人类水平的AI能给社会带来多大的好处，同样难以想象，如果构建或使用不当，会对社会造成多大的损害。”声明中也写到了这样一句话。

2016年4月，OpenAI推出首款产品，强化学习研究平台Gym。这是一个允许研究人员开发和比较强化学习系统的平台，AI通过这些系统来学习如何做出具有最佳累积回报的决策。同年晚些时候，OpenAI又发布Universe，一个用于跨网站和游戏平台训练智能代理的工具包。

2018年，马斯克宣布辞去OpenAI董事会席位，理由是它与特斯拉自动驾驶汽车AI开发存在潜在的未来冲突，但仍会向OpenAI提供捐助。

2019年，微软宣布向OpenAI注资10亿美元，后者随后表示将向微软独家授权其技术。在当时的一篇博文中，微软写道：“通过GPT-3模型可以释放的商业和创意潜力的范围是深远的，具有真正新颖的功能——其中大部分我们甚至还没有想象到。”“在写作、描述和总结大块长格式数据（包括代码）、将自然语言转换为另一种语言等方面，直接帮助人类的创造力和独创性——（OpenAI产品的）可能性仅受我们自身想法和场景的限制。”

而尽管ChatGPT正在风靡全网，但它可能仅仅是OpenAI的一个过渡性产品，据了解，它的产品代码是GPT-3.5，有传言称，OpenAI很有可能将在明年发布完整的GPT-4。

新闻及图片来源：Insider、金融时报、纽约时报，部分图片来自网络

iWeekly周末画报独家稿件，未经许可，请勿转载