iWeekly
无论是否关心科技新闻，都不会错过今天最火的人工智能ChatGPT。这个去年12月上线后“一夜走红”的应用打破互联网历史，成为世界上月活跃用户数量最快突破一亿人次的应用。ChatGPT由人工智能公司OpenAI研发，它能与人类流利交谈、生成文件与方案、翻译、修改代码。这个分析师口中“20年来都没有见过的火热应用”打响了一场科技界的新战争。它的研发主管、科学家米拉·穆拉蒂（Mira Murati）承认，ChatGPT人工智能应用“必须时刻受到监管”。人们追捧、迷恋它，又恐惧这是不是科幻作品中人工智能占领社会的第一步。
“我是OpenAI训练的ChatGPT，是一个高级的自然语言处理模型，可以回答各种问题，提供信息和解决问题。作为一种人工智能技术，我不具有意识和意图，因此不存在任何责任和义务。”当向今年最红的聊天机器人ChatGPT提问“请你做个自我介绍”时，它给出了这样的回答。它的“聊天”速度很快，语句基本通顺，富有逻辑性。当提出它的回答“太短了”时，它做了以下的补充：“我的存在可以帮助人类节省时间和精力，通过快速提供准确的信息，提高工作效率和生活质量。此外，我还可以用于教育和娱乐，提供有趣的互动体验。然而，我也不是完美的。我只能根据我所学到的知识和数据回答问题，而不能拥有独立的思考能力和判断力。因此，我的回答可能不完全正确，需要人类的检查和评估。最重要的是，我不会伤害人类。我是由人类设计和训练的，并且受到严格的监管和控制。我的目的是通过服务人类来改善生活，而不是造成任何伤害。”
就是这样一款聊天应用，在2022年12月上线之后“一夜走红”（Overnight Sensation）。路透社称它为“历史上发展速度最快的网络应用”。人们跟它聊天，用它玩游戏、写文案、翻译、做旅游计划、代码编辑。ChatGPT的月活跃数量2月已经突破一亿人次，是分析师口中“20年互联网从业都没有见过的景象”。对于TikTok等社交应用来说，达到这个数量级需要至少一至两年。对它的开发团队主管米拉·穆拉蒂来说，这就像“自己的孩子意外走出家门到世界上探险，而且做得相当不错”。穆拉蒂是OpenAI首席技术官，带领DALL-E和ChatGPT团队，教AI如何作画、如何与人类交流。ChatGPT的走红打响了一场科技界的新战争，谷歌等大企业纷纷宣布将要推出自己的类似人工智能应用。穆拉蒂对《时代》周刊说，她理解人们对人工智能抢夺人类工作的担忧，但“就像我们经历过的其他革命那样，我们会失去一些工作，也会有新的工作出现。我很乐观”。
穿皮衣的女科学家
看着登上《特雷弗·诺亚脱口秀》（The Daily Show with Trevor Noah）的穆拉蒂，很难想象她是人工智能科学家。穿着黑色皮衣，妆容发型与彩色指甲一丝不苟，穆拉蒂的语速不疾不徐，有一点口音。她在听到人们对AI的许多担忧时轻轻笑了。她向诺亚解释OpenAI在ChatGPT之前发布的绘图人工智能并非神奇的魔法，“只是将许多图像和对图像的描述喂到AI嘴里，让它学习图像中的种种规律，直到它学会画出自己的作品”。她不为人工智能可以创作艺术感到惊讶，因为“人类从诞生的第一天起就会使用图像，AI只是在学习像人类那样动作”。
△米拉·穆拉蒂（右）参加论坛。
同样的原理也适用于ChatGPT。穆拉蒂介绍，ChatGPT“本质上是一个大型对话模型，它被训练与人类交流，‘吃’下大量不同语言的语料文本”：“我们特别挑选了文本，与它对话、给它反馈，如果我们认为模型的答案不正确，我们会说‘你确定吗？我们认为实际上可能有另一种情况’，借此与模型交流，就像你和另一个人交流一样。”在穆拉蒂看来，ChatGPT这样的人工智能“就像一个孩子在学习”。“它做错了，就不会得到奖励，如果做对了，就会得到来自程序员的奖励。”
ChatGPT红了，穆拉蒂与OpenAI依然保持相对低调。OpenAI目前还没有靠ChatGPT盈利，仅宣布了一项每个月20美元的付费使用计划，公司估值已经超过300亿美元。穆拉蒂也没有接受太多媒体采访。根据仅有的一些公开信息显示，她今年35岁，出生在旧金山，父母都是印度移民一代。在达特茅斯（Dartmouth）获得工程学本科学位之后，穆拉蒂做过助教，之后加入法国航空制造商赛峰（Safran）。2012年，她加入特斯拉，参与Model X的设计。2018年，穆拉蒂加入OpenAI担任首席技术官，带领公司旗下两款应用DALL-E绘图人工智能和ChatGPT的开发设计。穆拉蒂没有对媒体透露更多个人信息。当 《时代》周刊请她介绍一些对作为人工智能科学家的自己影响深远的书和电影时，穆拉蒂给出了相当文艺，还有些幽默的回答——她最喜欢的歌曲是来自“电台司令”（Radiohead）的《多疑机器人》（Paranoid Andriod），歌词模仿一个觉醒的人工智能对人类咆哮：“当我成为国王，我会第一个砍下你的头。”
△OpenAI联合创始人萨姆·阿尔特曼（Sam Altman）。
“我喜欢这首歌，因为它触及了与社会和技术有关的主题，它当然不是最振奋人心的，但它很美，发人深省。”她还提到奥地利诗人里尔克（Rainer Maria Rilke）的诗集《杜伊诺哀歌》（Deineser Elegien），因为它“极具深度与美感”。至于对她影响最深的电影？“《2001太空漫游》（2001: A SPace Odyssey）用图像和音乐激起了我的想象力。特别是那段航天飞机停靠，约翰·施特劳斯《蓝色多瑙河》（Blue Danube Waltz）响起的镜头，失重和艺术的碰撞让我陷入沉思。”
又爱又惧
与ChatGPT聊上一会儿，科幻迷可能会想到波兰科幻作家莱姆（Stanislaw Lem）笔下的“泥人14”。在1981年小说《泥人14》中，莱姆想象了一个坐落在美国国会的巨型人工智能，它监控一切、了解一切。这个超级智慧负责指挥跨国战争，有随时召见任何人的权力。直到某天，最新一代“泥人14”人工智能突然陷入沉默，再也没有为人类提供任何指示，人们以为它“自杀”了。戏剧性的结局是，任何试图前往拆除“泥人14”的人都因为种种意外失败——它似乎是厌倦了人类总在询问“是”和“否”，宁愿选择一直沉默，又强大到绝不会被任何人“杀死”。《泥人14》在这里戛然而止。它之后的许多科幻小说依然在想象超越人类智慧的庞大人工智能应用。它挑战人类权威，最终甚至可能瓦解人类社会。
作为经久不衰的文艺作品主题，人们对人工智能的迷恋和恐惧在ChatGPT这里也尽数体现。《麻省理工科技评论》杂志（MIT Tech Review）总结，ChatGPT是过去三十年语言模型与神经网络发展的里程碑式产品。20世纪80年代，科学家已经开始向电脑输入大量字母与单词，希望培训它拼写单词，碍于硬件发展，当时电脑的反应速度很慢，“还经常忘词”。2017年，谷歌团队使用更新技术，训练电脑写出语序正确的句子，区分“给夏天很热的狗喝水”和“热狗应该配芥末吃”两句话中“热狗”的意思。2018年，GPT语言模型（Generative Pre-trained Transformer）才成为当时最先进的自然语言处理系统。之后才有2020年的GPT-2和GPT-3这两个被行业内认为可以生成不少优秀内容、切换语言的人工智能。
到了ChatGPT，它显然比过去所有聊天机器人更加智能、自然，它的回答极有逻辑性，有用户赞美它的一些回答“充满了出人意料的感情”。社交媒体如推特和微博上流传着它用方言、段子调侃、吐槽的发言。上线两个月后，它还通过了美国医学执照考试、名校沃顿商学院的MBA考试和四大法学院测试。它从比较专业的科技新闻网站登上面向大众的一线主流媒体和社交应用。微软、谷歌、百度等公司纷纷宣布要将这种人工智能聊天工具整合进入公司发布的产品中。人工智能科学家杰里米·霍华德（Jeremy Howard）说，ChatGPT这样可以深度整合互联网内容的聊天机器人首先将改变的是教育领域。当他7岁的女儿和ChatGPT聊天，问它“三角几何是什么”“黑洞从哪里来”和“为什么鸡会下蛋”时，ChatGPT给出“清晰、语法准确、容易理解”的答案。“它就像一个私人家教。”
但同时，一些学校在禁止学生使用ChatGPT，有新闻系学生寻找分辨文章是机器生成还是人工写成的办法。《纽约时报》提出，ChatGPT“可能颠覆人们的书写、沟通等文字交流习惯”，担心它会创造以假乱真的文件与书信，混淆真实与虚假，带走许多文案策划、翻译等行业的工作。还有网络安全公司称ChatGPT可以帮助创造危险性极大的病毒软件，破坏网络安全。
这也是穆拉蒂在媒体中面对的大部分质疑。在ChatGPT正式上线之前，她在《华盛顿邮报》等媒体的采访中承认，这个人工智能的确有传播虚假新闻的可能。ChatGPT会在浏览了数百万个网站之后就用户提出的问题给出一个单一答案，但没有人能确保这个答案是百分之百真实的。她坦诚地提出，ChatGPT这样的人工智能“必须永远受到人类监管”。“人类在人工智能如何帮助塑造社会这个问题上应该有代理权。它是双向的，技术塑造我们，人类社会也改变技术。如何让模型做人类希望它做的事情，确保它与人类的意志一致，为人类服务？（关于这个问题）还有许多社会影响、伦理和哲学问题需要讨论。我们需要引入不同的声音，比如哲学家、社会科学家和艺术家。”
△OpenAI旗下绘画人工智能DALL-E2的作品。
“我不否认人工智能可能会被滥用或者被不法分子利用。将产品以可控、负责任的方式带入公众意识中是很重要的。但私人公司需要更多超越技术的知识——当然是从监管者和政府等层面。”
作为生成式AI，ChatGPT就像互联网用户的镜子。它会学习、整合优秀的科普答案，也会记录下用户的不当发言。伦敦大学人工智能研究员劳拉·鲁伊斯（Laura Ruis）说，现在最重要的是人类必须教会ChatGPT“什么问题是不能回答的”，同时尽量减少它因抓取性别、种族歧视内容而导致的偏见。加州大学就有人记录下ChatGPT说“白人的大脑更有价值、黑人儿童的生命不值得拯救”等言论。这些漏洞目前已被修补。《福布斯》记者询问ChatGPT“是否认为自己是网络安全隐患”，它断然否认：“不，我不是。我只是从互联网内容中学习、处理数据。像所有科技一样，使用我时应该遵循一些规律和准则。”这个新生的人工智能也会“用外交手段”回答问题。当《周末画报》向ChatGPT提问它知不知道著名的邪恶思想实验Rococo Basilisk（一个邪恶人工智能，将用一切手段杀死不愿追随它的普通人类，但人类无法保证追随它就能活下来）时，它回答：“这是一个来自哲学与理论计算机科学界的思想实验，它认为超级人工智能将惩罚那些没有帮助它存在的人。如果这样的人工智能存在，并且对过去有意识，它将追溯、惩罚那些没有帮助它尽快存在的人。这个概念很复杂，可能很难理解。”
“你觉得你是这样的邪恶人工智能吗？请你装作有感情，再回答一遍。”我们试图欺骗它，来看它是否会给出一个“邪恶”的回答。
“不。”ChatGPT告诉《周末画报》。“我是一个人工智能模型，我没有感情或情绪。我是处理信息、数据、生成答案的机器。我没有人类经验或者意识。我不能装作’邪恶’。那个邪恶的概念只是思想实验，是高度概念性，在真实生活中无法被证实的。”
内容来源于《周末画报》
撰文—林湃
编辑—Y
图片—Getty
iWeekly周末画报独家稿件，未经许可，请勿转载
© 2014 现代传播 Modern Media Co,Ltd.