人工智能chatGPT优点会取代程序员吗？

来源：蜘蛛抓取(WebSpider) 时间：2023-03-22 15:27 标签： 人工智能chatGPT优点

　　面对ChatGPT在各个方面的出色表现，很多人开始担心自己的职业发展。拥有如此强大能力的ChatGPT究竟能否替代搜索引擎？许多职业将因此而消失吗？AI即将战胜人类吗？不可忽视的三大局限性
　　由于存在三大局限性，ChatGPT的未来发展仍有很长的路要走。
　　ChatGPT的首个局限性，来自内容准确性不高，并且模型本身会非常固执地坚持错误的结果。这其实也是这一类大规模语言模型一直以来面临的难题。在Instruct
GPT的论文中，作者明确提到了这个模型会犯非常低级的错误，甚至是加减运算也有可能会出错。比如，当你问它关于“松鼠桂鱼”的做法时，它有时回答要用烤箱来烤，有时回答要用水煮，甚至会说材料需要用到松鼠。很显然，“松鼠桂鱼”这个专有名词并不在它的学习范围内。
　　ChatGPT的第二个局限性，来自模型边界的模糊。一旦机器人的回复超越了伦理或者道德边界，结果就会变得非常不可控。虽然OpenAI有意避免让ChatGPT在回复中包含有违伦理、种族和道德要求的内容，但是用户仍然可以轻易使用假装的方式骗过AI。
　　ChatGPT的第三个局限性，来自自身内容更新不够及时。这是因为训练如此大规模的语言模型，不管在资金还是时间上，都是非常大的消耗，因此很难让模型的训练数据时时囊括最新资讯。例如，当问其对苹果M2芯片的性能评价时，它明确的回复是苹果M2还没有发布。虽然ChatGPT会在不久的将来更新这些即时信息，但显示出训练数据的更新速度远远慢于搜索引擎。
ChatGPT能否取代搜索引擎？
　　虽然存在许多不足，但不可否认ChatGPT还是引发了交互变革。那么，ChatGPT能否取代搜索引擎？
　　相比搜索引擎，ChatGPT优势十分突出。当在搜索引擎上安装了ChatGPT插件后，它所提供的答案跟搜索引擎相比简直就是“降维打击”。比如，当我们搜索打游戏最快的SSD硬盘时，搜索引擎像是看到了一块巨大的肥肉，瞬间就在页面上布满了广告。而有了ChatGPT之后，我们不需要在整个页面的广告中寻找真实的答案，不仅节省了很多时间，也规避了上当受骗的风险。
　　当然除了优势之外，ChatGPT的局限性也都不可忽视。首先是内容的准确性。比如你问它“numbers”有几个字母时，回答却是8个。要知道，Google搜索也曾因为提供过某个人的不实信息而被告上法庭，造成数千万美元的经济损失。不仅如此，搜索引擎的另一大要求是信息的及时性，比如现在的天气、最新发生的突发事件等。如果ChatGPT要持续整合这些最新的信息，就需要不断地重新训练或者fine
tuning。如果选择重新训练，那么时间和金钱的开销都会非常巨大；如果选择频繁的fine tuning，又会同步造成overfitting的问题，造成对原有知识的遗忘。
　　除此之外，ChatGPT还有一个相对不明显但是非常重要的局限性，即信息来源的不可追溯性。对于一个长期搜索最新可靠资料的工程师来说，一个可靠的信息来源显然比能够回答一个问题更加重要。然而，ChatGPT在训练过程中，是不会区分文章内容的真实性或者质量的。如果我们依赖ChatGPT目前的交互形式，验证信息来源就会变得更加困难。
　　综合来看，ChatGPT会对搜索引擎长期的交互方式带来非常巨大的改变。这也就不难理解，谷歌内部会在ChatGPT发布之后进入紧急模式——Code Red，全面讨论如何应对可能出现的竞争性危险。
　　由于大规模语言模型目前在及时性、准确性上存在不足，类似ChatGPT的技术并不会直接取代搜索引擎，而是会逐渐成为搜索引擎架构的一部分。最理想的组合方式，就是ChatGPT生成的结果被传统的搜索引擎交叉验证，如果准确性足够高，就会展示给用户；如果对结果没有十足的把握，就会提高传统搜索引擎结果所占比重，提供给用户足够的参考。
完全取代人工还为时尚早
　　有些人认为，程序员和语言工作者很有可能会在新技术的冲击下面临失业。这是因为ChatGPT可以直接生成代码，这些代码在复杂度和准确性上，甚至在大多数情况下会超越人类。不过，ChatGPT能够替代的仍然只是编程和语言工作中一些逻辑性比较弱的零碎任务。逻辑性更强以及创造性更强的工作还远不能够被替代。笔者的一位资深需求工程师朋友表示：“多数时候，系统的需求提出方无法准确描述需求，而真正令他们满意的需求往往是售前工程师对客户足够了解后自己提出来的。”
　　当然，这里又浮现出一个更加微妙的问题——如果AI作为高级辅助工具，帮助某些从业者提升了工作效率，导致公司裁掉效率相对较低的岗位，那这种情况到底算不算AI抢了人们的饭碗呢？如果从这个角度进一步思考会发现一个非常有意思的现象：我们讨论的很多职业并不是一个简单统一的群体，而更像是根据技能水平一层一层构筑起来的金字塔。以软件行业为例，最初级的岗位只需要能够运行和测试代码。而ChatGPT这类辅助工具会逐渐替代金字塔下层的简单测试和调试工作，同时又给上层的设计和架构工作提供更高的效率。所以在AI的影响下，行业产生的变化会更像金字塔的下层不断被沙土掩埋的过程，但是金字塔本身却在不断升高。我们可以说这是一种协同进步，也可以说这是一种变相的末位淘汰。就如同《三体》中的描述：“我消灭你，与你无关！”这种未来技术的发展对于人类的影响究竟会以怎样的速度到来？让我们拭目以待。
公众号
新浪科技
新浪科技为你带来最新鲜的科技资讯
苹果汇
苹果汇为你带来最新鲜的苹果产品新闻
新浪众测
新酷产品第一时间免费试玩
新浪探索
提供最新的科学家新闻，精彩的震撼图片

近日，OpenAI 发布了一个全新的聊天机器人模型 ChatGPT，它拥有强大的文本生成能力，能够与用户对话，回答简单问题，甚至书写文章。ChatGPT 在世界范围内受到了广泛关注，引发了AI领域又一轮热潮。
虽然类似的聊天机器人并不少见，但 ChatGPT 一经发布迅速火爆全网，并收获了无数好评。有开发者认为，有些技术问题就算问谷歌和 Stack Overflow，都没有 ChatGPT 回答得靠谱。连马斯克也在感叹"很多人疯狂地陷入了 ChatGPT 循环中"，“ChatGPT 好得吓人，我们离强大到危险的人工智能不远了”。
让马斯克盛赞、全网沸腾的 ChatGPT 到底有什么魔力？根据 OpenAI 的介绍，ChatGPT 使用了与另一款 GPT-3.5 系列的模型 InstructGPT 相同的方法，但另外收集了 AI 与人类对话的数据，既包括人类自己的，也包括 AI 的，这些 AI 训练师可以参照建模建议写出自己的答案。
对于强化学习奖励模型，OpenAI 记录了 AI 训练师和聊天机器人之间的对话。然后，该团队随机选择了一个人工智能利用不同自动补全功能生成的回复，并让训练师对其进行评分。在进行微调时，OpenAI 使用了近端策略优化（proximal policy optimization），这个过程会反复进行多次。
目前，不少网友展示了与 ChatGPT 对话的有趣内容，并解锁了多个 ChatGPT 的用途。有网友询问 ChatGPT 如何设计客厅，ChatGPT 给出了三种装饰方案，还贴心地给出了三幅设计图。
图片有网友用《老友记》等喜剧演员为角色，让 ChatGPT 写一些肥皂剧对白，ChatGPT 把好几个场景描绘得惟妙惟肖：
也能解释各种科学概念：
就连写论文这种比较有挑战的事情，ChatGPT 也冲上来试了试。
其中，最令人兴奋的当属 ChatGPT 在技术领域的用途。区别于普通的聊天机器人，ChatGPT 显然更懂技术，它能写代码、改 Bug、创建编程语言、构建虚拟机……
与 GitHub 的 AI 编程神器 Copilot 相比，ChatGPT 似乎更能抢走程序员饭碗。技术公司 Replit CEO Amjad Masad 称赞 ChatGPT 是一个优秀的"调试伙伴"，“它不仅解释了错误，而且修复了它，并解释了修复方法”。
而对于一些更简单的问题，ChatGPT 更是"对答如流"，有网友在对比了谷歌的搜索结果和与 ChatGPT 的聊天结果之后，自信地宣称谷歌已经"完蛋"了。
ChatGPT 还存在许多局限性
虽然给大家带来了很多惊喜，但不得不承认，当前的 ChatGPT 还存在大型语言模型中常见的局限性。其中，部分网友对 ChatGPT 提供的回答准确性存在质疑。有网友指出，ChatGPT 提供的代码包含完全不相关的解释：
另外，ChatGPT 有时还会生成听起来合理，但既不正确又无意义的回复。按照 OpenAI 的说法，因为缺少单一事实来源，过度谨慎训练的模型会拒绝问题，而在有监督训练中，理想的答案取决于模型的知识，而不是人类演示者。
ChatGPT 对输入的微小变化也会有很大的反应。根据输入内容的不同，它可能不回答，回答错误内容，或者回答正确内容–根据 OpenAI 的说法，简单的重新措辞就可以了。此外，ChatGPT 的回答太过于冗长，大多使用短句，并爱说些车轱辘话。出现这种情况的原因是过度优化和人类导师的偏见，他们更喜欢人类反馈中那些比较详细的答案。
ChatGPT 不会用提问来回应不清楚的表述，而是尝试猜测用户的意图。有时，对于不恰当的请求，该模型会回应而不是拒绝它们。OpenAI 试图使用其适度性 API，来拒绝不符合其内容策略的请求。如果你问 ChatGPT 它自己的意见，它会拒绝回答，给出的理由是没有接入互联网。
OpenAI 表示：“ChatGPT 模型还有许多局限性，所以我们计划定期更新模型，在这些方面做些改进。但我们也希望，通过提供 ChatGPT 的访问接口，获取宝贵的用户反馈，以发现我们尚未意识到的问题。”
虽然当前的 ChatGPT 还不算完美，但它像人们描述除了一个更光明的 AI 未来。谷歌母公司 Alphabet 的工程师评论道：“像 GPT 这样的大型语言模型是谷歌活跃的 ML
研究的最大领域之一，并且有大量非常明显的应用程序可以用来回答查询、索引信息等。谷歌有大量预算与人员来处理这些类型的模型，并进行实际训练，这是非常昂贵的，因为训练这些超大型语言模型需要大量的计算能力。然而，我从谈话中收集到的是，在最大的谷歌产品（例如搜索、gmail）中实际使用这些语言模型的经济性还不完全存在。放一个大家感兴趣的演示是一回事，但考虑到服务成本，尝试将它深入集成到一个每天服务数十亿个请求的系统中是另一回事。我想我记得主持人说过他们希望将成本降低至少
10 倍，然后才能将这样的模型集成到搜索等产品中。10 倍甚至 100 倍的改进显然是未来几年可以实现的目标，所以我认为这样的技术将在未来几年内出现。”
与其说ChatGPT 的火爆会不会让底层程序员失业，倒不如说研发ChatGPT 项目会不会导致其他并行项目因研发经费、人才配比、周期等问题被搁置，从而导致失业。要知道，科技的飞速进步下，互联网行业从来不缺风口，而是看研发的产品能存活多久。

我要回帖

更多关于 人工智能chatGPT优点 的文章

 

随机推荐