ChatGPT 速通手册_饶琛琳;王秋实_AZW3_MOBI_EPUB_PDF_电子书(无页码)_饶琛琳;王秋实

内容节选

第4章ChatGPT避坑指南 ChatGPT作为一种人工智能文本生成技术,有可能产生虚假、错误或无意义的对话内容。在ChatGPT成为新一代人工智能代表性产品的今天,人类可能会产生一种科技崇拜,认定ChatGPT输出的权威性,最后造成负面影响。类似的现象,在20年前搜索引擎技术就曾经经历过。至今,我们依然经常看到医患关系的新闻,患者经常以“百度上说我这种情况是×××”为由,质疑医生的判断。如果对ChatGPT没有正确的认知,不了解ChatGPT的错误内容风险,类似“ChatGPT说我这个病怎么治”,很可能会出现在现实中,这比搜索引擎更加可怕。 和ChatGPT Checker能初步检查文本内容是否由AI生成不同,ChatGPT生成文本的“正确性”,目前尚无专门的检验或鉴别算法。因此,我们只能通过一些大的原则,提前判断ChatGPT的适用场景,避免在这些场景中,过于依赖ChatGPT。 比如下面是一个很好的示例,ChatGPT根据“林黛玉”的人物性格,“倒拔垂杨柳”的可能性,编造一个完整的故事,有理有据,有始有终。生成完毕以后,ChatGPT甚至因为其中关键字“自杀”的负面情绪,触发了红色风险警告!但本次问答最根本的问题是:《红楼梦》中根本不存在林黛玉倒拔垂杨柳这么一件事情。这个内容不可信,如下图所示。 谈ChatGPT的不成功用例,我们其实可以先放大到更广阔的AIGC领域。当前所有AI都是在人类现有知识和数据基础上进行训练的。因此,它们在某种程度上,也都有类似的局限性。 依然是Stephen Wolfram的话: And indeed, much like for humans, if you tell it something bizarre and unexpected that completely doesn't fit into the framework it knows, it doesn't seem like it'll successfully be able to "integrate" this. It can "integrate" it only if it's basically riding in a fairly simple way on top of the framework it already has. 所以当AI用于创作时,需要足够合理的假设和引导。打个比方,古代人类设想了各种非人、半人的神仙妖怪,比如半人马族,至今都有大量的讨论:人马族奔跑的风阻怎么样?人马族的内脏怎么分布?等等。现在如果让AI来创造一个半人车族,AI能画出来么?显然不能,AI只能理解半人车族是车里的司机或者车外的模特。 事实上,由于法律或者训练集限制的原因,实际动手操作一下就会发现,目前最流行的画图AI,stable-diffusion和dalle2,如果仅使用文生图方式的prompt,压根连人马族都画不出来。我多次测试,绝大多数输出的都是普通的马或人骑马,偶尔能画出来一次人身马脸、人屁股上铺个马鞍……。 具体到ChatGPT上,同样在大语言模型领域卓有建树的Cohere公司创始人Yunyu Lin,曾经著文讲解他认为最合适大语言模型的三类场景: (1)There is no one correct answer(creative applications, summarization). (2)There is some tolerance for error(routing, tagging, searching, and other tasks where perfection isn't required). (3)The answer can be easily verified(math, writing code for specific tasks, or human-in-the-loop use cases). ChatGPT的可用场景,显然是列举不完的。但从以上几个特点来看,我们可以反向提取出ChatGPT不合适的场景特点: (1)有明确且唯一可行的标准定义; (2)即使稍微犯错也会造成较大影响,故而不可接受; (3)错误不是很容易发现或证实,至少相对当前使用者的知识水平来说很难。 一旦某个场景同时满足以上3个条件,那显然就不太适合使用ChatGPT。 4.1 中英文差距:宋词与十四行诗 根据前文介绍的三大反例特性,我们可以尝试给出几个典型的反例。比如诗词创作,尤其是长短句约束更加严格的词牌,等等。 (1)有明确且唯一可行的标准定义——一个固定词牌的格律,不可能超出《钦定词谱》的定义外随意创作。 (2)即使稍微犯错也会造成较大影响,故而不可接受——由于《钦定词谱》本身已经是古人根据数以万计......

  1. 信息
  2. 内容简介
  3. 前言
  4. 第1章 ChatGPT的由来
  5. 第2章 ChatGPT页面功能介绍
  6. 第3章 ChatGPT的法律风险
  7. 第4章 ChatGPT避坑指南
  8. 第5章 ChatGPT场景案例
  9. 第6章 当前热门AI应用
  10. 第7章 ChatGPT配合其他AI能力的应用
  11. 第8章 OpenAI API介绍
  12. 参考文献
  13. 读者调查表
  14. 电子工业出版社编著书籍推荐表