分享一个有用的博文:为生产构建 LLM 应用程序
大型语言模型 (LLM) 将如何改变机器学习工作流程?
在与几家使用 LLM 应用程序的公司合作并亲自深入构建应用程序之后,作者意识到两件事:
使用 LLM 很容易做出很酷的东西,但很难用它们做出适合生产的东西。
LLM的局限性因即时工程中缺乏工程严谨性而加剧,部分原因是自然语言的模棱两可性,部分原因是该领域的新生性质。
这篇文章由三部分组成:
第 1 部分讨论生产 LLM 应用程序的主要挑战和我所见过的解决方案。
第 2 部分讨论如何使用控制流(例如 if 语句、for 循环)组合多个任务,以及如何整合工具(例如 SQL 执行器、bash、Web 浏览器、第三方 API)以实现更复杂和更强大的应用程序。
第 3 部分介绍了一些作者过的公司在 LLM 之上构建的有前途的用例,以及如何从较小的任务构建它们。