跳到内容

订阅我们的新闻通讯,获取更新和技巧

好的 LLM 验证就是好的验证

如果你的验证逻辑可以像人类一样学习和适应,但又能以软件的速度运行呢?这就是验证的未来,而且它已经到来。

验证是可靠软件的支柱。但传统方法是静态的、基于规则的,并且无法适应新的挑战。本文探讨了如何使用 PydanticInstructor 等 Python 库,将动态的、机器学习驱动的验证引入到你的软件堆栈中。我们使用符合如下所示结构的验证函数来验证这些输出。

def validation_function(value):
    if condition(value):
        raise ValueError("Value is not valid")
    return mutation(value)

随着大型语言模型 (LLM) 的出现,检索增强生成 (RAG) 成为了热门话题。然而,在过去一年中 帮助初创公司 将 LLM 集成到其堆栈的过程中,我注意到获取用户查询、对其进行嵌入,然后直接搜索向量存储的模式实际上只是演示软件。

什么是 RAG?

检索增强生成 (RAG) 是一种使用 LLM 生成响应的技术,但它使用搜索后端来增强生成。在过去一年中,使用文本嵌入与向量数据库相结合的方式是我见过的最流行的社交化方法。

RAG

嵌入用户查询并进行搜索的简单 RAG。

所以,让我们从检查我所谓的“傻瓜式”RAG 模型开始——这是一个比你想象的更基础的设置。