泽兴芝士网

一站式 IT 编程学习资源平台

Smolagents :打造优秀的LLM Agent

Smolagents 是一个库,使您能够用几行代码运行强大的代理!

该库提供:

简单:代理逻辑只需几千行代码即可实现。我们将抽象保持在原始代码之上的最小形式!

支持任何 LLM:它支持在其版本中或通过我们的推理 API 加载的 Hub 上托管的模型transformers,还支持通过我们的 LiteLLM 集成加载来自 OpenAI、Anthropic 等的模型。

对代码代理提供一流的支持,即以代码形式编写其操作的代理(而不是“用于编写代码的代理”),请在此处阅读更多信息。

Hub 集成:您可以与 Hub 共享工具并加载工具,未来还将有更多功能!


代码代理?


我们构建了代理,其中 LLM 引擎将其操作写入代码中。事实证明,这种方法比当前行业惯例(让 LLM 输出其要调用的工具的字典)效果更好:使用的步骤减少了 30%(因此 LLM 调用减少了 30%),并且在困难的基准测试中获得了更高的性能。前往 [
./conceptual_guides/intro_agents.md] 了解更多信息。

特别是,由于代码执行可能是一个安全问题(任意代码执行!),我们在运行时提供了选项:

  • 一个安全的 Python 解释器,可以在你的环境中更安全地运行代码
  • 沙盒环境。

它有多轻?


我们努力将抽象保持在最低限度,主要代码agents.py大约有 1,000 行,但仍然相当完整,并且实现了几种类型的代理:CodeAgent在代码片段中编写其操作,以及ToolCallingAgent利用内置工具调用方法的更经典的代理。

很多人会问:为什么要使用框架?因为其中很大一部分内容并不简单。例如,代码代理必须在其系统提示符、解析器和执行过程中保持一致的代码格式。因此,我们的框架会为您处理这种复杂性。但当然,我们仍然鼓励您破解源代码并仅使用您需要的部分,而排除其他所有内容!


Github:https://github.com/huggingface/agents



控制面板
您好,欢迎到访网站!
  查看权限
网站分类
最新留言