Instructor 与开源模型

Instructor 支持实现了 OpenAI API chat endpoint 的开源模型提供商

参见示例 README 此处

当前已测试的开源模型提供商

• OpenRouter
• Perplexity
• RunPod TheBloke LLMs **

** 这在底层使用了带 OpenAI 插件的 text-generation-webui。