进入 LLM 网格

ayesha983

Dataiku 的 LLM Mesh 充当安全的 API 网关；一个中间层，用于管理和路由应用程序及其底层服务之间的请求，以免创建导致下游技术债务的硬编码依赖关系。

通过 IT 管理员集中管理和控制对已批准的 LLM 和 AI 服务的访问，企业可以轻松连接到来自商业 LLM 提供商（例如 Azure OpenAI 或 OpenAI）的 AI 服务，或使用本地托管的模型（无论是私人开发的还是从 Hugging Face 下载的）。

Dataiku 具有与许多领先的 LLM 合作伙伴的内置连接。

Dataiku 具有与许多领先的 LLM 合作伙伴的内置连接。

与 Dataiku 中的常规数据库或数据存 德国电报数据 储连接类似，LLM API 网关通过保护 API 密钥和令牌并允许管理员控制对这些专用模型的访问来降低风险。这让 IT 团队可以从以下几个关键方面受益：

轻松访问和更换应用程序中已批准的模型。对于最终用户来说，最有价值的可能是 LLM Mesh 如何以抽象的方式轻松访问和更换应用程序中已批准的模型，无论是使用代码还是 Dataiku 的内置可视化工具。
消除配置和维护连接的负担。对于数据科学家和机器学习工程师来说，消除配置和维护这些快速发展的人工智能服务的安全连接的负担是一大优势。
管理设置中的示例连接
管理设置中的示例连接