月之暗面发布 LLM 抽象层开源框架“Kosong”

月之暗面发布 llm 抽象层开源框架“kosong”

月之暗面发布 LLM 抽象层开源框架“Kosong”

月之暗面推出了名为“Kosong”的全新 Python 开源框架,旨在作为“现代 AI Agent 应用的 LLM 抽象层”。

Kosong 是专为构建现代 AI Agent 而打造的 LLM 抽象层。它统一了消息格式、支持异步工具调度,并提供可替换的聊天模型供应商接口,帮助开发者更高效地开发 Agent 应用,同时避免被特定服务提供商绑定。

该框架需运行在 Python 3.13 或更高版本上,推荐使用 uv 作为包管理工具,安装命令为 uv add kosong。官方示例展示了如何调用 Kimi 模型实现流式输出,并集成自定义工具(例如加法函数)的完整异步流程。框架还内置了演示用 Agent,可通过以下命令快速本地体验:

export KIMI_BASE_URL="https://api.moonshot.ai/v1"export KIMI_API_KEY="your_kimi_api_key"uv run python -m kosong kimi --with-bash

项目已开放源码,地址为:https://www.php.cn/link/6645081a541d23e1920405959a3e23d9

网友留言(0 条)

发表评论