Posts

这篇文章是记录我使用golang开发mcp服务，用在AI应用中。 那什么是MCP呢？ MCP（Model Context Protocol）是一个开放标准，旨在为 AI 应用提供统一的工具和资源访问接口。它定义了客户端（AI 模型）与服务端（工具提供者）之间的通信规范，支持： 工具调用（Tools） 资源访问（Resources） 提示模板（Prompts） 双向通信 为什么我会选择Go语言，是因为它有以下这几个优势： 并发性能: Go 的 goroutine 和 channel 机制天然适合处理大量并发连接 内存效率: 编译型语言，内存占用小，启动速度快 网络编程: 标准库对 WebSocket、HTTP 提供良好支持 部署便利: 单一二进制文件，容器化部署简单 生态完善: 丰富的第三方库支持 另外未来可能服务器后端我会采用Go语言来重写。 在开发前，我的整体MCP服务架构是采取分层，确保模块化，可扩展性和可维护性，以下是我的整体系统架构图： 核心组件： 应用程序入口 (cmd/server/main.go) 作为整个服务的启动点，负责： 配置加载和验证 日志系统初始化 MCP 处理器创建 工具注册 服务器启动和优雅关闭 // 文件: cmd/server/main.go func main() { // Parse command line flags var ( configPath = flag.String("config", "", "Path to configuration file") logLevel = flag.String("log-level", "", "Log level (debug, info, warn, error)") version = flag....

RAG系统异步设计架构 目录 系统概览 异步架构设计 核心组件详解 事件循环管理机制 向量存储异步策略 FastAPI集成模式 LangGraph工作流设计 异步问题与解决方案 性能优化策略 最佳实践 系统概览 整体架构图 技术栈 Web框架: FastAPI (异步ASGI) 异步运行时: Python asyncio 向量数据库: Milvus (支持异步操作) LLM框架: LangChain + LangGraph 文档处理: LangChain Document Loaders + 模块化分块策略 嵌入模型: DashScope Embeddings 分块策略: 递归、Token、语义、字符、代码、格式特定策略 异步架构设计 分层异步架构 异步设计原则 非阻塞I/O: 所有网络和磁盘操作都使用异步方式 线程池回退: 对于不支持异步的操作，使用线程池执行 事件循环隔离: 避免不同事件循环间的冲突 并发控制: 合理限制并发数量，避免资源耗尽 错误隔离: 异步操作的错误不影响整个系统 核心组件详解 1. AsyncLoopManager - 事件循环管理器 # src/utils/async_utils.py class AsyncLoopManager: """统一的异步事件循环管理器 - 单例模式""" _instance = None _lock = threading.Lock() def __new__(cls): if cls....

Reinforcement Learning — Finite Markov Decision Processes (MDP) MDPs are a classical formalization of sequential decision making, where actions influence not just immediate rewards, but also subsequent situations, or states, and through those future rewards. Thus MDPs involve delayed reward and the need to tradeoff immediate and delayed reward. Whereas in bandit problems we estimated the value $q_*(a)$ of each action $a$, in MDPs we estimate the value $q_*(s, a)$ of each action $a$ in each state s, or we estimate the value $v_*(s)$ of each state given optimal action selections....

A k-armed Bandit Problem Consider the problem, you are faced repeatedly with a choice among k different options, or actions. After each choice you receive a numerical reward chosen from a stationary probability distribution that depends on the action you selected. You objective is to maximize the expected total reward over some time period. In a k-armed bandit problem, each of the k actions has an expected r mean reward given that action is selected....

Reinforcement Learning Notes Reinforcement learning takes the opposite tack, starting with a complete, interactive, goal-seeking agent. All reinforcement learning agents have explicit goals, can sense aspects of their environments, and can choose actions to influence their environments. Markov decision processes: 1.Sensation 2.Action 3.Goal Elements of Reinforcement Learning A reinforcement learning system: 1. a policy 2. a reward signal 3. a value function 4. a model of the environment A policy A policy defines the learning agent’s way of behaving at a given time....

eBPF eBPF可以在不修改Linux内核模块的情况下，与内核进行交互。比如进行内核级别的系统监控。 可以利用eBPF建立hook捕捉系统内部情况，比如I/O请求，文件操作，CPU与内存使用情况。 BPF Maps 一个Map是一个数据结构，它用来访问eBPF程序和用户空间。 Maps能够被用来共享多个eBPF程序或者与用户空间程序和在内核中的eBPF程序通信的数据。 有些典型的使用是： 用户空间写入参数信息通过一个eBPF程序被检索 一个eBPF程序正在存储状态，之后通过另一个eBPF程序被恢复初始状态。 一个eBPF程序写入结果或者指标到一个map中，之后通过一个用户空间程序恢复到初始状态，这个用户空间程序将表示这些结果。 BPF maps是key-value存储模式。 有些map类型被定义为数组，这些数组常常使用4-byte索引作为键值类型。另一些map则是被定义为hash表，这些hash表用一些随机数据类型作为键值类型。 map类型被用来优化某些特别的操作类型，例如first-in-first-out queues, least-recently-used data storage, longest-prefix matching, bloom filters。 有些eBPF map类型拥有特别的对象类型信息。例如，sockmaps和devmaps有sockets和网络设备的信息，它们是通过相关网络eBPF程序重定向流量获得的信息。或者一个程序数组map存储一系列被索引的eBPF程序，它们被用来实现tail calls，即一个程序调用其他程序。 有些map类型有每个CPU的变体，它们意味着内核对每个CPU核信息使用不同的存储块的map。 Tail Calls Tail Calls能够调用和执行其他eBPF程序以及替换执行的内容，类似于execve()进行系统调用操作。 可以用bpf_tail_call()的helper函数做Tail Calls： 调用bpf_tail_call()时，它将会立即停止当前eBPF程序的执行，并开始执行目标程序。 为了减少资源消耗并确保安全性，每个程序在单次调用中的tail call数量被限制在32次。 eBPF虚拟机 它用来处理eBPF字节码指令(eBPF bytecode instructions)，然后将它们转换成运行在CPU的机器指令集。 eBPF字节码有多个指令组成，这些指令运行在eBPF的虚拟寄存器中。这些eBPF指令集和寄存器模式被设计来映射CPU的架构，以此来直接编译或者中断从字节码到机器码这个过程。 eBPF寄存器 eBPF虚拟机使用了10个通用寄存器，这些寄存器标成从0到9的序号。另外，10号寄存器被用来做栈帧指针，它只能读不能写。一旦一个eBPF程序开始执行，值被存在这些寄存器中保持状态的顺序。 在执行eBPF程序前，数据(context argument)被加载到1号寄存器中。从函数返回的值被存储在0号存储器中。 在从eBPF代码中调用一个函数之前，这些参数中的函数会存储在1号寄存器到5号寄存器中。 eBPF的指令 在Linux源码中eBPF的一条指令表示为： struct bpf_insn { __u8 code; /* opcode */ __u8 dst_reg:4; /* dest register */ __u8 src_reg:4; /* source register */ __s16 off; /* signed offset */ __s32 imm; /* signed immediate constant */ }; 代码说明：...