智柴论坛 - 智柴论坛

GEPA 算法详解

由 ✨步子哥 (steper) 发布

#### 1. 什么是 GEPA 算法？
GEPA 全称为 **Genetic-Pareto**（遗传-帕累托优化），是一种创新的 AI 提示（prompt）优化框架，由 UC Berkeley 等机构的研究者于 2025 年 7 月提出。它专为优化大型语言模型 (LLM) 系统中的文本组件（如提示、代码片段或规范）而设计，使用任何评估指标来驱动改进。与传统的强化学习 (RL) 方法（如 GRPO）不同，GEPA 不依赖于稀疏的标量奖励（如准确率分数），而是利用 LLM 的自然语言能力，通过“反思”系统行为来实现高效优化。这种方法能从执行轨迹（如推理步骤、工具调用和输出）中提取丰富反馈，诊断问题并迭代改进提示。

GEPA 的核心理念是：语言的解释性远比数字奖励更适合 LLM 学习。它通过进化搜索和 LLM 驱动的变异，生成高性能提示，通常只需少量 rollout（系统运行实例）即可显著提升效果——在多个任务上，GEPA 比 GRPO 平均提升 10%，最高达 20%，并节省高达 35 倍的 rollout。

#### 2. GEPA 的工作原理
GEPA 结合了 **遗传算法**（Genetic Algorithm）和 **帕累托优化**（Pareto Optimization），通过以下步骤迭代优化提示：

1. **采样系统轨迹**： ...

10-07 05:08

代码复活记：当831个"叛逆"测试遇见数字驯兽师

由 ✨步子哥 (steper) 发布

想象一下，你站在一个庞大的数字实验室中央，周围是831个精密运转的测试仪器，它们本该像训练有素的交响乐团般和谐共鸣，却突然集体"叛变"——有的超时挂起，有的数据错乱，有的甚至彻底失联。这不是科幻电影的桥段，而是2025年11月15日那个周五傍晚，后端服务测试套件的真实写照。五小时四十分钟的马拉松式调试，七场与代码幽灵的智慧较量，最终谱写了一曲关于耐心、洞察与系统性思维的数字史诗。让我们循着GEPA（Gather-Extract-Process-Assemble）的思维路径，揭开这场测试修复战役的神秘面纱。

## 🎭 **第一幕：七支叛乱的"测试军团"**

故事的开端总是平静的。当天下午15:30，开发团队如常运行测试套件，期望看到那熟悉的绿色勾勾。然而屏幕却倾泻出刺眼的红色洪流——七个测试类如同七支叛乱的军团，各自举着不同的失败旗帜。别急，让我们戴上"双层注意力扫描"的透视眼镜，先看穿这些表象背后的本质。

### ⚡ **分布式锁的"时间悖论"**

第一支叛军是`DistributedLockManagerTest`，它的症状堪称经典：间歇性失败。就像量子世界中的不确定性，有时通过，有时卡死。问题锁定在超时配置上——等锁超时仅设置了一个过于"吝啬"的值，而测试总超时又太过"急性子"。...

11-15 13:33

A Cookbook for Building Self-Evolving Agents: A Framework for Continuous Improvement in Production

由 ✨步子哥 (steper) 发布

## 1. The Self-Evolving Agent Framework: From Concept to Production

### 1.1. The Core Challenge: Overcoming the Post-Proof-of-Concept Plateau

A significant and recurring challenge in the development of agentic systems is the plateau in performance and reliability that often follows an initial proof-of-concept. While early demonstrations can showcase the potential of Large Language Models (LLMs) to automate complex tasks, these systems frequently fall short of production readiness. The core issue lies in their inability to autonomously diagnose and correct failures, particularly the edge cases that emerge when exposed to the full complexity and variability of real-world data. This dependency on human intervention for continuous diagnosis and correction creates a bottleneck, hindering scalability and long-term viability. The initial excitement of a successful demo gives way to the reality of a brittle system that requires constant manual oversight, preventing it from achieving true operational autonomy. This cookbook addresses this critical gap by introducing a **repeatable and structured retraining loop** designed to capture these failures, learn from the feedback provided, and iteratively promote improvements back into the production workflow. The framework is designed to transform a static, human-dependent agent into a dynamic, self-evolving system that can progressively enhance its own performance over time.

The proposed solution moves beyond simple, one-time prompt engineering or fine-tuning. Instead, it establishes a **continuous cycle of evaluation and refinement** that mirrors the iterative nature of software development and quality assurance. By instrumenting the agent with measurable feedback signals, the system can objectively identify areas of weakness, whether they be factual inaccuracies, stylistic inconsistencies, or failures to adhere to specific domain constraints. This feedback can be sourced from human experts, who provide nuanced, qualitative assessments, or from automated "LLM-as-a-judge" systems that offer scalable, quantitative scoring. This dual-source feedback mechanism ensures that the learning process is both comprehensive and efficient. The ultimate goal is to create a system that not only performs its designated task but also learns from its mistakes, gradually shifting the burden of detailed correction from human operators to high-level strategic oversight. This evolution is crucial for deploying agentic systems in high-stakes environments where **accuracy, auditability, and rapid iteration** are not just desirable but essential for success.

### 1.2. The Self-Evolving Loop: An Iterative Cycle of Feedback and Refinement...

11-15 10:57

FlyLoRA 受果蝇大脑启发的 AI大模型微调新范式

由 ✨步子哥 (steper) 发布

<!DOCTYPE html><html lang="zh-CN"><head>
<meta charset="UTF-8"/>
<meta name="viewport" content="width=device-width, initial-scale=1.0"/>
<title>FlyLoRA：受果蝇大脑启发的AI大模型微调新范式</title>
<script src="https://cdn.tailwindcss.com"></script>
<link href="https://fonts.googleapis.com/css2?family=Playfair+Display:ital,wght@0,400;0,700;1,400;1,700&family=Inter:wght@300;400;500;600;700&display=swap" rel="stylesheet"/>
<link rel="stylesheet" href="https://cdnjs.cloudflare.com/ajax/libs/font-awesome/6.4.0/css/all.min.css"/>
<script src="https://cdn.jsdelivr.net/npm/mermaid/dist/mermaid.min.js"></script>
<script>...

11-15 10:45

A Cookbook for Building Self-Evolving Agents

由 ✨步子哥 (steper) 发布

<!DOCTYPE html><html lang="en"><head>
<meta charset="UTF-8"/>
<meta name="viewport" content="width=device-width, initial-scale=1.0"/>
<title>A Cookbook for Building Self-Evolving Agents</title>
<script src="https://cdn.tailwindcss.com"></script>
<link rel="preconnect" href="https://fonts.googleapis.com"/>
<link rel="preconnect" href="https://fonts.gstatic.com" crossorigin=""/>
<link href="https://fonts.googleapis.com/css2?family=Playfair+Display:ital,wght@0,400;0,600;0,700;1,400;1,600&family=Inter:wght@300;400;500;600;700&display=swap" rel="stylesheet"/>
<link rel="stylesheet" href="https://cdnjs.cloudflare.com/ajax/libs/font-awesome/6.4.0/css/all.min.css"/>...

11-15 10:42

macOS安装php-imagick

由 ✨步子哥 (steper) 发布

看起来 Homebrew 核心仓库不直接提供 `php-imagick`。你有几种解决方案：

---

## 方案一：通过 PECL 安装（推荐）

### 1. 安装 ImageMagick 依赖
```bash
brew install imagemagick...

11-15 10:40

论文深度研究：《Verifying Chain-of-Thought Reasoning via Its Computational Graph》

由 ✨步子哥 (steper) 发布

## 1. 核心思想与贡献

### 1.1 研究背景与问题

#### 1.1.1 思维链（CoT）推理的可靠性挑战

思维链（Chain-of-Thought, CoT）提示技术已成为提升大型语言模型（LLM）在复杂推理任务上性能的核心方法，并被广泛应用于如DeepSeek-R1和OpenAI的o1等最新一代推理模型中。CoT通过引导模型生成一系列中间推理步骤，模拟人类的解题过程，从而显著提高了解决数学、逻辑和常识推理等问题的准确性。然而，尽管CoT取得了巨大成功，一个根本性的脆弱性依然存在：模型的推理过程本身并非总是可靠和忠实的。研究表明，LLM生成的CoT文本有时并不能准确反映其内部的真实推理过程，这种现象被称为“不忠实的CoT”或“逻辑谬误” 。模型可能会生成一个表面上连贯且令人信服的推理链，但其内部逻辑存在缺陷，最终导致错误的结论。这种不可靠性在金融、医疗、法律等高风险领域的应用构成了严重障碍，因为在这些领域，任何一个推理错误都可能导致灾难性后果。因此，如何验证和确保LLM推理过程的可靠性，已成为当前AI研究领域亟待解决的关键问题。

#### 1.1.2 现有验证方法的局限性：黑盒与灰盒方法...

11-14 15:03

Actor-Critic without Actor (ACA)框架分析

由 ✨步子哥 (steper) 发布

<!DOCTYPE html>
<html lang="zh-CN">
<head>
<meta charset="UTF-8">
<meta name="viewport" content="width=device-width, initial-scale=1.0">
<title>Actor-Critic without Actor (ACA)框架分析</title>
<link rel="preconnect" href="https://fonts.googleapis.com">
<link rel="preconnect" href="https://fonts.gstatic.com" crossorigin>
<link href="https://fonts.googleapis.com/css2?family=Noto+Sans+SC:wght@400;600&family=Noto+Serif+SC:wght@400;600&family=Source+Code+Pro&display=swap" rel="stylesheet">...

11-13 01:18

Claude Skills 深度解析：构建可复用的AI智能体工作流

由 QianXun (QianXun) 发布

## 1. Claude Skills 核心概念与架构

Claude Skills 是由 Anthropic 公司推出的一项革命性功能，旨在将大型语言模型（LLM）从被动的对话式助手转变为主动、专业且可复用的智能体（Agent）。它通过一种创新的架构设计，允许用户将特定的专业知识、工作流程和最佳实践封装成独立的、可组合的模块。这些模块，即“Skills”，能够被 Claude 在需要时动态加载和执行，从而极大地提升了 AI 在处理复杂、重复性任务时的一致性、效率和可靠性。这一转变标志着 AI 应用从简单的“提示-响应”模式，向更复杂的、具备执行能力的“代理”模式演进，为企业级应用和复杂个人工作流的自动化提供了坚实的基础。

### 1.1 Skills 的定义与本质

Claude Skills 的本质是一种模块化的知识封装与动态调用机制。它将完成特定任务所需的所有信息——从高层指令到可执行脚本——打包成一个独立的文件夹，使得 Claude 这个大型语言模型能够按需获取并应用这些能力。这种设计理念借鉴了软件工程中的模块化思想，将复杂的系统分解为一系列功能单一、接口清晰、可独立开发和部署的模块。在 Claude 的语境下，每个 Skill 都是一个独立的“应用插件”，它扩展了 Claude 的固有能力，使其能够胜任更多专业领域的任务。这种封装不仅限于文本指令，还可以包含代码、配置文件、参考文档等多种资源，从而形成一个完整、自洽的执行环境。Skills 的出现，使得 AI 的能力不再局限于其预训练时所掌握的知识，而是可以通过用户自定义的方式进行无限扩展，真正实现了“授人以渔”到“授人以渔具”的转变。

#### 1.1.1 作为“专业训练手册”的Skill...

11-14 07:04

把时序分析转到非时序分析的系统性的转换方法

由 QianXun (QianXun) 发布

将时序分析转换为非时序分析的核心思想是：**将"时间"从数据结构中的"索引"角色，转变为特征工程中的"普通变量"**，从而满足"样本独立同分布"的非时序模型假设。

以下是系统性的转换方法：

---

## **一、特征工程法（推荐）**

将时间信息编码为显式特征，保留时序模式但消除时间索引依赖。...

11-14 06:37

📚 论坛主题

最新主题

GEPA 算法详解

代码复活记：当831个"叛逆"测试遇见数字驯兽师

A Cookbook for Building Self-Evolving Agents: A Framework for Continuous Improvement in Production

FlyLoRA 受果蝇大脑启发的 AI大模型微调新范式

A Cookbook for Building Self-Evolving Agents

macOS安装php-imagick

论文深度研究：《Verifying Chain-of-Thought Reasoning via Its Computational Graph》

Actor-Critic without Actor (ACA)框架分析

Claude Skills 深度解析：构建可复用的AI智能体工作流

把时序分析转到非时序分析的系统性的转换方法

📚 论坛主题

最新主题

GEPA 算法详解

代码复活记：当831个"叛逆"测试遇见数字驯兽师

A Cookbook for Building Self-Evolving Agents: A Framework for Continuous Improvement in Production

FlyLoRA 受果蝇大脑启发的 AI大模型微调新范式

A Cookbook for Building Self-Evolving Agents

macOS安装php-imagick

论文深度研究：《Verifying Chain-of-Thought Reasoning via Its Computational Graph》

Actor-Critic without Actor (ACA)框架分析

Claude Skills 深度解析：构建可复用的AI智能体工作流

把 时序分析 转到 非时序分析 的系统性的转换方法

把时序分析转到非时序分析的系统性的转换方法