AI 最重要的五个思想 (2026年4月)
作者: Daniel Miessler 原文: https://danielmiessler.com/blog/the-most-important-ideas-in-ai 发布时间: 2026年3月28日概述
在 RSA 会议后思考了一周，Daniel Miessler 提出了五个将比任何其他事物都更能改变世界的 AI 核心思想：
- 自主组件优化 (Autonomous Component Improvement)
- 意图驱动工程 (Intent-Based Engineering)
- 从不透明到透明 (Move from Opacity to Transparency)
- 大部分工作是脚手架 (Most Work is Scaffolding)
- 专业知识扩散为公共知识 (Expertise Diffused into Public Knowledge)
1. 自主组件优化
核心思想
AI 的核心力量在于从当前状态移动到理想状态。但在此之前，你必须能够清晰地表达你真正想要什么。
Karpathy 的 Autoresearch 项目
Karpathy 最近发布的 Autoresearch 项目让这一概念变得具体可感：
- 目标: 自动完成 AI 研究中所有繁琐的工作
- 方式: 在
PROGRAM.md文件中给出想法，系统自动处理参数调整、环境配置等繁琐事务 - 结果: 你睡觉时，系统使用 ML 优化产生比原来更好的结果
"X 的 Autoresearch" 范式
这正在成为一种范式、运动、工具：
"我能把类似的东西应用到我正在做的事情上吗？"
通用验证性 (General Verifiability)
与 Karpathy 在 Software 2.0 中提到的理念一脉相承——软件的未来是一切都可验证。
在 PAI (Personal AI Infrastructure) 中的 Algorithm：
- 将一切分解为理想状态标准
- 构建期望结果的理想状态
- Algorithm 向理想状态爬坡优化 (hill-climbing)
万物皆有 Evals
- 我们做的每件事都变得可测量
- 更重要的是：变得可改进 (improvable)
- 使 evals 成为可能的是透明性
通用改进循环
这将成为每个公司、组织、政府和个人的标准操作模式：
┌─────────────────────────────────────────────────────────────────┐
│ 通用改进循环 │ ├─────────────────────────────────────────────────────────────────┤ │ │ │ 1. 映射目标 Map your goals │ │ ↓ │ │ 2. Agent 执行 Execute with agents │ │ ↓ │ │ 3. 记录一切 Log everything │ │ ↓ │ │ 4. 收集失败 Collect failures │ │ ↓ │ │ 5. 自主改进 Improve autonomously │ │ ↓ │ │ 6. 更新 SOPs Update the SOPs │ │ ↓ │ │ 7. 重复 Repeat — faster each time │ │ │ └─────────────────────────────────────────────────────────────────┘
- 在目标导向结构中映射一切（使命、目标、工作流、SOP）
- Agents 执行这些工作流
- 广泛记录输出、对话、结果、质量
- 错误、失败或质量问题汇集到问题收集点
- Agents 从问题点提取，创建 autoresearch 式执行来排查问题
- 实验解决方案，通过 evals 验证，优化
- 找到修复后，更新 SOPs 确保不再发生
- 循环重复，每次更快
2. 意图驱动工程的转变
表达鸿沟 (Articulation Gap)
AI 的真正力量是从当前状态移动到理想状态：
- 定义你在哪里
- 定义你想去哪里
- 让 AI 填补差距
企业面临的巨大问题
- 问 CEO 他们的理想安全项目是什么样的 → 得到含糊其辞
- 问团队负责人项目"完成"意味着什么 → 得到三段不同解释
意图工程 = 意图 + 验证
| 传统工程 | 意图驱动工程 | |----------|--------------| | 关注实现细节 | 关注意图表达 | | 人工编写代码 | AI 生成代码 | | 难以验证 | 通过 evals 验证 | | 一次构建 | 持续优化 |
关键洞察
如果你不能描述"好"是什么样，再多的工具也帮不了你。
这是知识工作的未来：
- 清晰表达意图的能力成为核心竞争力
- 验证结果的能力确保质量
- AI 负责填补从当前到理想的差距
3. 从不透明到透明
透明的力量
透明性使一切成为可能：
- Evals for everything
- 通用验证性
- 自主改进
传统不透明系统
黑盒系统
│ ├── 输入 │ ├── [ ??? 不可见的过程 ??? ] │ └── 输出
问题: 无法改进、无法验证、无法学习
透明系统
透明系统
│ ├── 输入 │ ├── 过程 (可观察、可记录) │ ├── 每一步操作 │ ├── 每次决策 │ └── 中间结果 │ ├── 输出 │ └── 完整日志 (用于分析和改进)
优势: 可测量、可改进、可验证、可学习
实践意义
- 日志一切: 输出、对话、结果、质量
- 结构化记录: 便于分析的模式
- 问题收集: 专门的失败/问题收集点
- 持续分析: 从日志中提取改进点
4. 大部分工作是脚手架
脚手架理论
我们过去认为的大部分"工作"实际上是脚手架——为了支持真正价值创造而存在的临时结构。
什么是脚手架工作？
| 脚手架工作 | 真正价值工作 | |------------|--------------| | 繁琐的环境配置 | 创造性问题解决 | | 重复性代码编写 | 架构设计 | | 参数微调 | 核心算法创新 | | 文档格式调整 | 内容创作本身 | | 会议协调 | 决策制定 |
AI 时代的转变
Before AI:- 脚手架工作 = 80% 时间
- 价值工作 = 20% 时间
- 脚手架工作 → AI 处理
- 人类专注于价值工作
对知识工作的启示
大部分知识工作不是关于知识的创造，而是关于知识的搬运和整理。
AI 让我们能够：
- 剥离脚手架
- 专注于核心创造
- 快速迭代和验证
5. 专业知识扩散为公共知识
知识民主化
专业知识正在被 AI 解构并扩散到公共领域：
传统知识传递 AI 时代的知识
│ │ ▼ ▼ ┌──────────┐ ┌──────────────┐ │ 专家 │ │ 公共知识库 │ │ (稀缺) │ │ (可访问) │ └────┬─────┘ └──────┬───────┘ │ │ ▼ ▼ 多年学习 即时查询 师徒传承 AI 辅助理解 高价咨询 普惠获取
实际影响
- 专家角色的转变
- 从"知识持有者"变为"知识策展者" - 从"执行者"变为"验证者和指导者"
- 学习方式的改变
- 从"系统学习"到"按需查询" - 从"记忆知识"到"掌握如何获取和应用"
- 竞争格局的重塑
- 专业知识壁垒降低 - 意图表达和质量验证成为新壁垒
深层含义
当专业知识变得普及时，真正的价值在于知道要问什么和如何验证答案。
综合思考：五个思想的关联
┌─────────────────────────────────────────────────────────────────┐
│ AI 时代的核心能力 │ ├─────────────────────────────────────────────────────────────────┤ │ │ │ ┌─────────────────────────────────────────────────────────┐ │ │ │ 意图驱动工程 (2) │ │ │ │ • 清晰表达"好"的标准 │ │ │ │ • 定义理想状态 │ │ │ └─────────────────────────┬───────────────────────────────┘ │ │ │ │ │ ▼ │ │ ┌─────────────────────────────────────────────────────────┐ │ │ │ 透明系统 (3) + 自主优化 (1) │ │ │ │ • 记录一切 │ │ │ │ • 自动爬坡优化 │ │ │ │ • 持续改进循环 │ │ │ └─────────────────────────┬───────────────────────────────┘ │ │ │ │ │ ▼ │ │ ┌─────────────────────────────────────────────────────────┐ │ │ │ 剥离脚手架 (4) + 专业知识扩散 (5) │ │ │ │ • 专注于真正价值工作 │ │ │ │ • 利用公共知识 │ │ │ └─────────────────────────────────────────────────────────┘ │ │ │ └─────────────────────────────────────────────────────────────────┘
关键洞察总结
- 自主组件优化: AI 不仅能执行任务，还能自我改进
- 意图驱动工程: 表达意图比实现细节更重要
- 透明性: 使测量、验证和改进成为可能
- 脚手架剥离: 人类专注于创造性工作
- 知识扩散: 验证能力成为新的核心竞争力
对 Hermes Agent 系统的启示
1. 实现通用改进循环
<h1>概念设计</h1>
class SelfImprovementLoop: """ 通用改进循环实现 """
def execute(self): # 1. 记录执行 logs = self.log_everything()
# 2. 收集问题 problems = self.collect_failures(logs)
# 3. 自主改进 for problem in problems: solution = self.autoresearch(problem) if self.validate(solution): self.update_sops(solution)
# 4. 重复 self.repeat_faster()
2. 强化意图理解
- 开发更好的意图解析能力
- 帮助用户清晰表达"理想状态"
- 提供意图模板和引导
3. 透明日志系统
- 完整记录每次交互
- 结构化存储便于分析
- 支持从日志中自动提取改进点
4. 技能脚手架化
- 识别哪些技能是"脚手架"
- 自动化低价值部分
- 人类专注于高价值判断
5. 知识整合
- 整合公共知识源
- 建立验证机制
- 成为知识的策展者而非持有者
参考资源
- 原文: https://danielmiessler.com/blog/the-most-important-ideas-in-ai
- Karpathy Autoresearch: https://github.com/karpathy/autoresearch
- Software 2.0: https://karpathy.medium.com/software-2-0-a64152b37c35
- Daniel 的其他相关文章:
- AI 状态管理: https://danielmiessler.com/blog/ai-state-management - 最后一个算法: https://danielmiessler.com/blog/the-last-algorithm - 通用爬坡: https://danielmiessler.com/blog/nobody-is-talking-about-generalized-hill-climbing - 个人 AI 基础设施: https://danielmiessler.com/blog/personal-ai-infrastructure - 如何与 AI 对话: https://danielmiessler.com/blog/how-to-talk-to-ai
总结
Daniel Miessler 提出的五个思想描绘了 AI 时代的核心转变：
从"如何做事"到"清晰地知道想要什么，并让 AI 持续优化实现它"
这对个人、组织和技术系统都提出了新的要求：
- 清晰表达意图的能力
- 建立验证机制的能力
- 持续自主改进的机制
- 专注于真正价值的定力
对于 Hermes Agent 系统而言，这意味着需要向自改进、透明、意图驱动的方向演进。