Agent 为何需要「认知哲学」?

当前AI(如ChatGPT)已能自主规划旅行、科研协作,但根本矛盾暴露:

  • 行为随机性:为什么有时疯狂调用搜索工具,有时又自信满满地胡说八道?
  • 效率黑洞:80%的工具调用可能是无效的(如已知天气仍查天气预报)

img

论文:Toward a Theory of Agents as Tool-Use Decision-Makers
链接:https://arxiv.org/pdf/2506.00886

论文指出:缺乏认知地基!就像人类需要理解「我知道什么/该怎么做」,AI也需要明确的认知框架。

“真正的自主性要求Agent扎根于认知框架——明确知道什么、需要知道什么、如何高效获取知识。”

颠覆性观点:推理=行动?

传统认为:推理(想)→ 行动(做)是线性流程。
本文提出
革命性等式

推理 = 内部认知工具
行动 = 外部物理工具

两者本质都是「知识获取工具」

Agent作为决策中心,平衡大脑内的思考链和外部的API/搜索/按钮点击

生活化类比

  • 当你心算“15×15” → 调用内部计算工具(推理)
  • 当你用计算器 → 调用外部设备工具(行动)

打破「想」与「做」的等级制,让AI自由选择最高效路径。

知识边界 vs 决策边界:导航系统

  • 知识边界(Knowledge Boundary)

    = AI当前知道/不知道的分界线
    公式意义:世界知识全集被拆分为「已知」和「待获取」
    举例:GPT-4知道2024奥运在巴黎(已知),但不知道2032在哪(待查)。

  • 决策边界(Decision Boundary)

    = 决定「用脑」还是「用手」的临界点
    理想状态:两条边界完全重合 → 该想时想,该查时查

两条边界对齐时,AI仅在必要时调用外部工具

反例

  • 边界错位1:知识边界内却调用工具 → 效率低下(如知道1+1=2仍查计算器)
  • 边界错位2:知识边界外却强行推理 → 幻觉撒谎(如瞎编2032奥运主办国)

最优行为四象限

论文分析四种行为模式:

行为模式 典型表现 问题
内外工具滥用 疯狂搜索+长篇大论 耗能高、错误传导
只爱动手(工具依赖) 遇事不决就查API 扼杀AI进化潜能
只爱动脑(高效推理) 尽量自主推理,少用工具 可能错过捷径
内外工具极简 用最少步骤解决问题 训练难度极高

最优智能体 = 极简主义者
目标:用最少工具调用(无论内外)完成任务,像高手「四两拨千斤」

训练时动态调整决策边界对齐知识边界

推理时通过交互实时扩展知识边界

落地路径

  • 训练革命:Next-Tool预测
    传统AI学接龙文字(Next-Token),新一代需学接龙工具(Next-Tool)→ 把「何时调用工具」变成可学习技能

  • 对齐黑科技

    • 监督微调:给工具使用打标签(例:教AI“这类问题该查资料”)
    • 强化学习:奖励「正确+省步骤」行为(如OTC-PO算法惩罚多余工具调用)
  • 自进化提示工程
    如Alita框架让AI自己设计工作流,像人类总结“秘籍”越用越精

当前99%的AI训练只关注结果对错,不管过程多蠢!

未来:从工具人到「认知主体」

  • 视觉Agent:看懂画面缺口(如“冰箱没牛奶”)→ 自动触发购物工具
  • 具身Agent:机器人身体=终极「外部工具」,物理行动补全知识
  • 多AI协作:各AI共享「知识地图」,像人类团队分工查漏补缺

“AI的智能不在行动频率,而在知道何时思考/何时行动。”
—— 这将塑造更安全、可靠、类人的AI。


如何系统学习掌握AI大模型?

AI大模型作为人工智能领域的重要技术突破,正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口,掌握AI大模型的知识和技能将变得越来越重要。

学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。

这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享

1. 成长路线图&学习规划

要学习一门新的技术,作为新手一定要先学习成长路线图方向不对,努力白费

这里,我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。

在这里插入图片描述

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的,我们精选了一系列深入探讨大模型技术的书籍和学习文档,它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础(书籍含电子版PDF)

在这里插入图片描述

3. 大模型视频教程

对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的大模型视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识

在这里插入图片描述

4. 大模型项目实战

学以致用 ,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。

在这里插入图片描述

5. 大模型面试题

面试不仅是技术的较量,更需要充分的准备。

在你已经掌握了大模型技术之后,就需要开始准备面试,我们将提供精心整理的大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

在这里插入图片描述

全套的AI大模型学习资源已经整理打包,有需要的小伙伴可以微信扫描下方CSDN官方认证二维码,免费领取【保证100%免费

Logo

脑启社区是一个专注类脑智能领域的开发者社区。欢迎加入社区,共建类脑智能生态。社区为开发者提供了丰富的开源类脑工具软件、类脑算法模型及数据集、类脑知识库、类脑技术培训课程以及类脑应用案例等资源。

更多推荐