近日,NVIDIA(英伟达)推出了一款开发安全、可信的 AI Agent 利器——NVIDIA NIM Al Guardrail 微服务,作为 NeMo Guardrails 软件工具系列的一部分,旨在帮助企业提高生成式AI应用的安全性、精准性和可扩展性。一时间,Agent再次被推上风口。

从 2023 年大模型爆发,到 2024 年大模型落地,人们逐渐意识到,大模型不仅要“强”,更要“用”,Agent 智能体作为连接大模型和场景的中介,逐渐成为实现大模型应用的关键。OpenAI CEO Sam Altman 曾预测,2025 年将是 AI Agent 的元年。

我们看到,这一预测正逐渐成为现实。

大模型行业:C 端与 B 端的差异化发展

2024 年,大模型在 C 端和 B 端走出了截然不同的落地路径。

C 端市场,大模型技术主要应用于内容生成、智能客服、个性化推荐等领域。 比如智能手机中的语音助手就是 C 端大模型落地的一个典型应用,还有 AI 绘画工具,用户只需输入简单的文字描述,就能生成风格各异的精美画作。类似这些应用往往以用户为中心,注重提升用户体验和互动性。C 端大模型的落地路径相对较短,主要得益于其面向消费者的直接性和用户数据的丰富性,通过收集和分析用户行为数据,C 端大模型能够更快速地学习和优化,从而提供更加精准和个性化的服务。然而,这类应用的商业变现效果和用户规模参差不齐,多数移动 APP 的 DAU 仅徘徊在百万级别,与互联网巅峰时期的数亿 DAU 相去甚远。

相比之下,B 端大模型的落地路径则更为复杂,大客户成为大模型落地的先锋。比如国家电网积极与大模型公司合作,探索大模型在电力调度优化、设备故障预测等业务中的应用,期望借助前沿技术提升运营效率和决策水平。在企业级应用中,大模型往往需要满足更高的稳定性、安全性和可解释性要求,而企业数据往往更加复杂和多元,这就需要大模型具备更强的数据处理和融合能力。因此,B 端大模型的落地需要更多的技术积累和行业经验。

事实上,企业级大模型的发展并没有看起来那么顺利,从 demo 到生产级应用的转化是企业面临的重大挑战。一方面,大模型计算成本高、资源消耗大,在处理大规模数据时易出现性能问题,如跑不动或出现 bug;另一方面,数据推论与持续调优也是关键难题。随着业务发展与知识更新,模型效果易下降,企业需要通过构建数据驱动的调优机制,从用户标注、数据清洗到策略优化、效果评估,形成闭环,实现模型持续优化。

尽管面临诸多困难,2024 年企业级大模型的发展依旧呈现出蓬勃的态势。一方面,随着技术的不断进步和成本的降低,越来越多的企业开始有能力部署和运维大模型。另一方面,企业级大模型在提升业务效率、降低运营成本、增强竞争力等方面展现出巨大的潜力,吸引了越来越多的企业关注和投入。

AI 时代,Agent 是大模型应用主流形态

不要卷模型,要卷应用!”在 2024 世界人工智能大会上,百度创始人、董事长兼首席执行官李彦宏表示,AI 技术发展路线发生了方向性改变,已从过去辨别式人工智能转向了未来生成式人工智能。

自 2024 年起,企业界纷纷开始关注大模型落地,大客户更是率先试水,中小客户则大多持观望态度。

在技术应用层面,检索增强生成(RAG)技术应用成熟度较高,因其类似传统搜索思路,易于理解与接受,在各行业问答场景广泛应用。而 Agent 智能体则承载着人类对 AI 的美好愿景,不仅是大模型迈向 AGI 的关键节点,也是衡量大语言模型 “从量变到质变” 的重要标志。它经历了从简单问答系统到具备复杂推理、多模态交互能力的发展过程。

早期,企业在引入 Agent 智能体时面临诸多挑战,如技术架构调整、知识库管理、多模态信息处理等。然而,随着技术的不断进步,百度等企业在大模型技术方面取得了显著进展,其企业级 Agent 智能体不仅在对话交互上表现出色,还具备了强大的工作流处理能力。通过引入工作流技术,企业可以更加稳定、可控地利用 Agent 智能体进行业务操作,有效避免了话题发散、系统级稳定性等问题。

在百度世界 2024 大会上,伴随着两大赋能应用的 AI 技术:检索增强的文生图技术(iRAG)和无代码工具“秒哒”的发布,李彦宏表示,在人类信息技术变革的不同历史时期,应用出现的样貌也不一样。在 AI 时代,应用最主流的形态就是智能体,即将迎来爆发点,它将成为AI原生时代,内容、信息和服务的新载体。

而据百度智能云千帆 AppBuilder 产品负责人朱广翔介绍,2024 年,百度对产品进行了全面升级,包括重构了智能体为核心的产品架构,RAG 融合百度搜索,发布企业级 RAG、企业级 Agent,推出多模态工作流及数字人 Agent,智能体分发全面打通百度和微信生态,并全面开放了 RAG、Agent、工作流、百度AI搜索等原子能力,更好的支持企业级集成。

此前,华人科学家翁丽莲提出“Agent=大模型+记忆+主动规划+工具使用”这一公式,为理解 Agent 提供了基础框架。朱广翔表示,百度基于这一公式加入了知识库。 以智能客服 Agent 为例,它利用大模型理解用户问题,借助记忆功能回顾历史对话,通过主动规划生成合理回答,并使用知识库中的行业知识和企业数据,以及结合百度搜索从全网获取实时信息,为用户提供准确解决方案。在电商场景中,Agent 能根据用户的浏览历史和购买行为,主动规划推荐策略,调用商品信息数据库,结合全网信息,为用户精准推荐商品,极大地提升了用户体验和购买转化率。

从当前的发展趋势来看,企业 Agent 智能体正在经历从试水到全面应用的过程。据悉,从2024 年初开始,百度、阿里、腾讯、字节跳动等互联网大厂纷纷基于自家大模型应用开发平台,推出低代码、无代码的 Agent 开发平台,提供了完整的算力层和模型层服务。市面上如百度智能云千帆 AppBuilder、字节跳动扣子 Coze、腾讯云腾讯元器、阿里云大模型平台百炼、科大讯飞星火智能体平台等智能体开发平台百花齐放。

另外,一些软件厂商也在尝试以SaaS+AI的方式打造智能体。去年年底,在Agent OpenDay上,智谱AI展示了在AI Agent方面的最新成果,发布了用AI替代人类执行任务的三款智能体,分别是面向手机的phone use—AutoGLM,面向电脑的compute use——GLM PC,以及面向网页的GLM-Web能力。

大模型应用开发:Agent的融合与挑战

如今,企业 Agent智能体在各领域应用广泛,深刻改变着企业的运营和业务模式。

在客户服务领域,银行、电信运营商等企业的智能客服系统借助 Agent智能体,实现全天候、个性化服务,显著提升服务效率和客户满意度。

在数据分析领域,Agent 智能体处理分析大量数据,为企业提供有价值的洞察和决策支持,如某电商企业借此成功预测市场趋势,调整营销策略。

在企业内部管理方面,Agent 智能体助力实现自动化办公和智能化管理,像智能体负责会议签到、安排和记录,提升会议效率和协同工作能力。

目前来看,企业业务与Agent的融合呈现两种主流形态:AI原生业务创新和传统业务智能化升级。

AI原生业务是企业Agent智能体创新的前沿阵地。比如百度文库利用Agent智能体技术,实现了PPT的自动生成,用户只需输入相关的文本内容,智能体就能够根据内容生成相应的PPT模板,并填充相应的文字和图片等内容,这其中是“创想即创作”的思考,我们也看到像百度文库这类产品正在从办公工具向创作力工具的转变,成为思想碰撞和灵感激发的媒介。还有拍照解题应用,学生拍照上传题目,Agent 能给出详细解题步骤和答案,助力学习等等。这些轻应用兼具对话与图形交互功能,极大地提升了用户体验。

用百度文库生成PPT

在传统业务场景中,以workplace + copilot模式为例,在企业审批流程中,当员工处理合同审批时,侧边栏的Agent能自动总结合同关键点,提示潜在风险,提高审批效率和准确性,这种模式实现了人机高效协作,提升了工作效率。此外,Agent在B端交付中发挥着关键作用,它统一了大模型落地的方式和话语体系,使交付更加标准化。例如,不同电力企业对大模型应用需求各异,但通过Agent,可基于统一框架,根据企业特定需求配置不同工具和功能,降低交付成本和难度。

Agent虽然带来了诸多想象力,但在真正的落地应用中还存在诸多挑战。比如,**可靠性、性能和成本依旧是一个大难题。**众所周知,LLM容易产生幻觉和不一致性,将多个AI步骤连接起来会加剧这些问题,尤其是对于需要精确输出的任务。同时,GPT-4、Gemini-1.5和Claude Opus在使用工具/函数调用方面表现不错,但它们仍然较慢且成本高,特别是需要进行循环和自动重试时。此外,Agent如何保护用户数据安全和隐私保护,也依旧是业界关注的重点。

风口之上,任何一家企业与个体都想要抓住这个机遇。CSDN看到,在Agent浪潮下,大模型应用即将迎来更广阔的发展前景,在应用场景拓展、技术创新融合和生态构建合作等方面不断突破。

应用场景方面,在C端市场,大模型将进一步拓展其应用场景,如智能家居、自动驾驶、虚拟现实等领域。在B端市场,大模型将更多地应用于业务流程优化、智能决策支持、风险管理等领域,为企业提供更全面、更智能的解决方案。

同时,基于技术的不断创新融合,大模型将与其他先进技术,如区块链、物联网、5G等相结合,形成更加完整和高效的解决方案。这将进一步推动大模型在企业级应用中的普及和深化。

此外,随着大模型应用的不断拓展和深化,将逐渐形成更加完善的生态体系。企业将通过合作与共享资源,共同推动大模型技术的发展和应用创新。

朱广翔表示,未来,百度智能云千帆计划在2025年上半年实现“上生产”无卡点,并提供应用飞轮与数据飞轮,帮助客户根据业务变化持续优化应用效果。技术层面,通过提性能、增效果、扩场景,提升Agent智能体竞争力,如采用前沿工程框架提升性能,探索慢思考应用场景增强效果,升级多模态能力拓展应用场景。

银河证券研报指出,AI Agent的崛起正重塑AI产业链,带来投资新机遇。 预计到2028年,中国AI代理市场规模将激增至8520亿元,年复合增长率达72.7%。AI Agent推动App生态逐渐向端侧生态转变,有望成为AI应用发展的新趋势,解决传统端侧AI无法通过用户指令调用操作界面实现目标的痛点。

卷完了大模型,是时候开始卷Agent智能体了。

那么,如何系统的去学习大模型LLM?

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ,朋友们如果有需要全套 《AI大模型入门+进阶学习资源包**》,扫码获取~

篇幅有限,部分资料如下:

👉LLM大模型学习指南+路线汇总👈

💥大模型入门要点,扫盲必看!
在这里插入图片描述
💥既然要系统的学习大模型,那么学习路线是必不可少的,这份路线能帮助你快速梳理知识,形成自己的体系。

路线图很大就不一一展示了 (文末领取)
在这里插入图片描述

👉大模型入门实战训练👈

💥光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述

👉国内企业大模型落地应用案例👈

💥两本《中国大模型落地应用案例集》 收录了近两年151个优秀的大模型落地应用案例,这些案例覆盖了金融、医疗、教育、交通、制造等众多领域,无论是对于大模型技术的研究者,还是对于希望了解大模型技术在实际业务中如何应用的业内人士,都具有很高的参考价值。 (文末领取)
在这里插入图片描述

👉GitHub海量高星开源项目👈

💥收集整理了海量的开源项目,地址、代码、文档等等全都下载共享给大家一起学习!
在这里插入图片描述

👉LLM大模型学习视频👈

💥观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。 (文末领取)
在这里插入图片描述

👉640份大模型行业报告(持续更新)👈

💥包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
在这里插入图片描述

👉获取方式:

这份完整版的大模型 LLM 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓

Logo

脑启社区是一个专注类脑智能领域的开发者社区。欢迎加入社区,共建类脑智能生态。社区为开发者提供了丰富的开源类脑工具软件、类脑算法模型及数据集、类脑知识库、类脑技术培训课程以及类脑应用案例等资源。

更多推荐