产业级AI原生应用的「超级外挂」,应用已在200+行业场景落地
缩短“到应用的最后一公里”
衡宇 白交 发自 凹非寺
量子位 | 公众号 QbitAI
今年AI领域的热门词汇,非”AI原生应用”莫属。
而现在,这个浪潮之巅的方向,又一件神兵利器有了成绩单证明——百度智能云千帆AppBuilder。
作为百度智能云推出的产业级AI原生应用开发平台,AppBuilder致力于打通大模型到业务的最后一公里。短短推出半年以后,AppBuilder公布了成绩单:
- 服务客户数已突破10万,应用已在200+行业场景落地;
- 原本可能需要一周的开发周期,一天就可以完成;一周时间就能完成20个应用功能更新。
总结起来就一句话:确实易用、好用、用了起作用。
但成绩之外,AppBuilder还在频繁迭代,以提供更专业的知识处理内核、更有效的AI周边组件、更灵活实用的开放方式。
百度智能云千帆AppBuilder,不仅要领先,还要持续领先。
应用已在200+行业场景落地
一个应用开发平台,除了看它开发生态的活跃程度,还看它可落地场景的深入。
开头一系列的数据已经证明,AppBuilder已经构建出了属于自己的生态。
现在随着应用广场的开放,支持用户进行一个自身应用的分发;其他用户能够在此基础上进行复制和二次调优。
这样一来,其实促进了开发者之间的交流和碰撞,更多AI原生创新应用在这当中产生。
既如此,再来看它落地的各种垂类领域。
不同于个人应用开发,只关注大模型的性价比、易用性、实际效果就好;产业级AI原生应用需要考虑的因素则更为复杂。
比如场景适配性,是否能与自身业务产线做到一个「无缝」融合;整个全生命周期开发的成本以及可持续性……
对于技术服务商来说,就不单是技术上挑战,更多是业务上的挑战,比如行业需求洞察、数据管理等等。企业需要快速迭代试错的开发工具链、灵活开放的集成与分发模式、丰富的组件与应用模版。
因此在垂类场景落地的深入,也就变成了AI原生应用产业级开发工具的核心指标。
AppBuilder产品负责人透露了两个典型案例。
在基层政务服务这一场景中,中卫慧通就基于AppBuilder构建智能咨询、政务Copilot等产品能力,再结合自身的能力(像多端应用开发和运营服务能力),形成面向基层政府的大模型应用解决方案。
截至今年5月,已在河南沈丘县、驻马店市驿城区、重庆丰都县、重庆巫溪县、天津市河西区、长沙市芙蓉区、安徽省歙县等7个区县上线,覆盖450+万人。
以重庆丰都为例,今年春节重庆市丰都县基层社会治理中心在“丰收号”政务小程序,就加入了一个知晓万事、随叫随到的“居民助手”。
它正是中卫慧通结合丰都县政务服务工作清单,构建了“问答知识库”,为居民提供咨询服务,预计今年完成60个区县落地。
像这种面向各区县长尾多元的需求,中卫慧通利用AppBuilder,可在小时级就完成效果认证,周级完成业务上线。
还有在AIoT平台。
大模型对于实体行业的赋能,AIoT或许是最佳的载体;GPT-4o的出现,给更多更丰富的人机交互体验带来想象空间,所有物理设备都有可能连上大模型,同人进行实时交互。
但随之而来,我们都知道,大模型从接入进AIoT到用户使用,这背后需要考虑的问题有很多,比如大模型的时延交互;从模型选择到接入过程的开发设计,以及硬件设备的受限都需要考虑到,最终达到模型效果与性能的平衡。
终端是最大的落地场景,国内某AIoT代表玩家第一时间选择了AppBuilder在产业中落地。它联合AppBuilder共同打造解决方案,主要集中在K12消费电子、家居、蓝牙类智能终端上部署大模型应用,预计每年都有数百万设备的增长空间。大模型,毫无疑问地成为了企业的新动能。
除此之外,传统硬件行业需要有生产能力且稳定的供应链,然而行业规模体量大,且终端形态不一,需要有针对性的进行开发。而AppBuilder加AIOT,让各类硬件更方便地获取独有技能,借助大模型这一工具将能力快速输送到了端。
该硬件厂商透露,原本开发一个AI技能需要一周的时间,但现在AppBuilder一天就能完成应用的开发与接入。
此外,在教育、电商、居民服务、生活助手、企业服务助手等领域使用的频率较高。尤其像专业问答助手、基于问答的边查边办的业务是比较常见的场景。
△华北电力大学与AppBuilder联合开发的师生专属助理“i华电”
因此综上可以看到,在AppBuilder助力下,这些AI原生应用场景都已实现产业化落地,而且在持续加速迭代中。
这需要用户自身的技术和资源积累,也与AppBuilder的产品与技术能力不无关系。
单就像企业招投标这样的场景,数据都是非结构化的,往往需要提取关键信息并且结构化输出,这对大模型在海量数据中理解逻辑和分析能力,提出了很高的要求。AppBuilder 预置高精度的知识理解与问答能力,基于定向调优的SFT模型,多场景问答准确率、友好回复、准确拒答可接受度95%以上。
不过这也只是AppBuilder背后实力的一部分,那么从整体宏观角度来看,AppBuilder背后方法论是什么?
缩短“到应用的最后一公里”
先从宏观市场来看。
市面上,号称支持AI原生应用开发的工具和平台数不胜数。这是一场不见血的激烈竞争。
3月21日升级至今,AppBuilder在这场游戏中,早早锚定了自己的出路:端起“产业级平台”的饭碗。
在市场中找准自己的发力位置,永远是摘得最终胜利的重要开始。
不过,为什么是产业级?
AppBuilder的思考是,因为产业级用户是大模型进入到千行百业业务中的最后一公里。
所有产业,只要想进行AI原生应用的开发,都要先搭好框架、选好组件,然后组装好一个个AI原生应用,再往外一层一层地集成包装成一个更完整的业务系统。
而AppBuilder要做的就是帮助企业缩短这“到应用的最后一公里”,并提供全开发周期的工具链。
到今天,AppBuilder上有三种代码形式可以选择:零代码态、低代码态、代码态。
零代码态,适用于普通需求的非技术企业,可以直接选用官方的框架、组件,无需任何代码,通过自然语言,经Agent自动调度形成应用。
最快三步,就能用零代码态完成应用的创建与分发。
代码态,这一形态适合有更高DIY功能需求的产业企业,但注意,代码态不意味着要开发人员全部写代码。
AppBuilder预置了丰富的接口、配备了一些参数,以及开箱即用的组件与框架,为开发者提供快速上手的方式,如直接调接口、调用SDK。
这种选择高度灵活,支持开发不同功能集成到不同场景中。
处于二者之间的是低代码态。这个形态适合那些有一定技术基础和接口需求的开发人员,AppBuilder为这类需求提供丰富的多模态AI组件,并支持画布式灵活编排工作流开发自定义组件,可快速将企业系统API接入应用。
应用能力,能无限拓展;输出内容,更稳定、更可控。
不同类型、不同需求的企业,都能找到合适的使用方式;且每一种使用方式,都是同等难度下最易用的模式。
这样的自身定位和用户定位角度,为AppBuilder团队指明了下功夫的方向,然后再来具体地缩短产业级用户“到应用的最后一公里”。
具体是这么完成的:
首先,AppBuilder身后是百度文心大模型,下场早、技术强,是国内大模型tier 1水平。
基于此,AppBuilder预先封装和配置了大模型驱动的开发AI原生应用所需的各种组件和框架,高灵活满足各类开发需求。
据团队透露,他们专门针对框架、指令、数据链路和组件等方面进行了全方位的调优。在问答、智能体、数据处理等应用场景中,即使在同等规模的模型条件下,也能实现更优的性能表现。
原因是团队针对Agent规划能力、RAG知识离线处理在线检索架构等方面,对AppBuilder进行了很多定制化特调,“试出来的效果,比开发者自己单独接API调配后开发AI应用的效果更好”。
再者说,对于用户到底要什么、痛点在哪儿,不得不说一句AppBuilder它超懂的。
相对于个人开发门槛低、速度快、可用性高等需求,产业化AI原生应用开发的难点不只是把个人需求规模化那么简单。
对于团队侧而言,没有业务的固有用户可以服务、没有业务可以集成、缺行业需求洞察/数据与API/解决办法……
更进一步的,AppBuilder团队把洞察市场后搜集整理的企业需求做了个分类:
- 企业应用场景复杂;
- 考虑成本,追求极致性价比;
- 希望被提供全生命周期企业级工具链,并持续调优。
上述种种,有的需要很好的处理能力,有的需要很强的灵活性,有的需要长久的维护运营合作。而AppBuilder希望为每一类提供企业满意的解决方案。
不过很快,至少目前已经能够看到,以上的问题和痛点都迎来了新的解决办法——
AppBuilder支持企业级数据管理,支持批量数据的评估与测试,支持企业级权限管理、文件管理、资源管理、生产监控。
同时在容量、并发、响应、弹性、稳定、安全方面具备行业竞争力。
上述所有强平台能力,都被AppBuilder放在了各行各业的应用样板间里,所见demo即所得。
除上述外,AppBuilder还拥有与市场其他应用开发工具的领先至少一个身位的优势。
关于这一点,可以从以下四个方面来看:
一是强内核。
如上所述,以文心大模型为基座,以百度生态的知识能力护航,兼有百度积淀深厚的搜索架构实践、搜索技术组件,同时在长文档解析、多模态信息处理方面有所优势。
二是广开放。
AppBuilder接入的不仅有自家模型。有的开发平台只能调用几个大模型,AppBuilder的可选模型列表有几十个,自定义的模型也可以通过ModelBuilder接入。在多源模型的基础上,做到开放框架、开放渠道、集成接口。
三是高体验。
这一点更多体现在多模交互上,根据规划,未来,AppBuilder可以很好地完成3D生成等多类型信息处理;另一方面,团队计划赋予它数字形象(这也是百度所擅长的),更具有贴身助理的真人感。
四是企业级特性。
不仅全栈自研,国产可控;而且利百度智能云四层结构协同优化加速,实现最高性价比,两款主力大模型已经宣布免费。
一个时代有一个时代的开发平台
在AI时代之前,开发工具与平台的格局与今天有很大不同。
上个世纪50、60年代,程序员们的世界里出现了编译器,依托其开发软件的时代开始。
而后一步步,C语言、C++,Java/C#、中间件出现并流行……这些开发工具让每个人可以通过0和1改变世界。
2010年前后,云计算时代来临,应用开发因此开始进入云原生时代。一些支持自动化的代码构建、测试和部署流程的开发平台,开始发挥重要作用。
现在,AI时代也有AI时代的诉求。
一方面,AI原生应用还是一片荒芜,正处于一个快速发展阶段,有着巨大的市场潜力和商业价值,等待着产业与开发者们的共同挖掘——今年4月,量子位智库发布《中国AIGC应用全景报告》,预计到2030年,AI应用市场可能达到万亿规模。
另一方面,大模型的能力涌现,比低代码更低的门槛——每个人只用三两句自然语言,就可以进行应用开发,成为了开发平台和工具的必修课。于是,零代码开发方式出现并开始流行,更低门槛的开发时代来到眼前。
人人都想在“属于这个时代的开发平台”这块蛋糕上分一杯羹,因此AI时代的应用开发平台开始大量出现。
然而当下像是潮水初起的乱纪元,市面上突然涌现出大量的新的工具及平台,往往也意味着品质的参差不齐。
怎么才能挑选到一个技术前沿、保证维护、持续投入,并且能及时跟进时代技术发展的开发平台?
这个问题如今或许有了一个确定的答案。
百度智能云千帆AppBuilder。
在过往的扎实基础上,作为AI 2.0时代原生的应用开发平台,近期,AppBuilder在三个方向和纬度上完成了自身的升级,分别是大模型优化、工作流完善、应用广场开放。
但这并不是AppBuilder的最终态,我们了解到,对于这个平台而言,目前已经好用、易用的状态,其所提供的能力可能只是最终目标的30%。
据介绍,AppBuilder有清晰的奔头,也是它瞄准的5个产品目标:
1、开箱即用。不管哪个垂类产业,都能快速搭建个性化应用,低成本满足瞬息万变的业务需求。
2、即刻可用。能够快速冷启,对于行业通用场景,提供业界领先的效果和性能。
3、灵活可调。业务逻辑、处理环节可调可控,支持用户结合自有数据,在业务场景达极致效果。
4、可上规模。可满足在企业场景,进行生产级的开发及应用,支持大规模并发处理,在高负载环境下依然保持高性能和稳定性。
5、广泛落地。预制丰富的行业模型、行业模版、应用样板间、组件,并具备丰富的传播方式,广泛吸引各行各业、各类用户。
目标清晰,全力以赴。
人人都在期待AI时代原生超级应用的诞生,AppBuilder不是Killer App本身,但AppBuilder在做的,就是服务好,并助推和加速它出现的进程。
肉眼可见的,AI 2.0接下来的竞赛,不再只是头部大模型创业公司/大厂之间的竞争,更被抬到台前的是AI原生应用的涌现、优化、生态建设与繁荣。
在这波浪潮里,百度智能云通过AppBuilder,更加具象地定义了这一波AI的下一步发展。
- 大模型重构生命科学!最大基础模型面世,解锁DNA超长序列,参数规模达2100亿2024-11-06
- 商汤徐冰最新访谈:商汤最近在做什么?数万亿AI投资能回本吗?2024-11-04
- 突破短视频局限!MMBench 团队构建中长视频开放问答评测基准,全面评估多模态大模型视频理解能力2024-10-30
- 人形机器人新品牌“灵宝CASBOT”发布,来自中科慧灵2024-10-30