大模型时代，百度给出AI原生应用开发“指南”
随着大模型时代渐趋渐进，AI原生应用也正在持续迭代。 10月17日，在百度世界2023现场，百度集团创始人、董事长兼CEO李彦宏正式发布文心大模型4.0，并开启邀请测试。李彦宏指出，这是迄今为止最强大的文心大模型，实现了基础模型的全面升级，在理解、生成、逻辑和记忆能力上都有着显著提升，综合能力“与GPT-4相比毫不逊色”。 与此同时，包括搜索、GBI、如流、地图、网盘、文库等全新的百度AI原生应用也集体对外亮相。“大模型带来的智能涌现，这是我们开发AI原生应用的基础。”李彦宏表示，“我在五月份公开说，百度要做第一个把所有产品都进行重构的公司，我们要用AI思维，做出AI原生应用。” 需要注意的是，大模型不仅在重塑百度自身的产品线，其开启的是繁荣的AI原生应用生态。借助插件，开发者、创业者正在快速加入到大模型生态中。 李彦宏介绍，企业和开发者可以在百度的千帆大模型平台上调取包括文心一言在内的大模型API，目前千帆大模型平台已经成为中国最大的大模型开发平台之一，有42个主流大模型入驻，覆盖各行各业近500个场景。即日起，企业客户也可以在百度智能云千帆大模型平台上申请测试文心4.0的API。 “要想快速开发AI原生应用，需要人工智能与云计算的深度结合，这也正是百度智能云一直在倡导和践行的‘云智一体’理念。”百度集团执行副总裁、百度智能云事业群总裁沈抖指出，“今天，百度集团所有应用和服务都运行在百度智能云上。不仅是百度自身，其实整个行业掀起大模型重构应用以来，我们每个月都在支持上万家客户开发其自身的应用。” 就此，百度智能云在大会期间宣布全面升级“云智一体”战略，并面向客户落地大模型的五类需求提供全栈服务方案，面向AI原生应用开发、发布“千帆AI原生应用开发工作台”，发布国内首个AI原生应用商店以及国内首个大模型全链路生态支持体系，从而赋能伙伴商业增长，共建、共享繁荣的大模型产业生态。 大模型“天花板”应用亮相 在本届世界大会，百度发布了国内首个生成式商业智能产品——百度GBI（GenerativeBusinessIntelligence）。 BI（商业智能）是当下展现大模型能力“天花板”的典型应用场景之一。据了解，传统BI只有专业人士才能操作，面对海量数据需要人工进行跨数据库、跨表格的专业数据治理及挖掘，需要反复对比分析进而得出结果，涉及大量环节、耗时耗力、服务场景相对较少。 并且，在这个过程中，面对庞杂的数据表格及指标，如何进行有效的数据发现、治理及使用，也是当前传统BI行业面临的诸多难点。 大模型的出现，则带来了全新的视角。李彦宏指出，百度GBI能够从理解自然语言、多数据源交叉分析以及专业知识学习三方面颠覆传统数据分析模式。 “GBI能够直接听懂管理者问题，实时执行，并提供了便捷的接入方式，企业可以接入数据，对任意数据用自然语言进行提问、分析，而不再需要人工去跨数据库、跨表格做各种专业操作。”李彦宏表示，“GBI还具备学习能力，企业可注入本行业专业知识，让它成为行业专家。”
具体而言，百度GBI作为AI原生应用引擎，基于文心大模型实现了“智能问数”能力的全面重构：面向任意数据库，都可以通过对话一步完成查询与分析，相比传统BI大幅提升了数据分析的效率，降低了数据分析专业能力要求。 以企业经营数据分析为例，百度GBI可以把商业数据分析师十几天才能完成的数据分析、撰写报告的工作时长，从以天为单位缩短到以分钟为单位。 而作为一类AI原生应用框架产品，百度GBI还可以实现极简的跨行业、跨领域能力迁移，快速落地如城市治理分析、能源消费洞察、工业设备运行管理、金融投资决策、交通拥堵治理等场景中，高效实现政企BI类AI原生应用的开发构建。 “我们总体启动了三种跟企业实际业务对接的方式。”百度智能云技术委员会联席主席、百度智能云应用产品中心总架构师孙珂介绍称，第一种是快速体验效果，所有结果均基于GBI原生产品形态呈现。同时，百度GBI也支持与企业内部平台及产品融合，通过调取API客户可自行进行二次开发。 此外，针对部分内部数据中台建设已较为完善、拥有自己数据库的企业客户，百度GBI能够接入企业已有的数据平台上，提供类似找表问表在内的数据分析能力。“我们接入方案非常灵活，根据企业不同的需求可以进行灵活调整部署。”孙珂表示。 大模型超级工厂 百度GBI只是百度AI原生应用能力的一个侧面。据李彦宏介绍，百度GBI是一个从零开始的产品，而非对已有产品的重构。从今年3月开始打磨至今，百度GBI的开发与问世可谓迅速。 支撑AI原生应用快速落地上线的，是百度智能云的服务能力。自2020年起，百度智能云在业界率先提出“云智一体”战略，并在技术架构与服务等方面进行了多次迭代升级。而在本届百度世界大会，“云智一体”的战略内涵全面升级为“云智一体，深入产业，生态繁荣，AI普惠”。 全面升级的背后，是百度对大模型时代客户需求的全新洞察。据介绍，今年3月百度发布文心一言之后，百度智能云持续积极与业内客户进行大量沟通，并总结出客户在大模型落地方面的五类需求。 沈抖指出，在大模型落地方面，有的客户只需要高效的算力，更关注降低大模型训练及推理成本；有的客户希望基于大模型进行模型加工，包括直接调用API使用已生成的大模型，或是基于大模型进行包括再训练、微调、评估和部署在内的二次开发；还有的企业需求更偏向大模型基础上的应用层，包括AI原生应用的快速开发，或直接购买AI原生应用。 “为了服务好这五类需求，百度智能云千帆平台为?家提供了‘大模型超级工厂’。”沈抖介绍称，自今年3月份千帆大模型平台发布以来，大模型超级工厂已经服务超过17000家客户，每一位客户和开发者都可以在大模型超级工厂内快速找到需要的工具和资源。” 具体而言，面对算力需求的客户，千帆平台可以提供极致高效和性价比的异构算力服务。通过分布式并行训练策略和微秒级互联能力，千帆平台可以实现万卡规模集群训练的加速比达到95%；通过事先防范、事中及时发现、定位、解决，最大限度避免集群因故障等原因产生的无效运转，提高有效训练时间占比，万卡集群有效训练时间占比达到96%，充分释放集群有效算力，大幅降低客户算力与时间成本。 在模型层面，对于希望直接调用已有大模型的客户，千帆平台纳管了42个国内外主流大模型，企业客户可快速调用包括文心大模型在内的各种大模型的API，获取大模型能力。对于第三方大模型，千帆平台还针对性地进行了中文增强、性能增强、上下文增强等优化。 对于希望基于现有大模型进行二次开发的客户，千帆平台为大模型的再训练、微调、评估和部署等环节提供全生命周期工具链、业界最多的41个高质量行业数据集，帮助客户针对自身业务场景快速优化模型效果。 在应用层面，针对一部分企业需要基于大模型服务去开发AI原生应用，千帆平台提供一系列能力组件与框架，可以帮助企业快速完成应用开发，灵活地响应用户与市场需求。另一部分客户则希望直接、方便地选购成熟的AI原生应用产品，千帆平台上亦有丰富的选择。 AI原生应用大爆发 对于企业级产品开发而言，从工程设计到策略设计，从定义接口方案到集成至已有复杂系统中，整个产品开发的过程尤其复杂。在大模型时代，企业如何高效开发出好的应用产品，也成为大模型落地的一大关键。 为了满足企业敏捷、高效地进行AI原生应用开发的需求，降低AI原生应用开发门槛，百度智能云重磅发布“千帆AI原生应用开发工作台”，将开发大模型应用的常见模式、工具、流程，沉淀成一个工作台，帮助开发者聚焦在自身业务，而无需为开发过程牵扯多余精力。 具体来讲，千帆AI原生应用开发工作台主要由应用组件、应用框架两层服务构成。 其中，应用组件服务由AI和基础云两大类组件构成，是对底层服务能力的组件化封装，让每个组件完成一个特定的功能。“AI组件”中既包含诸如问答、思维链（CoT，ChainofThought）等大语言模型组件，还包括文生图、语音识别等多模态组件，而“基础云组件”则包含向量数据库、对象存储等传统云服务能力。 应用框架则是通过将上述这些组件有选择地串联、组合起来，让它们能够比较完整地完成一个特定场景的任务。目前，千帆平台上提供的检索增强生成（RAG）、智能体（Agent）就是常用的AI原生应用框架。在每个框架下，百度智能云还提供丰富的样板间，支撑开发者敏捷、高效地进行AI原生应用开发。 其中，检索增强生成（RAG，RetrievalAugmentedGeneration）框架，可以更高效的利用企业专有领域内的知识，并在大模型的帮助下根据相关问题做出精确回答。智能体（Agent）可以对人类给定的任务进行自动拆解，自动规划并调用各种组件协同完成任务，同时根据任务完成效果得到反馈，改进自身能力。 “只有在大模型时代，才能出现不依赖于研发的新模式，可以让应用开发不再受编程能力限制，完全靠创意驱动。”沈抖指出，“我相信在这种趋势下，AI原生应用一定会更加繁荣，更加贴近业务，我们一定会很快迎来AI原生应用的大爆发。” 而在AI原生应用爆发的同时，为更好连接AI原生应用的供给方和需求方，百度智能云也推出“千帆AI原生应用商店”，从而大幅提升客户应用选型与采购效率，为伙伴商家创造更多商机。目前，企业用户可以通过百度智能云官网，进入千帆AI原生应用商店，选购心仪的AI原生应用。 此外，大模型技术不仅正在重塑云计算的服务模式和产品形态，也正在重塑云计算产业的生态格局，对云计算厂商和其覆盖千行百业的合作伙伴的能力与体系建设提出了全新要求。百度智能云建设并推出了国内首个大模型全链路生态支持体系，并为10家综合伙伴、100家应用伙伴、1万家以上的初创企业以及代理伙伴，提供包括千帆社区、AI原生应用孵化、销售商机、市场营销、赋能培训，以及千帆AI原生应用商店等全方位的支持。 百度集团副总裁袁佛玉表示，“在这个瞬息万变的时代，百度不仅要在大模型技术和商业化探索的道路上勇闯无人区，还要与众多合作伙伴共同打造繁荣的产业生态，共同探索新的商业模式和商业机会，实现真正的合作共赢。”