沈抖暗示，为了支持大模子的进一步高速开展，百度智能云提早规划，是行业内最早打磨10万卡集群才能的厂商之一，并经由过程手艺立异处理了集群算力供应、跨地区布置两大中心困难

　　沈抖暗示，为了支持大模子的进一步高速开展，百度智能云提早规划，是行业内最早打磨10万卡集群才能的厂商之一，并经由过程手艺立异处理了集群算力供应、跨地区布置两大中心困难。

　　在餐饮行业，中国最大的餐饮公司百胜中国，基于文心大模子打造了AI智能客服体系，为旗下包罗肯德基在内的多个品牌供给效劳。百胜中国CTO张雷暗示，今朝科技产物官网，AI客服天天可以为百胜中国处置超越15万次消耗者相同，成绩处理率高达90%；在帮助野生方面，AI客服可以快速归结、总结消耗者诉求数字人平台登录，帮助客服更快速、更精准地复兴，团体服从进步10%！别的，大模子还可以及时评价客服效劳质量，协助百胜中国进一步提拔效劳程度。

　　今朝科技产物官网，百度智能云曾经具有中国最大的大模子财产落地范围。已有超越六成的央企和大批的民营企业，正在结合百度智能云停止AI立异，文心大模子日均挪用量超越15亿次。

　　起首，在算力供应方面，百舸平台兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国表里支流AI芯片，撑持统一智算集群中混淆利用统一厂商差别代际芯片、差别厂商芯片，最大水平上屏障硬件之间差别，协助中国企业挣脱单一芯片带来的高溢价和供给链风险。

　　今朝科技产物官网，百度智能云具有中国最大的大模子财产落地范围。超越六成的央企和大批的民营企业，正在结合百度智能云停止AI立异。百度智能云千帆大模子平台曾经协助客户精调了3.3万个模子、开辟了77万个企业使用、文心大模子日均挪用量超越15亿次。

　　沈抖暗示，AI使用正领先在B端发作。由企业级大模子工程平台、异构算力平台构成的新型AI根底设备，将替换传统云计较，为大模子使用在企业消费力场景中的范围落地供给枢纽支持。

　　沈抖暗示，无数的AI使用，正在从头界说人与数字天下、物理天下之间的交互方法。如今，这些使用曾经深化到企业“研产供销服”的各个环节，并成为企业提拔合作力的枢纽要素。

　　大模子具有壮大的企图了解和泛化才能，可以充实了解事情流的目标与内在，相称于一颗会考虑的“大脑”；经由过程与企业事情流相分离，又能够有用处理大模子“幻觉”成绩，加强大模子“控场才能”，保证庞大使命的决议计划与施行精确。两者分离，组成了智能时期企业真正需求的“数字员工”。

　　在能源电力行业，国度电网正在环绕文心大模子、千帆平台，分离电力行业高质量数据，结合百度共创电力行业大模子根底底座，并在调理、装备、营销等六大专业范畴深化探究。今朝，曾经在电力装备运检、供电效劳等电力行业中心场景胜利完成使用落地。

　　以百度电商数字人直播平台“慧播星”为例，经由过程利用文心旗舰模子ERNIE 4.0 Turbo萃取锻炼数据，天生模子精调数据集，对轻量级大模子ERNIE Lite停止精调，精调后的模子在特定场景中的结果与旗舰模子根本持平，并具有更快的推理速率，本钱大幅降落90%。模子上线当前，数字人直播间的互动率大幅提拔11%，带货转化率也完成了极大提拔。

　　大算力是大模子落地的根底前提。为了满意企业落地大模子从集群创立、开辟尝试，到模子锻炼、模子推理的全路程算力需求，百度智能云推出百舸AI异构计较平台4.0，效劳了中国石化、中海石油数字人平台登录、长安汽车、上海交通大学、地平线等行业龙头企业和机构，今朝已具有了成熟的10万卡集群布置和办理才能科技产物官网。

　　传统的企业营业中科技产物官网，庞大的事情和使命常常过分依靠专家经历和固有流程，即事情流；即使在数字化体系中，传统事情流设置照旧是没有“大脑”的机器施行，难有本质性的打破。

　　2024年，大模子财产落地明显提速，在行业场景笼盖广度、落地深度等方面都有明显提拔。今朝，百度智能云曾经在能源、电力、制作、金融、交通、政务数字人平台登录、互联网、教诲、电商等数十个行业、几百个场景中落地大模子使用。

　　好比，在电商范畴，已往拍摄建造真人产物推行短视频需求专业团队破费几天工夫才气完成。而“文生3D数字人视频”只需一句话，就可以天生契合不偕行业场景特征的3D数字人形象和专业灵动的视频，本钱唯一传统方法的1%，事情服从提拔超越1倍！

　　经由过程设想高效的收集拓扑构造，分离模子切分优化和跨地区无堵塞高机能收集计划，百舸可以在高出几十千米的多机房构成的万卡范围的集群上，将单一模子锻炼使命的机能折损掌握在4%之内，到达业界最抢先程度科技产物官网。

　　在医疗行业，杭州全诊医学基于千帆平台和文心大模子打造了AI医疗助理使用，可以在导诊、预诊、诊间、出院、手术、随访等全阶段效劳大夫患者。以帮助大夫撰写病历为例，全诊医学经由过程利用20万份精标病历数据对大模子停止精调，使AI医疗助理的医学用语更精确、更标准，大幅提拔病历内容质量。病历天生的精确度提拔了45%，病历誊写工夫削减75%，大夫的接诊量进步了20%，造福更多病患。

　　“我们在理论中发明，行业使用要到达更专业的结果，需求深化模子层面停止定制开辟或精调。精调模子的数目必然水平上反应了大模子与财产分离的深度。这个数目本年增加地出格快，在千帆大模子平台上，天天有超越一半的挪用量是来自精调后的模子。”沈抖说。

　　11月12日，以“使用来了为主题的百度天下2024在上海召开。会上，百度团体施行副总裁、百度智能云奇迹群总裁沈抖分享了百度智能云在大模子财产落处所面的最新停顿，并在企业级AI原生使用开辟、大模子开辟调劣等方面公布一系列全新功用。

　　以保险行业为例，今朝百度智能云正在基于事情流Agent探究、落地车险续保售前数字员工。已往，车险续保的事情指点包罗大批流程、子流程、文档等内容，优良贩卖职员稀缺，且培育周期常常长达一到两年。基于事情流Agent开辟金牌贩卖数字员工，则最快能够在1小时内完成、上线，大幅提拔了企业车险营业的中心消费力。如许的事情流Agent能够快速集成到百度搜刮、微信公家号、企业官网等营业体系中，便当触达用户。

　　而针对数据积聚不敷，难以负担野生精标数据本钱的企业，千帆平台全新推出模子蒸馏处理计划，协助企业操纵文心旗舰级大模子天生专业数据，完玉成流程的数据筹办事情，加快启动模子精调事情。

　　今朝，由事情流Agent开辟的“续保金牌贩卖”，已在百度智能云智能客服平台“客悦”开放体验。（）

　　本次大会，百度智能云千帆大模子平台正式公布“事情流Agent”功用，旨在协助企业快速开辟出头具名向庞大对话场景的AI使用数字人平台登录，快速具有专业程度的“数字员工”。经由过程进修各类企业流程与标准，事情流Agent可以顺应差别岗亭职责，快速范围化复制，大幅提拔企业运转服从。

　　以百度智能云“曦灵”数字人平台为例，全新晋级的“文生3D数字人视频”功用，可以大幅提拔电商、教诲、文旅等行业的内容创作、营销推行服从，大幅低落本钱收入。

　　另外一方面，10万卡范围超大集群需求占有大要10万平方米空间，相称于13个尺度足球场；天天则要耗损约莫300万千瓦时的电力，相称于北京市东城区一天的住民用电量。这类关于空间和能源的宏大需求，远超传统机房布置的承载才能，而跨地区机房布置又会给收集通讯带来宏大应战。

　　沈抖以为，AI使用正领先在B端发作，而“企业级”AI使用大批出现的背后，是产物效劳形状的打破性变化与才能的大幅拉升。

　　今朝，在万卡范围集群上数字人平台登录，百舸可以将两种芯片混淆锻炼大模子的服从折损掌握在5%之内，到达业界最抢先的程度。将来，“一云多芯”将成为中国企业的一定挑选。