作者 | 冬梅
6 月 19 日,腾讯云在国家科技传播中心召开行业大模型及智能应用技术峰会,首次公布腾讯云行业大模型研发进展,依托腾讯云 TI 平台打造行业大模型精选商店,为客户提供 MaaS(Model-as-a-Service)一站式服务,助力客户构建专属大模型及智能应用。值得注意的是,此次腾讯云发布的大模型,主要瞄准的是 B 端市场。
会上,腾讯云联合 22 家客户正式启动行业大模型共建合作,并携手 17 家生态伙伴共同发起了“腾讯云行业大模型生态计划”,致力于共同推进大模型在产业领域的创新和落地。基于腾讯 HCC 高性能计算集群和大模型能力,腾讯云已经为传媒、文旅、政务、金融等 10 余个行业提供了超过 50 个大模型行业解决方案。
腾讯集团高级执行副总裁、云与智慧产业事业群 CEO 汤道生表示,生态共建是 AI 发展的有效路径,腾讯将坚持生态开放,为企业提供高质量模型服务,同时支持客户多模型训练任务,加速大模型在产业场景的创新探索。
腾讯集团高级执行副总裁、云与智慧产业事业群 CEO 汤道生
腾讯云公布 MaaS 全景图, 还将推出向量数据库
如何将大模型能力应用到自身的行业和场景里?如何解决成本、数据、安全等大模型实际落地难题?依据企业实际需求,进而"量体裁衣"定制一个专属大模型,或许是解决这些问题的最佳答案。
当前,通用大语言模型在应对产业场景落地时存在一定的局限性。首先,通用大模型的训练数据主要来自公开数据集或网络数据,对于特定行业的专业领域知识了解有限。此外,通用大语言模型的训练需要大量计算资源和漫长的训练周期,这对企业来说可能昂贵且耗时。同时,安全和合规也是必要考量因素。因此,选择与具备一站式行业大模型服务能力的云厂商合作,打造企业专属的行业大模型至关重要,好用、易用的同时还能降低企业的成本和时间投入。
基于客户实际痛点和需求,腾讯云全新公布 MaaS 全景图,依托腾讯云 TI 平台打造行业大模型精选商店,为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。在 TI 平台内置高质量行业大模型基础上,企业加入自己独有的场景数据,就可以快速生成自己的专属模型;同时,也可根据自身业务场景需求,“量体裁衣、按需定制”不同参数、不同规格的模型服务。
腾讯云 MaaS 全景图
多年来,在多行业、多应用场景的磨砺下,腾讯云的大模型在算力方面有着深厚的积累。 今年 4 月,腾讯云发布了专为大模型训练设计的新一代 HCC 高性能计算集群,采用最新一代的腾讯云星星海自研服务器,具备业界最高的 3.2Tbps 互联带宽,算力性能提升了 3 倍。此外,腾讯云即将推出向量数据库(Tencent Cloud VectorDB),源自腾讯集团每日处理千亿次检索的向量引擎(OLAMA),单索引支持 10 亿级向量规模,更适用于 AI 运算、检索,数据接入 AI 的效率也比传统方案提升 10 倍。这些创新将为客户的模型训练提供强大的支持和动力。
在平台层面,依托 TI 平台,腾讯云将为客户提供一站式模型服务,涵盖完善的模型工具、成熟的流程方法、全面的配套服务、领先的安全保障能力。
首先,腾讯云 TI 平台内置多个高质量行业大模型,涵盖金融、传媒、文旅、政务、工业等多个行业场景,企业可以结合自身场景数据可按需定制精调,也可以根据自身需求开展多模型训练任务,大幅降低大模型应用门槛。
其次,TI 平台提供完善的大模型工具链,包括数据标注、训练、评估、测试和部署等全套工具。同时,由 TI-ACC 升级的"太极 Angel"提供更优的训练和推理加速能力。在传统 CV、NLP 算法模型的基础上,新增了对大模型的训练和推理加速能力,通过异步调度优化、显存优化、计算优化等方式,相比行业常用方案性能提升 30%+。
第三,TI 平台沉淀了从“业务分析、数据处理、大模型选择”到“模型评测”的一体化完整方法论,同时支持 MLOps 的体系及工具,保障客户需求的顺利交付。
在配套服务和安全保障方面,腾讯云提供本地化的训练、落地及陪跑优化服务,为客户扫清落地障碍;依托二十余年的安全经验和风控能力,提供 AIGC 全链路内容合规解决方案;针对客户对数据安全需求,提供私有化部署等多种灵活交付方案,加速企业快速创建和部署 AI 应用。