腾讯云消息队列 CKafka,分布式、高吞吐量、高可扩展性的消息服务,100%兼容开源 Apache Kafka 0.9 0.10
腾讯云消息队列 CKafka点击查看详情
消息队列 CKafka 简介
消息队列 CKafka(Cloud Kafka)是一个分布式、高吞吐量、高可扩展性的消息系统,100%兼容开源 Kafka API(0.9、0.10版本)。CKafka 基于发布/订阅模式,通过消息解耦,使生产者和消费者异步交互,无需彼此等待。CKafka 具有数据压缩、同时支持离线和实时数据处理等优点,适用于日志压缩收集、监控数据聚合等场景。
腾讯云消息队列 CKafka 的特性
兼容开源
100% 兼容 Apache Kafka 0.9 0.10版本,迁移上云0成本。兼容开源上下游组件,对于Kafka Streams、Kafka Connect 及 KSQL 无缝支持。
上下游生态
支持与 EMR、COS、容器、流计算、无服务器函数、日志服务等13+云上产品打通,实现快速一键部署。
高可靠
消息队列 CKafka 集群性能强劲,生产性超越开源方案;此外,消息队列 CKafka 分布式的部署,集群稳定性也有很好的保障。
高扩展性
支持集群水平扩容,实例无缝升配,底层系统根据业务规模自动弹性伸缩,上层业务无感知。
业务安全
不同租户间网络隔离,实例的网络访问在账户间天然隔离;支持管理流的 CAM 鉴权及数据流的 SASL 权限控制,严格控制访问权限。
统一运维监控
提供腾讯云平台整套的运维服务,包括租户隔离、权限控制、消息堆积查询、消费者详情查看等多维度监控告警等运维服务。
应用场景
日志分析系统
消息队列 CKafka 结合大数据套件 EMR,构建完整的日志分析系统。首先通过部署在客户端的 agent 进行日志采集,并将数据聚合到消息队列 CKafka,之后通过后端的大数据套件如 Spark 等进行数据的多次计算消费,并且对原始日志进行清理,落盘存储或进行图形化展示。
流数据处理平台
消息队列 CKafka 结合流计算 SCS , 用于实时/离线数据处理及异常检测,满足不同场景需要:
- 对实时数据进行分析和展示,并做异常检测,快速定位系统问题。
- 消费历史数据进行落盘存储和离线分析,对数据进行二次加工,生成趋势报表等。