消息队列-腾讯云消息队列 CKafka

腾讯云消息队列 CKafka,分布式、高吞吐量、高可扩展性的消息服务,100%兼容开源 Apache Kafka 0.9 0.10

腾讯云消息队列 CKafka点击查看详情

消息队列 CKafka 简介

消息队列 CKafka(Cloud Kafka)是一个分布式、高吞吐量、高可扩展性的消息系统,100%兼容开源 Kafka API(0.9、0.10版本)。CKafka 基于发布/订阅模式,通过消息解耦,使生产者和消费者异步交互,无需彼此等待。CKafka 具有数据压缩、同时支持离线和实时数据处理等优点,适用于日志压缩收集、监控数据聚合等场景。

腾讯云消息队列 CKafka 的特性

兼容开源

100% 兼容 Apache Kafka 0.9 0.10版本,迁移上云0成本。兼容开源上下游组件,对于Kafka Streams、Kafka Connect 及 KSQL 无缝支持。

上下游生态

支持与 EMR、COS、容器、流计算、无服务器函数、日志服务等13+云上产品打通,实现快速一键部署。

高可靠

消息队列 CKafka 集群性能强劲,生产性超越开源方案;此外,消息队列 CKafka 分布式的部署,集群稳定性也有很好的保障。

高扩展性

支持集群水平扩容,实例无缝升配,底层系统根据业务规模自动弹性伸缩,上层业务无感知。

业务安全

不同租户间网络隔离,实例的网络访问在账户间天然隔离;支持管理流的 CAM 鉴权及数据流的 SASL 权限控制,严格控制访问权限。

统一运维监控

提供腾讯云平台整套的运维服务,包括租户隔离、权限控制、消息堆积查询、消费者详情查看等多维度监控告警等运维服务。

应用场景

日志分析系统

消息队列 CKafka 结合大数据套件 EMR,构建完整的日志分析系统。首先通过部署在客户端的 agent 进行日志采集,并将数据聚合到消息队列 CKafka,之后通过后端的大数据套件如 Spark 等进行数据的多次计算消费,并且对原始日志进行清理,落盘存储或进行图形化展示。

流数据处理平台

消息队列 CKafka 结合流计算 SCS , 用于实时/离线数据处理及异常检测,满足不同场景需要:

  • 对实时数据进行分析和展示,并做异常检测,快速定位系统问题。
  • 消费历史数据进行落盘存储和离线分析,对数据进行二次加工,生成趋势报表等。