BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

对话Confluent CTO :针对Kafka的分布式流数据查询引擎KSQL技术解读

| 作者 Srini Penchikala 关注 17 他的粉丝 ,译者 张卫滨 关注 7 他的粉丝 发布于 2017年11月2日. 估计阅读时间: 8 分钟 | QCon北京2018全面起航:开启与Netflix、微软、ThoughtWorks等公司的技术创新之路!

亲爱的读者:我们最近添加了一些个人消息定制功能,您只需选择感兴趣的技术主题,即可获取重要资讯的邮件和网页通知

Confluent发布KSQL:针对Apache Kafka的交互式、分布式流SQL引擎。KSQL能够更容易地对Apache Kafka的主题进行多种流处理操作,比如聚合(aggregation)、连接(join)、时间窗口(windowing)以及会话(sessionization)。Confluent是在最近于旧金山举行的Kafka峰会宣布开源这个流数据SQL引擎的。

KSQL允许开发人员以类似SQL的语法读取、写入和处理实时的流数据。关于流处理方面的样例,包括对比两个或更多的流数据来探测反常现象并实时对其作出反应。与其他的分布式流和SQL框架不同的是,KSQL为Apache Kafka提供了一个流数据SQL引擎。在KSQL之前,开发人员需要使用Java或Python编程来处理Kafka中的流数据。

Neha Narkhede是Confluent的联合创始人兼CTO,在博客上阐述了KSQL框架的特性和使用场景,它可以用到诸如异常检测(anomaly detection)、监控和流式ETL中。

在底层,KSQL使用Kafka的Streams API来操作Kafka主题。在KSQL中有两个核心的抽象,它们同时也是Streams API的核心抽象:Stream和Table。

Stream:Stream是流处理应用中最重要的结构和一等公民。流是没有边界的结构化数据(“facts”)序列,流中已有的数据是不可变的(新的fact可以插入到流中,但是已有的fact无法进行更新或删除)。流可以通过Kafka主题来创建,也可以通过已有的流或表衍生出来。

Table:在Kafka中,Table是STREAM或另外一个TABLE的视图,代表了可变fact的集合。它与传统数据库中的表是对等的,只不过每当有新事件到达时,它就会持续更新,并且还支持额外的流处理语义,比如时间窗口。表中的fact是可变的,这意味着新的fact可以插入到表中,已有的fact也可以更新或删除。流可以通过Kafka主题来创建,也可以通过已有的流或表衍生出来。

Apache Kafka中的一个主题可以表述为KSQL中的一个Stream或一个Table,这取决于在该主题上想要表达的语义。

下图展现了KSQL是如何与系统中的两个数据流协作的。

InfoQ与Narkhede就KSQL的发布进行了交流。她介绍了为流数据创建SQL接口以便于运行查询的驱动力。

在他们使用Kafka所构建的流优先的数据架构愿景中,KSQL是非常重要的一个组成部分。在流优先的世界中,Kafka和KSQL所提供的功能都是之前在实时系统中所无法实现或实现起来非常复杂的。Kafka日志是流数据的核心存储抽象,这意味着进入离线数据仓库的相同数据可以进行流处理了。其他所有的内容都是使用KSQL基于日志创建出来的流视图,比如各种数据库、搜索索引或服务于公司系统的其他数据。创建这些衍生视图所需要的数据完善功能和ETL都可以借助KSQL以流的方式来完成。

InfoQ:你能介绍一下KSQL在集群和故障恢复方面的技术细节吗?

Neha Narkhede:有一个执行查询的KSQL服务器进程。一组KSQL进程会以集群的方式来运行。我们可以通过启动更多的KSQL服务器实例动态添加处理能力。这些实例是容错的:如果其中有一个发生故障,其他的实例会接管它的工作。查询是通过交互式KSQL命令行客户端发起的,客户端会通过REST API将命令发送至集群中。命令行允许我们探查可用的流和表、提交新的查询、检查运行查询的终端的状态。在内部,KSQL是使用Kafka的Streams API来构建的,这样就继承了它的弹性扩展、高级状态管理以及容错性,并且还支持Kafka最近宣布的 仅处理一次的语义(exactly-once processing semantics)。KSQL服务器将其嵌入了进来并基于此添加了分布式SQL引擎(包括一些有趣的内容,比如为了提升查询性能引入的自动字节码生成功能),除此之外,还提供了用于查询和控制的REST API。

InfoQ:相对于使用Kafka API来访问流数据,在使用KSQL查询时,有什么性能方面的考虑吗?

**Narkhede:**KSQL使用Kafka的Streams API进行构建,与Kafka集成地非常紧密。这种与Apache Kafka核心基础的紧密集成能够移除额外的数据转移和序列化层,如果在Kafka中使用非原生方案来处理流数据的话,往往必须要通过这些分层。所以,采用KSQL来处理Kafka主题中的数据时,额外的损耗是很低的。另外值得一提的是,KSQL依然处于开发者预览阶段,目前还没有性能基准。开发者预览阶段的目标就是与Kafka社区协作,确保KSQL能有杰出的用户体验。在接下来的几个月中,我们将精力投入到性能提升、测试以及操作稳定性上。

InfoQ:在提供标准的方式查询流数据方面,你认为KSQL会扮演什么样的角色?

Narkhede:在我们创建Kafka之时,JMS是消息处理领域的标准,Kafka基于日志范式的简单API对整个业界都很新颖。如今,Kafka不仅是消息领域的标准,还成为了管理实时数据的标准。它之所以能够成功要归因于简洁的用户体验,并且能够广泛应用于大规模流数据处理方面新的问题域之中。与之类似,KSQL提供了类似于SQL的接口,它修改了SQL标准使其更加适用于流处理。KSQL通过这样做,支持将流和表作为第一等的抽象,这对于充分发挥流处理的潜力并将其用到真正的用户场景中至关重要,这些场景包括流ETL、监控、异常检测和分析。KSQL为流处理领域带来了简洁性和操作的便利性,这会影响到查询流数据方面新标准的制订。

InfoQ:你能介绍一下Kafka的路线图吗,接下来读者会有哪些有趣的特性值得学习呢?

Narkhede:我们目前以开发者预览的方式发布了KSQL,开始围绕它构建社区并收集反馈。在与开源社区协作的过程中,我们计划添加更多的功能,使其在质量、稳定性以及操作性方面成为生产环境就绪的系统,我们准备支持更丰富的SQL语法,包括功能更强的聚集函数以及在连续表上任意时间点上使用的SELECT语句,也就是能够基于已计算出来的结果进行查找,也支持对流连续计算的结果进行查询。

KSQL目前基于Apache 2.0许可证模式处于开发者预览(Developer Preview)阶段,团队计划在接下来的几个月中使其达到生产环境就绪(production-ready)阶段。

读者可以参考快速入门指南KSQL Docker镜像学习这个工具的更多情况。如果你希望参与社区的话,还有一个 KSQL Community Slack Channel。关于KSQL的其他资源还有一个视频,它展现了如何使用KSQL实现实时监控、异常探测和报警功能。

查看英文原文Confluent Releases KSQL, a Distributed Streaming SQL Engine for Apache Kafka

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我
社区评论

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT