BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

GoshawkDB:一个分布式、支持事务与容错的对象存储

| 作者 张龙 关注 14 他的粉丝 发布于 2016年1月11日. 估计阅读时间: 8 分钟 | AICon 关注机器学习、计算机视觉、NLP、自动驾驶等20+AI热点技术和最新落地成功案例。

在经过了10个月的全力开发后,GoshawkDB 0.1发布了。这是GoshawkDB的首个公开发布版本,但该版本还是Beta版,因此不建议在生产环境下使用。同时,GoshawkDB服务端二进制文件现在已经可以下载,Go客户端(Go gettable)也可以使用了。

GoshawkDB是一个对象存储,提供了完全的事务支持、直观的语义、分布式、高性能的CP系统、冗余、无模式以及安全等特性。

GoshawkDB的主要特性列举如下:

对象存储

在编程语言中,你会通过对象而不是行或列来对数据进行建模。GoshawkDB是个对象存储,因此无需将对象转换为表项目,然后再转换回来:你所使用的只是持久化对象而已。这种直观且简单的做法与编程语言之间形成了非常自然的吻合关系。任何对象图都是可以接受的:它并没有施加什么限制,因此在使用GoshawkDB时,你无需改变自己对数据进行建模的方式。对象图的导航以及资源探测都是通过从根对象进行遍历的,根对象是在GoshawkDB首次启动时由其所创建的。连接到GoshawkDB集群的所有客户端都会知道这个根对象,并且会从这个对象开始进行导航。对象值就是普通的字节数组:GoshawkDB不要求使用模式,因此无需解释对象值。这意味着你可以自由使用任何对象序列化格式:从JSON到ProtoBuf,再到CapnProto等等。这样,对象就是多语言的了,你只需选择一种序列化格式即可。此外,这还表示你可以自由加密对象值,因为GoshawkDB根本就不会检测他们:他们对于GoshawkDB来说是完全透明的。

完全的事务支持

GoshawkDB支持完全的多对象事务,事务是原子和隔离的,无论事务中包含了多少对象,无论这些对象存储在哪里都是如此。GoshawkDB客户端支持嵌套事务,诸如Retry等高级特性使得GoshawkDB的事务变得异常强大和灵活。

直观的语义

如果语义不明确或是非常复杂,那么使用任何数据存储都是毫无意义的。GoshawkDB对于事务只支持最强的序列化隔离级别。这是最简单,也是最直观的隔离级别。GoshawkDB对于在失败的情况下应该如何做进行了明确的保证,这可以确保你的理解与系统的行为之间不会出现任何偏差。

分布式

GoshawkDB是个分布式数据存储,无论在云端还是自己的数据中心都如此。结点集群会呈现出一种逻辑存储,独特且改进过的一致性哈希形式确保了对象与负载会均匀地散落在各个结点上,同时还提供了可配置的冗余级别。客户端可以连接到任何结点来访问数据存储;所有结点都是等同的。

在传统数据库中,数据是存储在服务器上的,你需要向服务器发送请求。这样,在传统的SQL事务中,你对数据库所执行的每个操作都会在客户端与服务器之间形成一个来回的通信。服务器还会追踪你所执行的所有操作,一旦操作完成,它就会以某种方式来验证这些动作不会违背隔离级别的要求。这会导致非常长且复杂的SQL查询,从而减小客户端与服务器之间的来回通信以及事务长度,甚至还会要求我们使用存储过程。

GoshawkDB的设计则是完全不同的。在GoshawkDB中,事务只运行在客户端。你可以将客户端看作是服务器所存储的对象的不完整缓存。事务是完全运行在客户端的。所有对象的读、创建与写入都是在客户端累积到一起的,然后一次性发送给服务器进行验证。这样,如果客户端的对象缓存合法,那么无论事务有多么长,客户端与服务器之间只有一次来回通信。如果由于其他客户端的修改导致当前客户端的缓存过期了,那么服务器就会拒绝事务,并要求该客户端重新运行并更新缓存。客户端只需应用更新,然后自动重新运行事务即可。

由于这一点,事务就变成了普通的功能,它会使用客户端API来检测并修改对象。我们无需再去使用类似于SQL这样的语言。客户端会负责在必要的情况下自动重新运行事务。这也意味着在某些情况下,GoshawkDB是无锁的:一个事务的动作可能永远不会导致另一个事务被锁定,从而无法继续进行,死锁也就不会发生了。不过,在客户端提交事务修改前,事务可能需要运行多次,这些修改会成功通过验证并应用到数据存储上。

高性能的CP系统

GoshawkDB是个CP系统(Consistency,Partition Tolerance)。这意味着当出现失败或是分区状况时不会导致一致性问题;相比于AP系统(Availability,Partition Tolerance)来说,它不会欺骗你。有证据表明CP系统要做的事情比AP系统要多,因此速度上不会很快,不过GoshawkDB独特的设计考虑到了性能与网络问题。GoshawkDB只会在必要时开启事务。与其他很多分布式CP数据存储不同,对于不变负载来说,GoshawkDB的性能并不会随着结点的增加而有所降低,相反性能还会得到提升。

冗余

GoshawkDB在多个结点上维护了每个对象的副本。它并未使用leader/follower设计方式:所有结点都是等同的,每个对象的所有副本也都是等同的。事务只需要与每个对象的大多数副本进行通信即可进行,因此GoshawkDB可以在失败的情况下继续处理,只要每个对象的大多数副本依然可以使用即可。每个对象的副本数量可能会比集群中的结点数少:GoshawkDB是分片的。GoshawkDB使用了Paxos Synod协议来实现一致性。对象的修改会在客户端知道事务结果之前被写到磁盘上。

无模式

GoshawkDB并不要求对数据使用模式;GoshawkDB将对象值看作是普通的字节数组,你可以根据自身情况选择适合的序列化格式。唯一的要求就是要显式声明指向其他对象的指针:如果对象x包含了对对象y的指针,那么你需要让GoshawkDB知道这一点。

安全

服务器结点之间的所有通信都是通过NaCl crypto库加密的。客户端与服务器结点之间的所有通信也都是通过NaCl crypto库加密的,同时客户端连接是需要认证的(使用用户名与密码)。

GoshawkDB服务器是免费提供的,基于GNU Affero General Public License 3.0。同时也可以使用商业许可。GoshawkDB Server 0.1 - Linux 64-bit x86(10587576字节)的sha1sum是5084891dcac0d606a0c30df257310fba18e1052a。可以通过Mercurial浏览并克隆其源代码。目前,其预构建的二进制文件只针对64-bit x86 Linux。GoshawkDB可以在支持Go与LMDB的平台上进行构建。其源代码在GitHub上也有镜像

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

这究竟跟MongoDB比起来有什么优势 by 曦 杨

完全没看出跟MongoDB比起来有什么优势。MongoDB发展了这么久也比较成熟了

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

1 讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT