前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >如何设计一个基于Paxos的KV存储系统

如何设计一个基于Paxos的KV存储系统

作者头像
并发笔记
发布2022-11-21 20:19:59
6010
发布2022-11-21 20:19:59
举报
文章被收录于专栏:并发笔记

1978年5月11日,《光明日报》发表本报特约评论员文章《实践是检验真理的唯一标准》,由此引发了一场关于真理标准问题的大讨论。

在各个平台,以并发笔记的ID分享过很多关于共识算法的内容了,所以接下来我准备分享Paxos的实战内容,如何基于Paxos设计一个分布式系统。

当然,这篇文章最主要的目的是:希望有更多感兴趣的小伙伴参与到这个项目来,我们可以一起讨论如何优化Paxos。

Klein介绍

1. 介绍

Klein是一个基于Paxos分布式共识类库,我使用它实现了KV存储、缓存。

项目地址:https://github.com/shihuili1218/klein

你可以独立部署Klein,像使用Redis一样使用它;但是仅仅是这样的话,也太没有新意了,它有趣的地方在于:Klein可以内嵌入你的项目中,你可以不依赖任何中间件,保证各个成员之间的数据一致。

基于此,你可以有无限多的想法,例如用Klein来实现KV存储,或者用它来实现分布式缓存,甚至用它来实现分布式锁,etc anything.

2. 玩点不一样的

众所周知,Paxos是存在一些局限的,诸如活锁、RPC交互次数过多,这使得Paxos让人望而却步。尽管对于这些问题,已经有了标准的解决方案,但是不玩些花样,造什么轮子呢?

  • 是否真的能支持并行协商?
  • Confirm阶段(应用状态转移)是否真的可以异步执行?
  • 如何为一个运行的系统创建快照?
  • Group的拆分是否有必要完全隔离?
  • 到底哪个提案会达成共识?

3. 愿景

愿景呢,当然是希望维护一个标准的共识类库,开箱即用。

同时希望可以进入Apache孵化器。

进度

1. Paxos

  • ? 写请求、乱序协商,顺序确认【完成】
  • ? 读请求,使用协商log完成【完成】
  • ? 批量协商【完成】
  • ? 优化prepare阶段【完成】
  • ? 快照【完成】
  • ? 拆分Group,proposer等角色无须隔离,只需隔离instance【完成】
  • ? 增加Master:成员变更、优化读请求【进行中】
  • ? 成员自动发现(调研)
  • ? 数据对齐:成员上线、落后成员对齐
  • ? NWR
  • ? confirm优化读请求
  • ? 不存在干扰key,无需执行一轮Prepare

2. 缓存

  • ? 读、写、等基础功能【完成】
  • ? 配合持久化实现LRU
  • ? TTL自动过期

3. 待优化

  • ? LogManager行锁
  • ? 监控协商效率
  • ? 监控线程池指标(DefaultTimer, ThreadExecutor)
本文参与?腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2022-11-10,如有侵权请联系?cloudcommunity@tencent.com 删除

本文分享自 并发笔记 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与?腾讯云自媒体同步曝光计划? ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
http://www.vxiaotou.com