0

0

Twemproxy代理Key-Value数据库SSDB实现数据分布式存储

php中文网

php中文网

发布时间:2016-06-07 14:55:59

|

2091人浏览过

|

来源于php中文网

原创

SSDB是一个高性能的支持丰富数据结构的 NoSQL 数据库, 用于替代 Redis或者与 Redis 配合存储十亿级别列表的数据,现在已被许多知名企业所应用。我们使用SSDB是想将现有的redis中的key迁移到SSDB以破除现有的redis 120G存储极限(当然可以扩展,但是计算了下

    ssdb是一个高性能的支持丰富数据结构的 nosql 数据库, 用于替代 redis或者与 redis 配合存储十亿级别列表的数据,现在已被许多知名企业所应用。我们使用ssdb是想将现有的redis中的key迁移到ssdb以破除现有的redis 120g存储极限(当然可以扩展,但是计算了下成本就打算放弃了)。

    Twemproxy是twtter开源的一个redis和memcache代理服务器,这里我们使用Twemproxy代理来代理SSDB集群来实现数据的分布式存储,即shared。

    

    1、节点规划:

        Twemproxy        192.168.0.100    

        ssdb1 master     192.168.0.101

        ssdb1 slave      192.168.0.102

        ssdb2 master     192.168.0.103

        ssdb2 slave      192.168.0.104

    2、安装SSDB

## 解压下载好的ssdb软件包
$ unzip  ssdb-master.zip
## 安装gcc、gcc-c++ 、make等工具
##编译、安装ssdb,会安装在/usr/local/ssdb/下面
$ cd ssdb-master
$ make &&make install

## 进入安装目录
$ cd/usr/local/ssdb/
## 启动ssdb-server
$ ./ssdb-server -dssdb.conf
ssdb 1.8.2
Copyright (c)2012-2014 ssdb.io
## 验证是否启动成功,若8888端口被监听,则表示成功
$ netstat-alnut|grep 8888
tcp       0      0 127.0.0.1:8888              0.0.0.0:*                   LISTEN

## 客户端连接
$ ./ssdb-cli -p8888
 ssdb (cli) - ssdb command line tool.
Copyright (c)2012-2014 ssdb.io
'h' or 'help' forhelp, 'q' to quit.
server version:1.8.2
ssdb 127.0.0.1:8888>

    3、主从配置,以ssdb1为例

## 修改ssdb1 master的配置文件,如下
# ssdb-server config
# MUST indent by TAB!
 
# relative to path of this file, directorymust exists
work_dir = ./var
pidfile = ./var/ssdb.pid
 
server:
       ip:192.168.0.101
       port:8888
       # bind to public ip
       #ip: 0.0.0.0
       # format: allow|deny: all|ip_prefix
       # multiple allows or denys is supported
       #deny: all
       #allow: 127.0.0.1
       #allow: 192.168
       # auth password must be at least 32 characters
       #auth: very-strong-password
 
replication:
       binlog: yes
       # Limit sync speed to *MB/s, -1: no limit
       sync_speed: -1
       slaveof:
                # to identify a master even ifit moved(ip, port changed)
                # if set to empty or notdefined, ip:port will be used.
                #id: svc_2
                # sync|mirror, default is sync
                #type: sync
                #ip: 127.0.0.1
                #port: 8889
 
logger:
       level: debug
       output: log.txt
       rotate:
                size: 1000000000
 
leveldb:
       # in MB
       cache_size: 500
       # in KB
       block_size: 32
       # in MB
       write_buffer_size: 64
       # in MB
       compaction_speed: 1000
       # yes|no
       compression: yes

## 修改ssdb1 slave的配置文件,如下
# ssdb-server config
# MUST indent by TAB!
 
# relative to path of this file, directorymust exists
work_dir = ./var
pidfile = ./var/ssdb.pid
 
server:
        ip: 192.168.0.102
        port: 8888
       # bind to public ip
       #ip: 0.0.0.0
       # format: allow|deny: all|ip_prefix
       # multiple allows or denys is supported
       #deny: all
       #allow: 127.0.0.1
       #allow: 192.168
       # auth password must be at least 32 characters
       #auth: very-strong-password
 
replication:
       binlog:yes
       # Limit sync speed to *MB/s, -1: no limit
       sync_speed: -1
       slaveof:
                # to identify a master even if itmoved(ip, port changed)
                # if set to empty or notdefined, ip:port will be used.
                id: svc_1
                # sync|mirror, default is sync
                type:sync
                ip: 192.168.0.101
                port:8888
 
logger:
       level: debug
       output: log.txt
       rotate:
                size: 1000000000
 
leveldb:
       # in MB
       cache_size: 500
       # in KB
       block_size: 32
        # in MB
       write_buffer_size: 64
       # in MB
       compaction_speed: 1000
       # yes|no
       compression: yes

   

    这样就完成了ssdb1 masterssdb1 slavessdb2 masterssdb2 slave的配置与此相同。需要注意的是,如果要为已经有数据的ssdb节点配置slave的话,与mysql不同的是无需拷贝基础数据到slave上,只需要在slave的配置文件中指定master的信息即可,ssdb会自动进行基础数据的拷贝和同步的。


    SSDB 数据库中的所有数据都是排好序的, 所以你可以把整个数据库理解为一个链表, SSDB 从表头开始 Copy, 一次一个节点, 游标一直往后. 这时, 如果有新的 Binlog, SSDB 会先判断这条 Binlog 对应的节点在链表中的什么位置, 是在游标的前面还是后面?如果在游标的前面, 那么会把这条 Binlog 发给 Slave 执行. 如果在游标的后面, 就会直接忽略掉, 因为游标最终会移动到更新的位置. 从这个描述也可以知道, 处于 Copy 阶段的 Slave, 有可能无法立即知道 Master 上的更新.当游标移动到了链表的末端之后, Copy 过程就结束了, 主从同步流程进入到 Sync 阶段, 也就是即时(毫秒级)更新阶段。更多ssdb的learnning可以访问ssdb的项目地址:http://ssdb.io/zh_cn/.


    4、安装Twemproxy

## 安装automake、libtool 、xz工具
$  yum install automake libtool xz -y
## 安装autoconf
$  wget  http://down1.chinaunix.net/distfiles/autoconf-2.69.tar.xz
$  xz -d autoconf-2.69.tar.xz
$  tar xf autoconf-2.69.tar -C /opt
$  cd /opt/autoconf-2.69
$  ./configure
$  make && make install
## 安装Twemproxy
$  git clone https://github.com/twitter/twemproxy.git
$  cd  twemproxy/
$  autoreconf -fvi 
$  ./configure
$  make && make install
## 将Twemproxy的配置文件放置在/etc/下、
$  mkdir /etc/nutcracker
$  cp  conf/nutcracker.yml/etc/nutcracker/nutcracker.yml

    5、配置Twemproxy

成新网络商城购物系统
成新网络商城购物系统

使用模板与程序分离的方式构建,依靠专门设计的数据库操作类实现数据库存取,具有专有错误处理模块,通过 Email 实时报告数据库错误,除具有满足购物需要的全部功能外,成新商城购物系统还对购物系统体系做了丰富的扩展,全新设计的搜索功能,自定义成新商城购物系统代码功能代码已经全面优化,杜绝SQL注入漏洞前台测试用户名:admin密码:admin888后台管理员名:admin密码:admin888

下载
## 修改配置文件
$ vim   /etc/nutcracker/nutcracker.yml  
beta:
  listen: 127.0.0.1:22122
  hash: fnv1a_64
  hash_tag: "{}"
  distribution: ketama
  auto_eject_hosts: false
  timeout: 400
  redis: true
  servers:
   - 192.168.0.101:8888:1 server1
   - 192.168.0.103:8888:1 server2

    配置项:

        listen: 127.0.0.1:22122      ## 监听地址和端口

        hash: fnv1a_64               ## 散列算法

        redis: true                  ## 后端代理的是否为redis

        servers:                     ## 分片服务器列表

        distribution: ketama         ## 分片的算法,有ketama(一致性hash)、module(取模)、random(随机)三种算法

        auto_eject_hosts: false      ## 是否在节点无法响应时自动从服务器列表中剔除,重新响应时自动加入服务器列表中

        hash_tag: "{}"               ## 假设ssdb中一个对象有多个key属性,如kora这个人的姓名name:kora:,kora的年龄age:kora:,kora的住址 loc:kora:,为了保证这kora这三个属性能被路由到后端的同一个分片上,我们就需要指定hash_tag: "{::}",这样就避免读取数据的时候跨分片检索


    6、启动Twemproxy

## 启动
$  nutcracker -d -c/etc/nutcracker/nutcracker.yml -p /var/run/redisproxy.pid -o /var/log/redisproxy.log& 
## 验证22122端口是否被监听
 $  netstat -alnut |grep 22122
tcp       0      0 127.0.0.1:22122             0.0.0.0:*                   LISTEN

    7、测试分片功能

## 需要注意:Twemproxy代理是不支持ssdb-cli连接的,但是ssdb的协议和redis的协议一致,我们可以使用redis客户端来连接代理,这个问题我咨询过ssdb的作者,是需要使用redis-cli的
$   ./redis-cli -p 22122
127.0.0.1:22122>

    ## 代理中插入如下数据

wKiom1UzckKBDtqHAAFqK4wp_4c881.jpg

    ## 后端ssdb server1 上查看数据,3个key

wKioL1Uzc5uBG0TxAAJYOp_awRA061.jpg

    ## 后端ssdb server1 上查看数据,5个key

wKiom1UzckLy_pgTAAJALRpADoU610.jpg

    Twemproxy代理能够实现SSDB的分布式存储,但是对于SSDB分布式体系的在线扩展还是无能为力,如果说需要扩展现有的分布式集群,那么最简单的方法就是新建一个期望的集群,然后应用双写数据到新旧两个集群里面,接着将旧集群中的数据通过代理迁移到新集群上,这里要注意,只有新集群中不存在key的时候才set,防止旧数据覆盖新数据,数据迁移完成后,选择一个合适的时机将应用切换到新的集群上来,由于使用了Twemproxy代理,切换的过程对前端应用来说是透明的。


相关专题

更多
javascript void运算符
javascript void运算符

void是一元运算符,执行右侧表达式但始终返回undefined;用于丢弃返回值、阻止a标签跳转、IIFE忽略结果、动态导入不取Promise、安全获取undefined。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1

2025.12.29

vscode的界面字体大小调整
vscode的界面字体大小调整

调整VSCode界面字体大小可通过设置编辑器或整体UI缩放实现;2.修改"Editor:FontSize"改变代码字体;3.设置"Window:ZoomLevel"调整整体界面字体;4.使用Ctrl+滚轮快捷键临时缩放。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1

2025.12.29

VSCode的注释快捷键
VSCode的注释快捷键

单行注释快捷键为Ctrl+/(Windows/Linux)或Cmd+/(macOS),块注释使用Shift+Alt+A(Windows/Linux)或Shift+Option+A(macOS),VSCode会根据语言类型自动匹配语法,如JavaScript用//,Python用#,C++用//,若快捷键无效需检查语言扩展或插件冲突。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1

2025.12.29

Golang 命令行工具(CLI)开发实战
Golang 命令行工具(CLI)开发实战

本专题系统讲解 Golang 在命令行工具(CLI)开发中的实战应用,内容涵盖参数解析、子命令设计、配置文件读取、日志输出、错误处理、跨平台编译以及常用CLI库(如 Cobra、Viper)的使用方法。通过完整案例,帮助学习者掌握 使用 Go 构建专业级命令行工具与开发辅助程序的能力。

4

2025.12.29

ip地址修改教程大全
ip地址修改教程大全

本专题整合了ip地址修改教程大全,阅读下面的文章自行寻找合适的解决教程。

165

2025.12.26

压缩文件加密教程汇总
压缩文件加密教程汇总

本专题整合了压缩文件加密教程,阅读专题下面的文章了解更多详细教程。

56

2025.12.26

wifi无ip分配
wifi无ip分配

本专题整合了wifi无ip分配相关教程,阅读专题下面的文章了解更多详细教程。

108

2025.12.26

漫蛙漫画入口网址
漫蛙漫画入口网址

本专题整合了漫蛙入口网址大全,阅读下面的文章领取更多入口。

356

2025.12.26

b站看视频入口合集
b站看视频入口合集

本专题整合了b站哔哩哔哩相关入口合集,阅读下面的文章查看更多入口。

703

2025.12.26

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Git 教程
Git 教程

共21课时 | 2.3万人学习

Django 教程
Django 教程

共28课时 | 2.5万人学习

MySQL 教程
MySQL 教程

共48课时 | 1.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号