CacheCloudRedis 私有云平台
一、CacheCloud 是做什么的
CacheCloud 提供一个 Redis 云管理平台:实现多种类型(Redis Standalone、Redis Sentinel、Redis Cluster)自动部署、解决Redis实例碎片化现象、提供完善统计、监控、运维功能、减少开发人员的运维成本和误操作,提高机器的利用率,提供灵活的伸缩性,提供方便的接入客户端.
二、CacheCloud 提供哪些功能
监控统计:提供了机器、应用、实例下各个维度数据的监控和统计界面。
一键开启:Redis Standalone、Redis Sentinel、Redis Cluster三种类型的应用,无需手动配置初始化。
Failover:支持哨兵,集群的高可用模式。
伸缩:提供完善的垂直和水平在线伸缩功能。
完善运维:提供自动运维和简化运维操作功能,避免纯手工运维出错。
方便的客户端:方便快捷的客户端接入。
元数据管理:提供机器、应用、实例、用户信息管理。
流程化:提供申请,运维,伸缩,修改等完善的处理流程
三、CacheCloud 解决什么问题
1. 部署成本
Redis多机(Redis-Sentinel, Redis-Cluster)部署和配置相对比较复杂,较容易出错。
例如:100个redis数据节点组成的redis-cluster集群,如果单纯手工安装,既耗时又容易出错。
2.实例碎片化
作为一个Redis管理员(可以看做redis DBA)需要帮助开发者管理上百个Redis-Cluster集群,分布在数百台机器上,人工维护成本很高,需要自动化运维工具。
3. 监控、统计和管理不完善
一些开源的Redis监控和管理工具,例如:RedisLive(Python)、Redis Commander(Node.js),Redmon(Ruby)无论从功能的全面性(例如配置管理,支持Redis-Cluster等等)、扩展性很难 满足需求。
4. 运维成本
Redis的使用者需要维护各自的Redis,但是用户可能更加善于使用Redis实现各种功能,但是没有足够的精力和经验维护Redis。 Redis的开发人员如同使用Mysql一样,不需要运维Mysql服务器,同样使用Redis服务,不要自己运维Redis,Redis由一些在Redis运维方面更有经验的人来维护(保证高可用,高扩展性),使得开发者更加关注于Redis使用本身。
5. 伸缩性
本产品支持Redis最新的Redis-Sentinel、Redis-Cluster集群机构,既满足Redis高可用性、又能满足Redis的可扩展性,具有较强的容量和性能伸缩能力。
6. 经济成本
机器利用率低,各个项目组的Redis较为分散的部署在各自服务器上,造成了大量闲置资源没有有效利用。
7. 版本不统一
各个项目的Redis使用各种不同的版本,不便于管理和交互。
四、CacheCloud 提供的价值
规模化自动运维:降低运维成本,降低人为操作出错率。
自由伸缩:提供灵活的伸缩性,应用扩容/收缩成本降低,机器资源得到重复利用。
团队提升,开源贡献:提升云产品开发设计经验,自己作为开发者和使用者,Eating your own dog food。
五、CacheCloud 在搜狐的规模
每天100+亿次命令调用
2T+的内存空间
800+个Redis实例
100+台机器
六、CacheCloud 环境需求
Java 7
Maven 3
MySQL
Redis 3
七、CacheCloud 快速开始
1. 初始化数据库
导入项目中cachecloud.sql初始化库表结构。默认插入admin超级管理员
2、CacheCloud项目配置
使用了maven作为项目构建的工具,提供了 local.properties和online.properties两套配置作为测试、线上的隔离。 属性配置说明:
属性名 | 说明 | 示例 |
---|---|---|
cachecloud.db.url | mysql驱动url | jdbc:mysql://127.0.0.1:3306/cache-cloud |
cachecloud.db.user | mysql用户名 | admin |
cachecloud.db.password | mysql密码 | admin |
cachecloud.machine.username | 服务器用户名,用于ssh | ${your machine username} |
cachecloud.machine.password | 服务器密码,用于ssh | ${your machine password} |
web.port | spring-boot内嵌tomcat启动端口 | 8080 |
3、启动cachecloud系统
mvn spring-boot:run
1. 构建:mvn -Ponline clean package
2. 上传war包到特定目录下:如/opt/cachecloud-web
3: 拷贝项目中的cachecloud-web.conf配置到/opt/cachecloud-web目录下,注意必须跟war包同目录才生效
4. 作为linux服务启动:
sudo ln -s /opt/cachecloud-web/cachecloud-web-1.0-SNAPSHOT.war /etc/init.d/cachecloud-web /etc/init.d/cachecloud-web start
(9999是tomcat的端口号,具体要参考第三节中的online.properties和local.properties中的web.port
4、添加机器
(1). 运行脚本:
cachecloud项目中的cachecloud-init.sh脚本是用来初始化服务器的cachecloud环境,主要工作如下:
(a). 创建cachecloud项目用户:因为cachecloud项目的部分功能(redis启动、服务器监控)是通过ssh完成的,所以这里的用户和密码要和项目中的相对应,具体详见第三节。
(b). 创建cachecloud项目的工作目录、数据目录、配置目录、日志目录、redis安装目录、临时目录等等。(/opt/cachecloud/data、/opt/cachecloud/conf、/opt/cachecloud/logs、/opt/cachecloud/redis、/tmp/cachecloud)
(c). 安装最新的release版本的Redis
(2). 脚本执行
(a). 使用root登录目标服务器。
(b). 将cachecloud-init.sh脚本拷贝到目标服务器当前用户目录下。
(c). 执行 sh cachecloud-init.sh ${yourusername}
(d). 两次确认密码
(e). 一路安装直到成功。
(3). 建议和警告
(a). 请在root用户下执行初始化脚本,因为初始化脚本涉及到了用户的创建等较高的权限。
(b). 出于安全的考虑,所选的机器最好不要有外网IP地址。
(c). 用户名和密码最好不要用cachecloud, 密码尽可能复杂。
(d). 机器的ssh端口最好是22。
(e). 请确保/opt/有足够的硬盘空间,因为/opt/cachecloud/data要存储RDB和AOF的持久化文件,如果硬盘过小,会造成持久化失败。 (如果硬盘确实很小,建议建立一个软链接到/opt/cachecloud/data,且保证软链接的目录也是username用户,一定要保证/opt /cachecloud的目录结构)
(f). 脚本中目前使用的是redis-3.0.6,如有需要请自行替换,建议使用3.0 release以后的版本。
(4). 添加机器
进入管理员界面(http://ip:port/manage/total/list),进入机器管理,点击添加机器,添加机器信息是开通应用的基础。