技术的分类
- 解决功能性的问题:Java、Jsp、 RDBMS Tomcat、HTML、Linux、 Jdbc、SVN
- 解决扩展性的问题:Struts、Spring、SpringMVC、Hibernate、Mybatis
- 解决性能的问题:NoSQL、Java线程、Hadoop、 Nginx、MQ、 ElasticSearch
解决应服务器的cpu和内存压力:
解决IO的压力
NoSQL数据库概述
- NoSQL(NoSQL = Not Only SQL ),意即“不仅仅是SQL”,泛指非关系型的数据库。 NoSQL 不依赖业务逻辑方式存储,而以简单的key-value模式存储。因此大大的增加了数据库的扩展能力。
- 不遵循SQL标准。
- 不支持ACID
- 远超于SQL的性能。
NoSQL适用场景:
对数据高并发的读写 海量数据的读写 对数据高可扩展性的
NoSQL不适用场景:
需要事务支持 基于sql的结构化查询存储,处理复杂的关系,需要即席查询。
用不着sql的和用了sql也不行的情况,请考虑用NoSql
redis介绍:
Redis是一个开源的key-value存储系统。和Memcached类似,它支持存储的value类型相对更多,包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash(哈希类型)。这些数据类型都支持push/pop、add/remove及取交集并集和差集及更丰富的操作,而且这些操作都是原子性的。在此基础上,Redis支持各种不同方式的排序。与memcached一样,为了保证效率,数据都是缓存在内存中。区别的是Redis会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件,并且在此基础上实现了master-slave(主从)同步。
Redis应用场景:
1、配合关系型数据库做高速缓存
- 高频次,热门访问的数据,降低数据库IO
- 分布式架构,做session共享
2、由于其拥有持久化能力,利用其多样的数据结构存储特定的数据。
- 最新N个数据 ---->> 通过List实现按自然时间排序的数据
- 排行榜 ,Top N,---->> 利用zset(有序集合)
- 时效性的数据,比如手机验证码 ---->> Expire 过期
- 计数器,秒杀 ---->> 原子性,自增方法INCR、DECR
- 去除大量数据中的重复数据 ---->>利用Set集合
- 构建队列 ---->>利用list集合
- 发布订阅消息系统 ---->>pub/sub模式
redis端口和数据库:
- 端口6379
- 默认16个数据库,类似数组下标从0开始,初始默认使用0号库,使用命令 select <dbid> 来切换数据库。如: select 8
- 统一密码管理,所有库都是同样密码,要么都OK要么一个也连接不上。
Redis—单线程:
Redis是单线程+多路IO复用技术
多路复用是指使用一个线程来检查多个文件描述符(Socket)的就绪状态,比如调用select和poll函数,传入多个文件描述符,如果有一个文件描述符就绪,则返回,否则阻塞直到超时。得到就绪状态后进行真正的操作可以在同一个线程里执行,也可以启动线程执行(比如使用线程池)。
串行 vs 多线程+锁(memcached) vs 单线程+多路IO复用(Redis)
Redis数据类型:
操作:
keys *
查询当前库的所有键
exists <key>
判断某个键是否存在
type <key>
查看键的类型
del <key>
删除某个键
expire <key> <seconds>
为键值设置过期时间,单位秒。
ttl <key>
查看还有多少秒过期,-1表示永不过期,-2表示已过期
move <key> <db>
把键移动到另一个库下
dbsize
查看当前数据库的key的数量
flushdb
清空当前库
flushall
通杀全部库
String:
- String是Redis最基本的类型,一个key对应一个value。
- String类型是二进制安全的。意味着Redis的string可以包含任何数据。比如jpg图片或者序列化的对象 。
- String类型是Redis最基本的数据类型,一个Redis中字符串value最多可以是512M
操作:
get <key>
查询对应键值
set <key> <value>
添加键值对
append <key> <value>
将给定的<value> 追加到原值的末尾
strlen <key>
获得值的长度
setnx <key> <value>
只有在 key 不存在时设置 key 的值
incr <key>
将 key 中储存的数字值增1
只能对数字值操作,如果为空,新增值为1
decr <key>
将 key 中储存的数字值减1
只能对数字值操作,如果为空,新增值为-1
incrby / decrby <key> <步长>
将 key 中储存的数字值增减。自定义步长。
getrange <key> <起始位置> <结束位置>
获得值的范围,类似java中的substring
setrange <key> <起始位置> <value>
用 <value> 覆写<key> 所储存的字符串值,从<起始位置>开始。
mset <key1> <value1> <key2> <value2> .....
同时设置一个或多个 key-value对
mget <key1> <key2> <key3> .....
同时获取一个或多个 value
msetnx <key1> <value1> <key2> <value2> .....
同时设置一个或多个 key-value 对,当且仅当所有给定 key 都不存在。
setex <key> <过期时间> <value>
设置键值的同时,设置过期时间,单位秒。
getset <key> <value>
以新换旧,设置了新值同时获得就值。
原子性:
所谓原子操作是指不会被线程调度机制打断的操作;这种操作一旦开始,就一直运行到结束,中间不会有任何 context switch (切换到另一个线程)。
(1) 在单线程中, 能够在单条指令中完成的操作都可以认为是" 原子操作",因为中断只能发生于指令之间。
(2)在多线程中,不能被其它进程(线程)打断的操作就叫原子操作。
Redis单命令的原子性主要得益于Redis的单线程
List:
- 单键多值
- Redis 列表是简单的字符串列表,按照插入顺序排序。你可以添加一个元素导列表的头部(左边)或者尾部(右边)。
- 它的底层实际是个双向链表,对两端的操作性能很高,通过索引下标的操作中间的节点性能会较差。
操作:
lpush/rpush <key> <value1> <value2> <value3> ....
从左边/右边插入一个或多个值。
lpop/rpop <key>
从左边/右边吐出一个值。
值在键在,值光键亡。
rpoplpush <key1> <key2>
从<key1>列表右边吐出一个值,插到<key2>列表左边。
lrange <key> <index>
按照索引下标获得元素(从左到右)
lindex <key> <index>
按照索引下标获得元素(从左到右)
llen <key>
获得列表长度
linsert <key> before <value> <newvalue>
在<value>的后面插入<newvalue> 插入值
lrem <key> <n> <value>
从左边删除n个value(从左到右)
set:
- Redis set对外提供的功能与list类似是一个列表的功能,特殊之处在于set是可以自动排重的,当你需要存储一个列表数据,又不希望出现重复数据时,set是一个很好的选择,并且set提供了判断某个成员是否在一个set集合内的重要接口,这个也是list所不能提供的。
- Redis的Set是string类型的无序集合。它底层其实是一个value为null的hash表,所以添加,删除,查找的复杂度都是O(1)。
操作:
sadd <key> <value1> <value2> .....
将一个或多个 member 元素加入到集合 key 当中,已经存在于集合的 member 元素将被忽略。
smembers <key>
取出该集合的所有值。
sismember <key> <value>
判断集合<key>是否为含有该<value>值,有返回1,没有返回0
scard <key>
返回该集合的元素个数。
srem <key> <value1> <value2> ....
删除集合中的某个元素。
spop <key>
随机从该集合中吐出一个值。
srandmember <key> <n>
随机从该集合中取出n个值。
不会从集合中删除
smove <key1> <key2> <value>
将key1集合里的<value>值移到key2集合里
sinter <key1> <key2>
返回两个集合的交集元素。
sunion <key1> <key2>
返回两个集合的并集元素。
sdiff <key1> <key2>
返回两个集合的差集元素。
hash:
- Redis hash 是一个键值对集合。
- Redis hash是一个string类型的field和value的映射表,hash特别适合用于存储对象。
- 类似Java里面的Map<String,Object>
操作:
hset <key> <field> <value>
给<key>集合中的 <field>键赋值<value>
hget <key1> <field>
从<key1>集合<field> 取出 value
hmset <key1> <field1> <value1> <field2> <value2>...
批量设置hash的值
hexists key <field>
查看哈希表 key 中,给定域 field 是否存在。
hkeys <key>
列出该hash集合的所有field
hvals <key>
列出该hash集合的所有value
hincrby <key> <field> <increment>
为哈希表 key 中的域 field 的值加上增量 increment
hsetnx <key> <field> <value>
将哈希表 key 中的域 field 的值设置为 value ,当且仅当域 field 不存在 .
zset (sorted set):
- Redis有序集合zset与普通集合set非常相似,是一个没有重复元素的字符串集合。不同之处是有序集合的没有成员都关联了一个评分(score) ,这个评分(score)被用来按照从最低分到最高分的方式排序集合中的成员。集合的成员是唯一的,但是评分可以是重复了 。
- 因为元素是有序的, 所以你也可以很快的根据评分(score)或者次序(position)来获取一个范围的元素。访问有序集合的中间元素也是非常快的,因此你能够使用有序集合作为一个没有重复成员的智能列表。
zadd <key> <score1> <value1> <score2> <value2>...
将一个或多个 member 元素及其 score 值加入到有序集 key 当中。
zrange <key> <start> <stop> [WITHSCORES]
返回有序集 key 中,下标在<start> <stop>之间的元素
带WITHSCORES,可以让分数一起和值返回到结果集。
zrangebyscore key min max [withscores] [limit offset count]
返回有序集 key 中,所有 score 值介于 min 和 max 之间(包括等于 min 或 max )的成员。有序集成员按 score 值递增(从小到大)次序排列。
zrevrangebyscore key max min [withscores] [limit offset count]
同上,改为从大到小排列。
zincrby <key> <increment> <value>
为元素的score加上增量
zrem <key> <value>
删除该集合下,指定值的元素
zcount <key> <min> <max>
统计该集合,分数区间内的元素个数
zcard <key>
获取集合中元素个数
zrank <key> <value>
返回该值在集合中的排名,从0开始。