写这篇文章,我们聊聊分页列表缓存,希望能帮助大家提升缓存技术认知。
1 直接缓存分页列表结果
public List<Product> getPageList(String param,int page,int size) {
String key = "productList:page:" + page + ”size:“ + size +
"param:" + param ;
List<Product> dataList = cacheUtils.get(key);
if(dataList != null) {
return dataList;
}
dataList = queryFromDataBase(param,page,size);
if(dataList != null) {
cacheUtils.set(key , dataList , Constants.ExpireTime);
}
}
这种方案的优点是工程简单,性能也快,但是有一个非常明显的缺陷基因:列表缓存的颗粒度非常大。
有两种方式 :
2、使用 Redis 的 keys 找到该业务的分页缓存,执行删除指令。 但 keys 命令对性能影响很大,会导致 Redis 很大的延迟 。
生产环境使用 keys 命令比较危险,发生事故的几率高,非常不推荐使用。
2 查询对象ID列表,再缓存每个对象条目
所以我们的目标是更细粒度的控制缓存 。
伪代码如下:
1、从数据库中查询分页 ID 列表
// 从数据库中查询分页商品 ID 列表
List<Long> productIdList = queryProductIdListFromDabaBase(
param,
page,
size);
对应的 SQL 类似:
SELECT id FROM products
ORDER BY id
LIMIT (page - 1) * size , size
2、批量从缓存中获取商品对象
Map<Long, Product> cachedProductMap = cacheUtils.mget(productIdList);
假如我们使用本地缓存,直接一条一条从本地缓存中聚合也极快。
3、组装没有命中的商品ID
List<Long> noHitIdList = new ArrayList<>(cachedProductMap.size());
for (Long productId : productIdList) {
if (!cachedProductMap.containsKey(productId)) {
noHitIdList.add(productId);
}
}
因为缓存中可能因为过期或者其他原因导致缓存没有命中的情况,所以我们需要找到哪些商品没有在缓存里。
4、批量从数据库查询未命中的商品信息列表,重新加载到缓存
批量查询出未命中的商品信息列表,请注意是批量。
List<Product> noHitProductList = batchQuery(noHitIdList);
参数是未命中缓存的商品ID列表,组装成对应的 SQL,这样性能更快 :
SELECT * FROM products WHERE id IN
(1,
2,
3,
4);
然后这些未命中的商品信息存储到缓存里 , 使用 Redis 的 mset 命令。
//将没有命中的商品加入到缓存里
Map<Long, Product> noHitProductMap =
noHitProductList.stream()
.collect(
Collectors.toMap(Product::getId, Function.identity())
);
cacheUtils.mset(noHitProductMap);
//将没有命中的商品加入到聚合map里
cachedProductMap.putAll(noHitProductMap);
5、 遍历商品ID列表,组装对象列表
for (Long productId : productIdList) {
Product product = cachedProductMap.get(productId);
if (product != null) {
result.add(product);
}
}
当前方案里,缓存都有命中的情况下,经过两次网络 IO,第一次数据库查询 IO,第二次 Redis 查询 IO , 性能都会比较好。
”查询对象ID列表,再缓存每个对象条目“ 这个方案比较灵活,当我们查询对象ID列表,可以不限于数据库,还可以是搜索引擎,Redis 等等。
搜索的分页结果只包含业务对象 ID,对象的详细资料需要从缓存 + MySQL 中获取。
3 缓存对象ID列表,同时缓存每个对象条目
ZSet 使用的是 member -> score 结构 :
- member : 被排序的标识,也是默认的第二排序维度( score 相同时,Redis 以 member 的字典序排列)
- score : 被排序的分值,存储类型是 double
ZSet 存储动态 ID 列表 , member 的值是动态编号 , score 值是创建时间。
ZREVRANGE 命令就可以实现分页的效果。
查询出动态 ID 列表后,还需要缓存每个动态对象条目,动态对象包含了详情,评论,点赞,收藏这些功能数据,我们需要为这些数据提供单独做缓存配置。
若缓存对象结构简单,使用 mget 、hmget 命令;若结构复杂,可以考虑使用 pipleline,Lua 脚本模式 。笔者选择的批量方案是 Redis 的 pipleline 功能。
- 使用 ZSet 的 ZREVRANGE 命令,传入分页参数,查询出动态 ID 列表 ;
- 传递动态 ID 列表参数,通过 Redis 的 pipleline 功能从缓存中批量获取动态的详情,评论,点赞,收藏这些功能数据,组装成列表 。
4 总结
本文介绍了实现分页列表缓存的三种方式:
-
查询对象ID列表,只缓存每个对象条目
这三种方式是一层一层递进的,要诀是:
细粒度的控制缓存和批量加载对象。
点赞、在看、转发一下,你的支持会激励我输出更高质量的文章,非常感谢!