Redis底层数据结构之字典(Dict)

article/2025/6/13 13:45:17

Dict基本结构

        Dict我们可以想象成目录,要翻看什么内容,直接通过目录能找到页数,翻过去看。如果没有目录,我们需要一页一页往后翻,这样时间复杂度就与遍历的O(n)一样了,而用了Dict我们就可以在O(1)的时间复杂度内快速找到键对应的值。说到这里,大家会觉得Dict与JAVA中的哈希表功能差不多,其实,Redis的Dict数据结构底层实现正是哈希表,不过维护了2个哈希表。Redis实现Dict数据结构创建了三个重要的结构体,分别是dict、dictht和dictEntry。下面先给出Dict的整体结构帮助大家更好的理解一下:

dict

typedef struct dict{dictType *type;void *privdata;dictht ht[2];long rehashidx;unsigned long iterators;
} dict;

        ht[2]:表示在一个Dict结构中,包含有两个dictht的结构,也就是我们说的两张哈希表。

        rehashidx:是dict在rehash时的偏移索引,具体如何工作在后边的rehash过程中会详细讲。

dictht

typedef struct dictht{dictEntry **table;unsigned long size;unsigned long sizemask;unsigned long used;
}dictht

        **table:指向实际hash存储。存储可以看做是一个数组,所以是*table表示。(源码中的**table是一个二级指针,也就是指向dictEntry*的指针)。

        size:哈希表的大小。实际就是dictEntry有多少元素空间。

        sizemask:哈希表大小的掩码表示,总是等于size-1.这个属性和哈希值一起决定一个键应该被放到table数组的哪个索引上面,索引计算规则是index=hash&sizemask,前提是size的大小是二次方幂,这一点与JAVA哈希表底层计算索引是一样的原理。

        used:表示已经使用的节点数量。通过这个字段可以很方便地查询到目前dict元素总量。

dictEntry

typedef struct dictEntry{void *key;union{void *val;uint64_tu64;int64_ts64;}v;struct dictEntry *next;
}dictEntry

        *key:存储键。

        v:用来存储具体的值,可以看到,值可以是一个指针,可以是uint64_t整数,也可以是int64_t整数。

        *next:用于采用拉链法将相同索引的dictEntry串起来,解决哈希冲突问题。(采用的是头插法,JAVA中JDK8之后采用的是尾插法,留个小问题,为什么JAVA中不延续使用头插法?)

Dict的渐进式扩容机制

        想必大家有一个疑问,为什么Dict底层要维护两张哈希表,实际存储的话使用一张哈希表不就可以了吗。其实,第二张哈希表的存在是为了给第一张哈希表的扩容提供支持。下面我们来详细介绍一下Dict中哈希表的渐进式扩容流程和扩容时机。

Dict渐进式扩容流程

        首先,当向字典添加新元素时,发现第一张哈希表ht[0]需要扩容,就会进行rehash操作,为第二张哈希表ht[1]分配空间。ht[1]表的大小为大于等于ht[0]表used值的2倍的2次方幂。举个例子,如果ht[0]中已经使用的节点数量为500,那么扩容时ht[1]被分配的空间是1024而不是1000。这么做是为了维护扩容后表的大小始终是2次方幂。

        接着,dict的rehashidx由静默状态(-1)变为开始工作状态(0)。

        最后,迁移ht[0]中的数据到ht[1],也就是将数据从旧表中迁移到新表中。在rehash进行期间,每次对dict执行增删改查操作,程序会顺带迁移当前rehashidx在ht[0]上对应的数据,并更新偏移索引。与此同时,部分情况周期函数也会进行迁移。如果rehashidx刚好在一个已删除的空位置上,那么是直接返回还是尝试往下找?我们来看一下dictRehash函数的源码:

//int empty_visits = n*10;//Max number of empty buckets to visit.while(d->ht[0].table[d->rehashidx] == NULL) {d->rehashidx++;if (--empty_visits == 0) return 1;
}

        可以看到,答案是会继续往下去找,但是有个上限是n*10,即最多再找这么多次,n是传进来的参数,调用的时候实际值为1,即最多往后再找10个,这么做是防止因为连续碰到空位置导致主线程操作被阻塞。

        随着字典操作的不断执行,最终在某个时间点上,ht[0]的所有键值对都会被rehash到ht[1],此时再将ht[1]和ht[0]指针对象互换,同时将rehashidx设置为-1,表示rehash工作已经完成。这个事情也是在rehash函数做的,每次迁移完一个元素,会检查是否已经完成了整个迁移:

if (d->ht[0].used == 0) {zfree(d->ht[0].table);d->ht[0] = d->ht[1];_dictReset(&d->ht[1]);d->rehashidx = -1;return 0;
}

        总结一下,渐进式扩容的核心就是删改查操作时顺带迁移,其中增的操作直接增到新表中。

Dict渐进式扩容时机

        Redis提出了一个负载因子的概念(与JAVA中的负载因子不同),用于表示目前Dict的使用情况,是情况良好还是已经堵塞不堪。设负载椅子为F,那么负载因子计算公式为F=ht[0].used/ht[0].size,也就是使用空间大小和总空间大小的比值。Redis会根据负载因子的情况来进行扩容。

        当负载因子的值小于1时,认为dict的使用情况良好,不需要进行扩容。

        当负载因子的值大于等于1时,说明此时的dict空间已经非常紧张了,新增的数据会发生哈希冲突在链表上堆叠。如果此时服务器没有执行BGSAVE或者BGREWRITEAOF这两个复制命令,就会立刻进行扩容,反之则不会立刻扩容。

        当负载因子的值大于5时,说明此时的dict中哈希冲突已经非常严重了,哈希表的搜索性能严重退化向链表。此时不管服务器是否在执行复制命令,都会立刻对哈希表进行扩容操作。

Dict为什么采用渐进式扩容机制?

        在JAVA中,哈希表其实也有扩容操作,并且是在单张表上完成的rehash操作。但是对于Redis中的Dict来说,两者存放的数据量不在一个量级上,由于Redis是单线程的,如果对dict中存放的大量数据进行一次性rehash,那么耗费的时间会非常久,从而造成主线程的长时间阻塞。为了性能考虑,Dict采用空间换时间的方法,多花费一张表的空间,配合渐进式扩容机制,几乎完全消除rehash可能造成的主线程阻塞。

Dict的渐进式缩容机制

        扩容是数据太多装不下,那么对应的缩容就是空间太富裕造成了浪费。缩容的过程其实和扩容是相似的,也是渐进式缩容,这里就不详细展开了。

        同样的,Redis也通过负载因子来控制什么时候缩容:

        当负载因子大于等于0.1时,认为dict的空间合适,不需要进行缩容。

        当负载因子小于0.1时,认为dict的空间太大造成浪费,进行缩容。ht[1]的大小为第一个大于等于ht[0]中used值的2次方幂(最小为4,如果已经是4了那就保持不变)。

        同样的,如果有BGSAVE或者BGREWRITEAOF这两个复制操作正在执行,缩容也会受影响,不会进行。

总结

        Dict数据结构提供了快速索引数据的能力,其结构的设计和渐进式扩容的设计很值得大家学习。

        大家如果有什么问题或勘误,欢迎评论区留言,笔者看到了都会回复的。


http://www.hkcw.cn/article/XeWqjCGDnU.shtml

相关文章

高通SoC阵列服务器

高通SoC阵列服务器是基于高通系统级芯片(SoC)构建的高密度计算解决方案,核心特点为低功耗、高算力集成与模块化设计,主要应用于边缘计算和云服务场景。以下是其技术特性和应用方向的综合分析: 一、核心技术特性 架构…

Linux系统下Google浏览器无法使用中文输入的临时解决方案

文章目录 前言方案描述Edge如何兼容 前言 这个AlamaLinux的ibus-libpinyin确实是让人琢磨不透,就只是无法在Chrome浏览器中、Edge浏览器中使用,而在VSCode、Xfce4-Terminal中使用良好。尝试了很多办法都没有效果,最后在Reddit里面找到了相应…

【AI论文】空间多模态大型语言模型(Spatial-MLLM):增强基于视觉的空间智能中多模态大型语言模型(MLLM)的能力

摘要:多模态大语言模型(MLLM)的最新进展显著提高了2D视觉任务的性能。 然而,提高他们的空间智能仍然是一个挑战。 现有的3D MLLM总是依赖于额外的3D或2.5D数据来加入空间感知,限制了它们在只有2D输入(如图像…

黑马Java面试笔记之 微服务篇(业务)

一. 限流 你们项目中有没有做过限流?怎么做的? 为什么要限流呢? 一是并发的确大(突发流量) 二是防止用户恶意刷接口 限流的实现方式: Tomcat:可以设置最大连接数 可以通过maxThreads设置最大Tomcat连接数,实现限流,但是适用于单体架构 Nginx:漏桶算法网关,令牌桶算法自定…

AWS App Mesh实战:构建可观测、安全的微服务通信解决方案

摘要:本文详解如何利用AWS App Mesh统一管理微服务间通信,实现精细化流量控制、端到端可观测性与安全通信,提升云原生应用稳定性。 一、什么是AWS App Mesh? AWS App Mesh 是一种服务网格(Service Mesh)解…

《云原生安全攻防》-- K8s网络策略:通过NetworkPolicy实现微隔离

默认情况下,K8s集群的网络是没有任何限制的,所有的Pod之间都可以相互访问。这就意味着,一旦攻击者入侵了某个Pod,就能够访问到集群中任意Pod,存在比较大的安全风险。 在本节课程中,我们将详细介绍如何通过N…

吃透 Golang 基础:数据结构之 Map

文章目录 Map概述初始化删除访问不存在的 key 返回 value 的零值遍历 mapmap 自身的零值map 索引时返回的第二个参数使用 map 实现 set Map Hash Map 是无序的 key/value 对集合,其中所有的 key 都是不同的。通过给定的 key 可以在常数时间复杂度内完成检索、更新或…

手机邮箱APP操作

收发电子邮件方式 邮箱可以在网络段登录,也可以在手机端登录。 大学网络服务 收发电子邮件有三种方式: 1、Web方式: 1)登录“网络服务”(https://its.pku.edu.cn),点页面顶端“邮箱”。 2&…

Spring AI之RAG入门

目录 1. 什么是RAG 2. RAG典型应用场景 3. RAG核心流程 3.1. 检索阶段 3.2. 生成阶段 4. 使用Spring AI实现RAG 4.1. 创建项目 4.2. 配置application.yml 4.3. 安装ElasticSearch和Kibana 4.3.1. 安装并启动ElasticSearch 4.3.2. 验证ElasticSearch是否启动成功 …

Spring AI Alibaba + Nacos 动态 MCP Server 代理方案

作者:刘宏宇,Spring AI Alibaba Contributor 文章概览 Spring AI Alibaba MCP 可基于 Nacos 提供的 MCP server registry 信息,建立一个中间代理层 Java 应用,将 Nacos 中注册的服务信息转换成 MCP 协议的服务器信息&#xff0c…

19-项目部署(Linux)

Linux是一套免费使用和自由传播的操作系统。说到操作系统,大家比较熟知的应该就是Windows和MacOS操作系统,我们今天所学习的Linux也是一款操作系统。 我们作为javaEE开发工程师,将来在企业中开发时会涉及到很多的数据库、中间件等技术&#…

2025.6.3学习日记 Nginx 基本概念 配置 指令 文件

1.初始nginx Nginx(发音为 “engine x”)是一款高性能的开源 Web 服务器软件,同时也具备反向代理、负载均衡、邮件代理等功能。它由俄罗斯工程师 Igor Sysoev 开发,最初用于解决高并发场景下的性能问题,因其轻量级、高…

SpringCloud——Nacos注册中心、OpenFeign

一、Nacos注册中心 1.注册中心原理 2.服务注册 添加依赖&#xff1a; <!--nacos 服务注册发现--> <dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId> </dep…

WAF绕过,网络层面后门分析,Windows/linux/数据库提权实验

一、WAF绕过文件上传漏洞 win7&#xff1a;10.0.0.168 思路&#xff1a;要想要绕过WAF&#xff0c;第一步是要根据上传的内容找出来被拦截的原因。对于文件上传有三个可以考虑的点&#xff1a;文件后缀名&#xff0c;文件内容&#xff0c;文件类型。 第二步是根据找出来的拦截原…

榕壹云健身预约系统:多门店管理的数字化解决方案(ThinkPHP+MySQL+UniApp实现)

随着全民健身热潮的兴起,传统健身房在会员管理、课程预约、多门店运营等方面面临诸多挑战。针对这一需求,我们开发了一款基于ThinkPHP+MySQL+UniApp的榕壹云健身预约系统,为中小型健身机构及连锁品牌提供高效、灵活的数字化管理工具。本文将详细介绍系统的技术架构、核心功能…

nginx去掉暴漏外边的版本号

背景 在做安全扫描的时候&#xff0c;对方说nginx会暴漏版本号属于中危漏洞 解决方法 nginx 在http{括号里增加 server_tokens off; # 关闭版本号显示# add_header Server "Apache/2.4.3"; # 伪造为 Apache 服务器&#xff08;可选&#xff09;效果

飞牛fnNAS存储模式RAID 5数据恢复

目录 一、添加硬盘 二、创建RAID 5 存储空间 三、上传测试文件 四、拆除硬盘 五、更换硬盘 六、修复RAID 5 七、验证其内文件 八、NAS系统崩溃后的数据盘 前文《飞牛fnNAS存储空间模式详解》 中介绍了fnNAS存储空间的几个模式,细心的网友应该能感受到,我是非常推崇R…

OpenEMMA: 打破Waymo闭源,首个开源端到端多模态模型

1. 概述 OpenEMMA&#xff08;Open-source End-to-end Multimodal Model for Autonomous driving&#xff09;是由德州农工大学、密歇根大学和多伦多大学联合推出的开源端到端自动驾驶多模态模型框架&#xff0c;旨在复现并开源 Waymo 旗下 EMMA 系统的核心思路与方法。 该框…

学习STC51单片机26(芯片为STC89C52RCRC)

每日一言 真正的强者&#xff0c;不是没有眼泪&#xff0c;而是含着泪依然奔跑。 硬件&#xff1a;4G模块 这个是接线原理&#xff0c;我们也只要知道这个4根线的连接就好了&#xff0c;我们也是连接到USB转TTL的模块上 要插卡哈......... 随后我们下载一个叫做亿佰特的调试助…

GROM快速上手

&#x1f43e; 个人主页 &#x1f43e; 阿松爱睡觉&#xff0c;横竖醒不来 &#x1f3c5;你可以不屠龙&#xff0c;但不能不磨剑&#x1f5e1; 目录 一、概要二、上手步骤&#xff08;一&#xff09;安装 GORM&#xff08;二&#xff09;连接数据库&#xff08;三&#xff09;定…