转载请注明出处：http://blog.csdn.net/luotuo44/article/details/42773231

        温馨提示：本文用到了1些可以在启动memcached设置的全局变量。关于这些全局变量的含义可以参考《memcached启动参数详解》。对这些全局变量，处理方式就像《如何浏览memcached源代码》所说的那样直接取其默许值。

        assoc.c文件里面的代码是构造1个哈希表。memcached快的1个缘由是使用了哈希表。现在就来看1下memcached是怎样使用哈希表的。

哈希结构：

        main函数会调用assoc_init函数申请并初始化哈希表。为了减少哈希表产生冲突的可能性，memcached的哈希表是比较长的，并且哈希表的长度为2的幂。全局变量hashpower用来记录2的幂次。main函数调用assoc_init函数时使用全局变量settings.hashpower_init作为参数，用于指明哈希表初始化时的幂次。settings.hashpower_init可以在启动memcached的时候设置，具体可以参考《memcached启动参数详解和关键配置的默许值》。

        说到哈希表，那末就对应有两个问题，1个是哈希算法，1个怎样解决冲突。

        对哈希函数(算法)，memcached直接使用开源的MurmurHash3和jenkins_hash两个中的1个。默许是使用jenkins，可以在启动memcached的时候设置设置为MurmurHash3。memcached是直接把客户端输入的键值作为哈希算法的输入，得到1个32位的无符号整型输出(用变量hv存储)。由于哈希表的长度没有2^32- 1这么大，所以需要用到前面代码中的hashmask宏进行截断。由因而位操作，所以常常能在memcached代码中看的hv & hashmask(hashpower)。

        memcached使用最多见的链地址法解决冲突问题。从前面的代码可以看到，primary_hashtable是1个的2级指针变量，它指向的是1个1维指针数组，数组的每个元素指向1条链表(链表上的item节点具有相同的哈希值)。数组的每个元素，在memcached里面也称为桶(bucket)，所以后文的表述中会使用桶。下图是1个哈希表，其中第0号桶有2个item，第2、3、5号桶各有1个item。item就是用来存储用户数据的结构体。

基本操作：

插入item:

        接着看1下怎样在哈希表中插入1个item。它是直接根据哈希值找到哈希表中的位置(即找到对应的桶)，然后使用头插法插入到桶的冲突链中。item结构体有1个专门的h_next指针成员变量用于连接哈希冲突链。

查找item：

        往哈希表插入item后，就能够开始查找item了。下面看1下怎样在哈希表中查找1个item。item的键值hv只能定位到哈希表中的桶位置，但1个桶的冲突链上可能有多个item，所以除查找的时候除需要hv外还需要item的键值。

删除item：

        下面看1下从哈希表中删除1个item是怎样实现的。从链表中删除1个节点的常规做法是：先找到这个节点的先驱节点，然后使用先驱节点的next指针进行删除和拼接操作。memcached的做法差不多，实现以下：

扩大哈希表：

        当哈希表中item的数量到达了哈希表表长的1.5倍时，那末就会扩大哈希表增大哈希表的表长。memcached在插入1个item时会检查当前的item总数是不是到达了哈希表表长的1.5倍。由于item的哈希值是比较均匀的，所以平均来讲每一个桶的冲突链长度大概就是1.5个节点。所以memcached的哈希查找还是很快的。

迁移线程：

        扩大哈希表有1个很大的问题：扩大后哈希表的长度变了，item哈希后的位置也是会随着变化的(回想1下memcached是怎样根据键值的哈希值肯定桶的位置的)。所以如果要扩大哈希表，那末就需要对哈希表中所有的item都要重新计算哈希值得到新的哈希位置(桶位置)，然后把item迁移到新的桶上。对所有的item都要做这样的处理，所以这必定是1个耗时的操作。后文会把这个操作称为数据迁移。

        由于数据迁移是1个耗时的操作，所以这个工作由1个专门的线程(姑且把这个线程叫做迁移线程吧)负责完成。这个迁移线程是由main函数调用1个函数创建的。看下面代码：

        迁移线程被创建后会进入休眠状态(通过等待条件变量)，当worker线程插入item后，发现需要扩大哈希表就会调用assoc_start_expand函数唤醒这个迁移线程。

逐渐迁移数据：

        为了不在迁移的时候worker线程增删哈希表，所以要在数据迁移的时候加锁，worker线程抢到了锁才能增删查找哈希表。memcached为了实现快速响应(即worker线程能够快速完成增删查找操作)，就不能让迁移线程占锁太久。但数据迁移本身就是1个耗时的操作，这是1个矛盾。

        memcached为了解决这个矛盾，就采取了逐渐迁移的方法。其做法是，在1个循环里面：加锁-》只进行小部份数据的迁移-》解锁。这样做的效果是：虽然迁移线程会屡次抢占锁，但每次占有锁的时间都是很短的，这就增加了worker线程抢到锁的几率，使得worker线程能够快速完成它的操作。1小部份是多少个item呢？前面说到的全局变量hash_bulk_move就指明是多少个桶的item，默许值是1个桶，后面为了方便叙述也就认为hash_bulk_move的值为1。

        逐渐迁移的具体做法是，调用assoc_expand函数申请1个新的更大的哈希表，每次只迁移旧哈希表1个桶的item到新哈希表，迁移完1桶就释放锁。此时就要求有1个旧哈希表和新哈希表。在memcached实现里面，用primary_hashtable表示新表(也有1些博文称之为主表)，old_hashtable表示旧表(副表)。

        前面说到，迁移线程被创建后就会休眠直到被worker线程唤醒。当迁移线程醒来后，就会调用assoc_expand函数扩大哈希表的表长。assoc_expand函数以下：

        现在看1下完全1点的assoc_maintenance_thread线程函数，体会迁移线程是怎样逐渐数据迁移的。为何说完全1点呢？由于该函数里面还是有1些东西本篇博文是没有解释的，但这其实不妨碍我们浏览该函数。后面还会有其他博文对这个线程函数进行讲授的。

回马枪：

        现在再回过头来再看1下哈希表的插入、删除和查找操作，由于这些操作可能产生在哈希表迁移阶段。有1点要注意，在assoc.c文件里面的插入、删除和查找操作，是看不到加锁操作的。但前面已说了，需要和迁移线程抢占锁，抢到了锁才能进行对应的操作。其实，这锁是由插入、删除和查找的调用者(主调函数)负责加的，所以在代码里面看不到。

        由于插入的时候可能哈希表正在扩大，所以插入的时候要面临1个选择：插入到新表还是旧表？memcached的做法是：当item对应在旧表中的桶还没被迁移到新表的话，就插入到旧表，否则插入到新表。下面是插入部份的代码。

        这里有1个疑问，为何不直接插入到新表呢？直接插入到新表对数据1致性来讲完全是没有问题的啊。网上有人说是为了保证同1个桶item的顺序，但由于迁移线程和插入线程对锁抢占的不肯定性，任何顺序都不能通过assoc_insert函数来保证。本文认为是为了快速查找。如果是直接插入到新表，那末在查找的时候便可能要同时查找新旧两个表才能找到item。查找完1个表，发现没有，然后再去查找另外1个表，这样的查找被认为是不够快速的。

        如果依照assoc_insert函数那样的实现，不用查找两个表就可以找到item。看下面的查找函数。

        删除操作和查找操作差不多，这里直接贴出，不多说了。删除操作也是要进行查找操作的。

        由上面的讨论可以知道，插入和删除1个item都必须知道这个item对应的桶有无被迁移到新表上了。