我发现持久化集合之间的结构等价性假设很少,这导致效率低下的实现,尤其是对于向量和映射。
实现的重点是通过方法直接遍历底层数组。
这些实现看起来可能不太美观或不那么符合惯例,但它们是高效的。如果这被实现,它在Java中看起来可能也不同。
我尝试了这些替代实现,并发现大幅度提升了速度。
向量
(let [die (clojure.lang.Reduced. false)]
(defn vec-eq
[^PersistentVector v ^Iterable y]
(let [iy (.iterator y)]
(.reduce v (fn [_ x] (if (= x (.next iy)) true die)) true))))
当比较向量和列表时,这种方法效果很好。
当前的实现从0到count进行循环,并对每个元素调用nth。nth每次都会调用arrayFor(),而reduce和迭代器仅对每个数组获取一次底层数组。
映射
(let [o (Object.)
die (clojure.lang.Reduced. false)
eq (fn [m2] (fn [b k v]
(let [v' (.valAt ^IPersistentMap m2 k o)]
(if (.equals o v')
die
(if (= v v') true die)))))]
(defn map-eq
[m1 m2]
(.kvreduce ^IKVReduce m1 (eq m2) true)))
在这里,实现也直接遍历底层的数组结构。
当前的实现在将数组转换为seq后迭代它,同时通过Map接通过接口从另一个映射获取条目。
这种实现避免了将映射转换为序列,并且不会分配条目。
序列
当接收者是一个列表时,与之比较的对象和接收者都会被转换为一个序列。
通过迭代器与其他集合进行比较可能会更有效率。
(defn iter-eq
[^Iterable x ^Iterable y]
(let [ix (.iterator x)
iy (.iterator y)]
(loop []
(if (.hasNext ix)
(if (= (.next ix) (.next iy))
(recur)
false)
true))))
基准测试
使用criterium,vec-eq在这两种情况下都获胜。随着大小的增加,收益逐渐减少,但在n=64时,vec-eq的速度是=的两倍。
对于较大的映射,map-eq的速度提高了2-3倍,对于较小的映射,速度快了10倍。
(doseq [n [1 2 4 8 16 32 64]
:let [v1 (vec (range n))
v2 (vec (range n))]]
(println 'iter-eq n (iter-eq v1 v2))
(cc/quick-bench (iter-eq v1 v2))
(println 'vec-eq n (vec-eq v1 v2))
(cc/quick-bench (vec-eq v1 v2))
(println '= n (= v1 v2))
(cc/quick-bench (= v1 v2)))
(doseq [n [1 2 4 8 16 32 64]
:let [v1 (vec (range n))
v2 (list* (range n))]]
(println 'iter-eq n (iter-eq v1 v2))
(cc/quick-bench (iter-eq v1 v2))
(println 'vec-eq n (vec-eq v1 v2))
(cc/quick-bench (vec-eq v1 v2))
(println '= n (= v1 v2))
(cc/quick-bench (= v1 v2)))
(doseq [n [1 2 4 8 16 32 64]
:let [m1 (zipmap (range n) (range n))
m2 (zipmap (range n) (range n))]]
(cc/quick-bench (map-eq m1 m2))
(cc/quick-bench (= m1 m2)))
附加信息
还检查了以下案例
(doseq [n [10000 100000]
:let [v1 (vec (range n))
v2 (assoc v1 (dec (count v1)) 7)]]
(cc/quick-bench (vec-eq v1 v2))
(cc/quick-bench (iter-eq v1 v2))
(cc/quick-bench (= v1 v2)))
(doseq [n [100000]
:let [m1 (zipmap (range n) (range n))
m2 (assoc m1 (key (last m1)) 7)]]
(cc/quick-bench (map-eq m1 m2))
(cc/quick-bench (= m1 m2)))
优化的实现仍然有很大的优势