我发现持久性集合之间的结构平等假定很少导致效率低下的实现,特别是在对向量和映射进行处理时。
实现的核心是通过方法进行分发,这些方法直接遍历底层数组。
这些实现可能不是最漂亮的或最符合语言的实现方式,但它们很高效。如果这得以实现,在Java中它的样子可能也会不同。
我尝试了这些替代实现,并且发现速度有了显著提升
向量
(let [die (clojure.lang.Reduced. false)]
(defn vec-eq
[^PersistentVector v ^Iterable y]
(let [iy (.iterator y)]
(.reduce v (fn [_ x] (if (= x (.next iy)) true die)) true))))
当比较向量和列表时,这种方法非常有效。
当前的实现通过从0到计数的循环,并对每个元素调用nth。nth每次调用都会调用arrayFor(),而reduce和迭代器只需要在每个数组中获取一次支持数组。
映射
(let [o (Object.)
die (clojure.lang.Reduced. false)
eq (fn [m2] (fn [b k v]
(let [v' (.valAt ^IPersistentMap m2 k o)]
(if (.equals o v')
die
(if (= v v') true die)))))]
(defn map-eq
[m1 m2]
(.kvreduce ^IKVReduce m1 (eq m2) true)))
在这里,实现直接遍历底层数组结构。
当前的实现将数组转换为序列然后迭代它,同时通过Map
接口从另一个映射中获取条目。
这种实现避免了将映射转换为序列,并且不分配条目。
序列
当接收者是列表时,与之比较的对象和接收者将被转换为序列。
通过迭代器与其他集合进行比较可能更有效率。
(defn iter-eq
[^Iterable x ^Iterable y]
(let [ix (.iterator x)
iy (.iterator y)]
(loop []
(if (.hasNext ix)
(if (= (.next ix) (.next iy))
(recur)
false)
true))))
基准测试
使用criterium,vec-eq在两种情况下都赢了。随着大小的增加,收益递减,但仍然在n=64时,vec-eq比=快一倍。
map-eq在大映射中也要快2-3倍,在小型映射中快10倍。
(doseq [n [1 2 4 8 16 32 64]
:let [v1 (vec (range n))
v2 (vec (range n))]]
(println 'iter-eq n (iter-eq v1 v2))
(cc/quick-bench (iter-eq v1 v2))
(println 'vec-eq n (vec-eq v1 v2))
(cc/quick-bench (vec-eq v1 v2))
(println '= n (= v1 v2))
(cc/quick-bench (= v1 v2)))
(doseq [n [1 2 4 8 16 32 64]
:let [v1 (vec (range n))
v2 (list* (range n))]]
(println 'iter-eq n (iter-eq v1 v2))
(cc/quick-bench (iter-eq v1 v2))
(println 'vec-eq n (vec-eq v1 v2))
(cc/quick-bench (vec-eq v1 v2))
(println '= n (= v1 v2))
(cc/quick-bench (= v1 v2)))
(doseq [n [1 2 4 8 16 32 64]
:let [m1 (zipmap (range n) (range n))
m2 (zipmap (range n) (range n))]]
(cc/quick-bench (map-eq m1 m2))
(cc/quick-bench (= m1 m2)))
补充说明
还检查了以下情况
(doseq [n [10000 100000]
:let [v1 (vec (range n))
v2 (assoc v1 (dec (count v1)) 7)]]
(cc/quick-bench (vec-eq v1 v2))
(cc/quick-bench (iter-eq v1 v2))
(cc/quick-bench (= v1 v2)))
(doseq [n [100000]
:let [m1 (zipmap (range n) (range n))
m2 (assoc m1 (key (last m1)) 7)]]
(cc/quick-bench (map-eq m1 m2))
(cc/quick-bench (= m1 m2)))
优化后的实现仍然通过巨大的差距取胜