我发现持久化集合之间的结构等价只做了很少的假设,这导致了效率低下的实现,特别是对于矢量和映射。
实现的要点是通过直接遍历底层数组的函数来分派。
这些实现并不美观或最符合常规,但它们是高效的。如果这个实现得到实施,Java中的实现看起来也会有所不同。
我尝试了这些替代实现,并发现了显著的加速
矢量
(let [die (clojure.lang.Reduced. false)]
(defn vec-eq
[^PersistentVector v ^Iterable y]
(let [iy (.iterator y)]
(.reduce v (fn [_ x] (if (= x (.next iy)) true die)) true))))
当比较矢量和列表的组件时,这种方法效果很好。
当前实现从一个循环0到计数,并对每个元素调用nth。nth每次都调用arrayFor(),而reduce和迭代器每次都获取一次底层数组。
映射
(let [o (Object.)
die (clojure.lang.Reduced. false)
eq (fn [m2] (fn [b k v]
(let [v' (.valAt ^IPersistentMap m2 k o)]
(if (.equals o v')
die
(if (= v v') true die)))))]
(defn map-eq
[m1 m2]
(.kvreduce ^IKVReduce m1 (eq m2) true)))
在这里,实现也直接遍历底层数组结构。
当前实现将数组转换为序列,然后迭代它,并通过Map接口从其他映射中获取条目。
这种实现避免了将映射转换为序列,并且不分配条目。
序列
当接收者是列表时,与之比较的对象和接收者将被转换为序列。
通过迭代器与其他集合进行比较可能会更有效率。
(defn iter-eq
[^Iterable x ^Iterable y]
(let [ix (.iterator x)
iy (.iterator y)]
(loop []
(if (.hasNext ix)
(if (= (.next ix) (.next iy))
(recur)
false)
true))))
基准测试
使用criterium,vec-eq在这两种情况下都获胜。在大小增加时,收益递减,但仍然在n=64时,vec-eq比=快两倍。
map-eq在较大的映射中也快2-3倍,对于较小的映射快10倍。
(doseq [n [1 2 4 8 16 32 64]
:let [v1 (vec (range n))
v2 (vec (range n))]]
(println 'iter-eq n (iter-eq v1 v2))
(cc/quick-bench (iter-eq v1 v2))
(println 'vec-eq n (vec-eq v1 v2))
(cc/quick-bench (vec-eq v1 v2))
(println '= n (= v1 v2))
(cc/quick-bench (= v1 v2)))
(doseq [n [1 2 4 8 16 32 64]
:let [v1 (vec (range n))
v2 (list* (range n))]]
(println 'iter-eq n (iter-eq v1 v2))
(cc/quick-bench (iter-eq v1 v2))
(println 'vec-eq n (vec-eq v1 v2))
(cc/quick-bench (vec-eq v1 v2))
(println '= n (= v1 v2))
(cc/quick-bench (= v1 v2)))
(doseq [n [1 2 4 8 16 32 64]
:let [m1 (zipmap (range n) (range n))
m2 (zipmap (range n) (range n))]]
(cc/quick-bench (map-eq m1 m2))
(cc/quick-bench (= m1 m2)))
补充
还检查了以下情况
(doseq [n [10000 100000]
:let [v1 (vec (range n))
v2 (assoc v1 (dec (count v1)) 7)]]
(cc/quick-bench (vec-eq v1 v2))
(cc/quick-bench (iter-eq v1 v2))
(cc/quick-bench (= v1 v2)))
(doseq [n [100000]
:let [m1 (zipmap (range n) (range n))
m2 (assoc m1 (key (last m1)) 7)]]
(cc/quick-bench (map-eq m1 m2))
(cc/quick-bench (= m1 m2)))
优化实现仍然以巨大的优势获胜