请在2024年 Clojure 工作状态调查中分享您的看法!

欢迎!请参阅关于页面获取更多关于此工作方式的信息。

0
IO

我在 clojure.java.io/copy 函数的实现中发现了奇怪的行为

https://github.com/clojure/clojure/blob/ee1b606ad066ac8df2efd4a6b8d0d365c206f5bf/src/clj/clojure/java/io.clj#L391

(defn copy
  "Copies input to output.  Returns nil or throws IOException.
  Input may be an InputStream, Reader, File, byte[], char[], or String.
  Output may be an OutputStream, Writer, or File.
  Options are key/value pairs and may be one of
    :buffer-size  buffer size to use, default is 1024.
    :encoding     encoding to use if converting between
                  byte and char streams.   
  Does not close any streams except those it opens itself 
  (on a File)."
  {:added "1.2"}
  [input output & opts]
  (do-copy input output (when opts (apply hash-map opts))))

实际的复制操作在这里实现,当从 InputStream 复制到 OutputStream 时。

https://github.com/clojure/clojure/blob/ee1b606ad066ac8df2efd4a6b8d0d365c206f5bf/src/clj/clojure/java/io.clj#L306

(defmethod do-copy [InputStream OutputStream] [^InputStream input ^OutputStream output opts]
  (let [buffer (make-array Byte/TYPE (buffer-size opts))]
    (loop []
      (let [size (.read input buffer)]  ;;; XXX point 1
        (when (pos? size)               ;;; XXX point 2
          (do (.write output buffer 0 size)
              (recur)))))))

这里的 .read 函数位于第1点,是https://docs.oracle.com/javase/7/docs/api/java/io/InputStream.html#read(byte[])

Java 文档说明如下

从输入流中读取一定数量的字节并将它们存储到缓冲区数组 b 中。实际读取的字节数作为整数返回。该方法在输入数据可用、检测到文件末尾或抛出异常时停止。
如果 b 的长度为零,则不读取字节并返回 0;否则,将尝试读取至少一个字节。如果没有可用的字节,因为流位于文件末尾,则返回 -1;否则,至少读取一个字节并将其存储到 b 中。

这意味着返回值 -1 表示流末尾,而返回值 0 并不代表流末尾。但是,上述代码的第2点的条件停止递归,当 .read 返回的值小于1时。

现在考虑一个情况,其中 .read 在连续调用中返回这个值序列

1024, 0, 1024, 201, -1

当整个流有2249字节时,clojure.java/io 只复制了前1024个字节。这是预期行为吗?应该在第1点的条件是 (not (neg? size)) 吗?

我还将这个问题发布到 google groups: https://groups.google.com/forum/#!topic/clojure/XzpPPXXhgM4

2 个答案

+1

我同意这是一个bug,并将为此创建一个jira。

使用补丁添加了https://clojure.atlassian.net/browse/CLJ-2533。谢谢...
我认为这不应该是一个bug。

关键点在于java-doc中的这段话:"如果b的长度为0,则不会读取任何字节,并返回0"

只有当缓冲区b的长度为零时,才不会读取字节。在我看来,除非您明确希望当传递0大小缓冲区时产生无限循环,否则实现不应该改变。
javadoc说,除了输入缓冲区的长度为0的情况外,不应返回0。

然而
1. 有InputStream实现实际上会根据javadoc返回0。例如,Apache commons-compress在从某些特定的ZIP文件中提取文件时会这么做。这可能是一个bug,但这些事情确实存在。
2. 其他InputStream->OutputStream复制实现会读取流到接收到-1。例如
     -  https://github.com/apache/commons-io/blob/master/src/main/java/org/apache/commons/io/IOUtils.java#L1083
     - https://github.com/eclipse/jetty.project/blob/9706d70484863a014d3604e5e7cb4af40aa4cb1e/jetty-util/src/main/java/org/eclipse/jetty/util/IO.java#L161
3. clojure.java.io/copy 必须处理 `0`,这是一个灰色地带,从规范的角度来说,两种方法都没有绝对优劣。
请参阅我的回答。文档非常明确地指出:a)该方法会阻塞,直到有输入数据可用(或EOF或异常),b)至少读取并存储一个字节数据到b中(除非EOF、异常或缓冲区大小为零)。

Apache 的 copyLarge() 函数对于大小为零的缓冲区无法正常工作。Jetty 的 copy 是可行的,因为它明确使用了非零大小的缓冲区,从而避免了这种情况。
0

我认为你误解了文档。关键的部分如下:

此方法会阻塞,直到输入数据可用,... ...;否则,
至少读取一个字节,并将其存储到b中。

因此,它永远不会读取零字节 除非缓冲区大小为零

当前代码是正确的,会在零时停止 -- 这只在传入的缓冲区大小为零时发生。

我在使用缓冲区大小1024运行代码时观察到这个读取返回值的序列。所以这里 clojure 的 copy 函数在零字节时停止复制,而 IOUtils 和 Jetty 完成了整个流的复制。输入流来自 apache commons-compress。所以这里的 InputStream 不符合 JavaDoc 的说明。

      ...,1024,0,1024, ..., -1
正如我所说:Apache 代码有bug。
https://issues.apache.org/jira/browse/COMPRESS-491 这里是 apache 库中的问题。
...