2024 年 Clojure 状态调查!中分享您的想法。

欢迎!请参阅关于页面了解有关如何操作的更多信息。

0
IO

在 clojure.java.io/copy 函数的实现中,我发现了一个奇怪的行为

https://github.com/clojure/clojure/blob/ee1b606ad066ac8df2efd4a6b8d0d365c206f5bf/src/clj/clojure/java/io.clj#L391

(defn copy
  "Copies input to output.  Returns nil or throws IOException.
  Input may be an InputStream, Reader, File, byte[], char[], or String.
  Output may be an OutputStream, Writer, or File.
  Options are key/value pairs and may be one of
    :buffer-size  buffer size to use, default is 1024.
    :encoding     encoding to use if converting between
                  byte and char streams.   
  Does not close any streams except those it opens itself 
  (on a File)."
  {:added "1.2"}
  [input output & opts]
  (do-copy input output (when opts (apply hash-map opts))))

实际复制是从 InputStream 到 OutputStream 时实现的。

https://github.com/clojure/clojure/blob/ee1b606ad066ac8df2efd4a6b8d0d365c206f5bf/src/clj/clojure/java/io.clj#L306

(defmethod do-copy [InputStream OutputStream] [^InputStream input ^OutputStream output opts]
  (let [buffer (make-array Byte/TYPE (buffer-size opts))]
    (loop []
      (let [size (.read input buffer)]  ;;; XXX point 1
        (when (pos? size)               ;;; XXX point 2
          (do (.write output buffer 0 size)
              (recur)))))))

这里是第1处 .read 函数 https://docs.oracle.com/javase/7/docs/api/java/io/InputStream.html#read(byte[])

javadoc 声明如下

从输入流中读取一定数量的字节并将其存储到缓冲区数组 b 中。实际读取的字节数作为整数返回。此方法在输入数据可用、检测到文件末尾或抛出异常时停止阻塞。
如果 b 的长度为零,则不读取任何字节并返回 0;否则,尝试至少读取一个字节。如果没有可用的字节,因为流已到达文件末尾,则返回值 -1;否则,至少读取一个字节并将其存储到 b 中。

这意味着返回值 -1 表示流末尾,返回值 0 并不表示流末尾。然而,在上述代码中的第2处条件,在 .read 返回小于1的值时停止递归。

现在考虑一种情况,其中 .read 在连续调用中返回以下序列值

1024, 0, 1024, 201, -1

当整个流有2249字节时,clojure.java/io 只复制前1024字节。这是预期的行为吗?第1处的条件应该不是 (not (neg? size)) 吗?

我也在 google groups 上发布了这个问题:https://groups.google.com/forum/#!topic/clojure/XzpPPXXhgM4

2 条回答

+1

我同意这是一个bug,并会为它创建一个Jira。

by
已经添加了一个补丁https://clojure.atlassian.net/browse/CLJ-2533。谢谢...
by
我不认为这是一个bug。

关键点是java-doc中的这部分:“如果b的长度为零,则不读取字节,并返回0”

只有当缓冲区b的长度为零时,才不会读取字节。在我看来,除非你明确想要在传递0大小缓冲区时产生无限循环,否则实现不应更改。
by
Javadoc说,除了输入缓冲区长度为0时之外,不应返回0。

然而
1. 有一些InputStream实现实际上返回0,违反了JavaDoc。例如,Apache.commons-compress在从特定ZIP文件提取文件时会这样做。这可能是bug,但这类事情确实存在。
2. 其他InputStream->OutputStream的复制实现会读取流,直到接收到`-1`。例如
     -  https://github.com/apache/commons-io/blob/master/src/main/java/org/apache/commons/io/IOUtils.java#L1083
     - https://github.com/eclipse/jetty.project/blob/9706d70484863a014d3604e5e7cb4af40aa4cb1e/jetty-util/src/main/java/org/eclipse/jetty/util/IO.java#L161
3. clojure.java.io/copy必须以某种方式处理`0`,这是一个灰色区域,两种方法都不是规范意义上的更好。
by
参见我的回答。文档明确指出,a) 该方法会阻塞,直到有输入数据可用(或EOF或异常)并且至少有一个字节被读取并存储到b中(除非EOF、异常或缓冲区大小为零)。

Apache的copyLarge()函数对大小为零的缓冲区将无法正确工作。而Jetty的copy方式是好的,因为它明确使用非零大小的缓冲区,因此该条件永远不可能发生。
0

我认为您误解了文档。这里的关键部分是

该方法阻塞直到有输入数据可用,...
至少读取一个字节并存储到b中。

因此,它永远不会读取零字节,除非缓冲区大小为零。

当前代码在零的情况下停止是正确的,这只会发生在传入的缓冲区大小为零的情况下。

我观察到的运行代码的读取返回值序列,并使用1024字节大小的缓冲区。所以,这里clojure的copy函数在零处停止复制,IOUtils ja Jetty完整复制了整个流。InputStream来自apache commons-compress。所以这里的InputStream没有按照JavaDoc工作。

      ...,1024,0,1024, ..., -1
正如我说的:Apache的代码有缺陷。
https://issues.apache.org/jira/browse/COMPRESS-491 这里是apache库中出现的问题。
...