2024年Clojure调查问卷中分享您的想法!

欢迎!请访问关于页面获取更多关于操作信息。

0
IO

我在clojure.java.io/copy函数的实现中发现了奇怪的行为

https://github.com/clojure/clojure/blob/ee1b606ad066ac8df2efd4a6b8d0d365c206f5bf/src/clj/clojure/java/io.clj#L391

(defn copy
  "Copies input to output.  Returns nil or throws IOException.
  Input may be an InputStream, Reader, File, byte[], char[], or String.
  Output may be an OutputStream, Writer, or File.
  Options are key/value pairs and may be one of
    :buffer-size  buffer size to use, default is 1024.
    :encoding     encoding to use if converting between
                  byte and char streams.   
  Does not close any streams except those it opens itself 
  (on a File)."
  {:added "1.2"}
  [input output & opts]
  (do-copy input output (when opts (apply hash-map opts))))

实际的复制操作是在这里实现的,当从InputStream复制到OutputStream时。

https://github.com/clojure/clojure/blob/ee1b606ad066ac8df2efd4a6b8d0d365c206f5bf/src/clj/clojure/java/io.clj#L306

(defmethod do-copy [InputStream OutputStream] [^InputStream input ^OutputStream output opts]
  (let [buffer (make-array Byte/TYPE (buffer-size opts))]
    (loop []
      (let [size (.read input buffer)]  ;;; XXX point 1
        (when (pos? size)               ;;; XXX point 2
          (do (.write output buffer 0 size)
              (recur)))))))

这里是第1个点的.read函数 https://docs.oracle.com/javase/7/docs/api/java/io/InputStream.html#read(byte%5B%5D)

Java文档说明如下

从输入流中读取一些字节数并将它们存储到缓冲区数组b中。实际读取的字节数作为整数返回。该方法在输入数据可用、检测到文件末尾或抛出异常之前阻塞。
如果b的长度为零,则不会读取任何字节并返回0;否则,将尝试读取至少一个字节。如果没有可用的字节(因为流处于文件末尾),则返回-1;否则,至少读取一个字节并将其存储在b中。

这意味着返回值-1表示流末尾,返回值0并不表示流末尾。但是,在上述代码的第2个点处,当.read返回小于1的值时,终止递归。

现在考虑这样一个情况,.read在连续调用中返回以下序列值

1024, 0, 1024, 201, -1

clojure.java/io 只复制了前1024个字节,而整个流有2249字节。这是预期的行为吗?第1个点处的条件应该是(not (neg? size))吗?

我还把这个问题发到了google组:https://groups.google.com/forum/#!topic/clojure/XzpPPXXhgM4

2 答案

+1

我同意这是个错误,并将为它创建一个jira。

已添加修改文件https://clojure.atlassian.net/browse/CLJ-2533。谢谢...
我认为这不是个错误。

关键点是Java文档中的这一段:"如果b的长度为零,则不读取字节并返回0"

只有当缓冲区b的长度为零时,才不读取字节。如果您明确想要在传递大小为0的缓冲区时产生一个无限循环,那么我认为实现不应该改变。
Java文档说,除了如果输入缓冲区长度为0之外,不应返回0。

但是
1. 有些InputStream实现实际上违反了Java文档返回0。例如,在从某些特定ZIP文件中提取文件时,Apache commons-compress就是这样做的。这可能是一个错误,但这种情况确实存在。
2. 其他InputStream->OutputStream复制实现会一直读取直到接收到-1。例如
     -  https://github.com/apache/commons-io/blob/master/src/main/java/org/apache/commons/io/IOUtils.java#L1083
     - https://github.com/eclipse/jetty.project/blob/9706d70484863a014d3604e5e7cb4af40aa4cb1e/jetty-util/src/main/java/org/eclipse/jetty/util/IO.java#L161
clojure.java.io/copy必须以某种方式处理`0`,这是一个灰色区域,两种方式在规范意义上都不是更好的选择。
请参阅我的回答。文档非常清晰,表明:a)该方法定块,直到输入数据可用(或EOF或异常),b)至少读取一个字节到b中(除非EOF、异常或缓冲区大小为零)。

Apache的copyLarge()函数对于大小为零的缓冲区将无法正常工作。Jetty的copy是好的,因为它明确使用非零大小的缓冲区,这样条件就永远不会出现。
0

我认为你误读了文档。关键部分如下

此方法会阻塞,直到输入数据可用,...
至少读取一个字节并存储到b中。

因此,除了当缓冲区大小为零时,它永远不会读取零字节。

当前代码正确地在遇到零时停止 - 这只在传入的缓冲区大小为零时才会发生。

我观察到运行代码并使用1024个字节的缓冲区时,读返回值序列如下。这样,clojure的copy函数在读取到零时停止复制,而IOUtils ja Jetty复制了整个流。输入流来自于apache commons-compress。因此,这里的InputStream不符合JavaDoc的描述。

      ...,1024,0,1024, ..., -1
就像我说的:Apache的代码有缺陷。
https://issues.apache.org/jira/browse/COMPRESS-491 这里是apache库中存在的问题。
...