请分享您的想法,点击2024 Clojure 状态调查!

欢迎!请访问关于页面以了解更多关于该功能的信息。

0
编译器

编译引用未加载(或未初始化)类的函数会触发其 init 静态。当 init 静态加载 clojure 代码时,一些常量(我猜是源代码)会被泄露到正在编译的函数的常量池中。

这导致在某些环境中(Rational)CCW 无法正常工作,因为结果函数的静态初始化超过了 64K。

重现步骤

加载 leak.main ns 并运行注释中的代码:第一个函数虽然有 15 个额外的字段,但与第二个函数相同。

`
(ns leak.main)

(defn first-to-load []
leak.Klass/foo)

(defn second-to-load [])
leak.Klass/foo)

(comment
=> (map (comp count #(.getFields %) class) [first-to-load second-to-load])
(16 1)
)
`

`
package leak;

import clojure.lang.IFn;
import clojure.lang.RT;
import clojure.lang.Symbol;

public class Klass {
static {

RT.var("clojure.core", "require").invoke(Symbol.intern("leak.leaky"));

}
public static IFn foo = RT.var("leak.leaky", "foo");
}
`

`
(ns leak.leaky)

(defn foo
"Some doc"
[]
"hello")

(def unrelated 42)
`

https://gist.github.com/cgrand/5dcb6fe5b269aecc6a5b#file-main-clj-L10

补丁: clj-1620-v5.patch

33 答案

0

评论由:cgrand

来自 Nicola Mometto 的补丁

0

评论由:bronsa

附加了相同的补丁,并附有更清晰的提交信息

0

评论者:laurentpetit

我想感谢Christophe和Alex在了解情况、构建正确假设以及找到解决方案方面的宝贵帮助。

我还想指出,即使非IBM Rational环境不会受到此漏洞的影响,CCW无法正常运行,它们仍然受到影响。例如,一旦应用补丁,包装函数调用的单行类将只有700字节,而在当前的1.6或1.7中,它为90k字节。

0

评论者:laurentpetit

在CCW中对初始问题函数,-v2补丁产生的字节码与类在其静态初始化器中没有载入任何命名空间时完全相同。
也就是说,补丁是有效的。我将尽快在IBM Rational环境中进行现场测试。

0

评论者:laurentpetit

我确认此补丁解决了在IBM Rational环境中发现的初始问题

0

评论者:michaelblume

我不知道为什么,但我应用这个补丁,并且将CLJ-1544 patch应用到master上,然后尝试从这个测试项目中构建war https://github.com/pdenhaan/extend-test,我得到了一个看起来很恐怖的堆栈跟踪

`
$ lein do clean, war!
线程"main"中出现异常 Exception in thread "main" java.lang.NoSuchFieldError: thunk0__, compiling:(route.clj:1:1)

at clojure.lang.Compiler$InvokeExpr.eval(Compiler.java:3606)
at clojure.lang.Compiler.compile1(Compiler.java:7299)
at clojure.lang.Compiler.compile1(Compiler.java:7289)
at clojure.lang.Compiler.compile(Compiler.java:7365)
at clojure.lang.RT.compile(RT.java:398)
at clojure.lang.RT.load(RT.java:438)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$load_lib$fn__5362.invoke(core.clj:5668)
at clojure.core$load_lib.doInvoke(core.clj:5667)
at clojure.lang.RestFn.applyTo(RestFn.java:142)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$load_libs.doInvoke(core.clj:5706)
at clojure.lang.RestFn.applyTo(RestFn.java:137)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$require.doInvoke(core.clj:5789)
at clojure.lang.RestFn.invoke(RestFn.java:436)
at extend_test.core.handler$loading__5301__auto____66.invoke(handler.clj:1)
at clojure.lang.AFn.applyToHelper(AFn.java:152)
at clojure.lang.AFn.applyTo(AFn.java:144)
at clojure.lang.Compiler$InvokeExpr.eval(Compiler.java:3601)
at clojure.lang.Compiler.compile1(Compiler.java:7299)
at clojure.lang.Compiler.compile1(Compiler.java:7289)
at clojure.lang.Compiler.compile(Compiler.java:7365)
at clojure.lang.RT.compile(RT.java:398)
at clojure.lang.RT.load(RT.java:438)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$load_lib$fn__5362.invoke(core.clj:5668)
at clojure.core$load_lib.doInvoke(core.clj:5667)
at clojure.lang.RestFn.applyTo(RestFn.java:142)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$load_libs.doInvoke(core.clj:5706)
at clojure.lang.RestFn.applyTo(RestFn.java:137)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$require.doInvoke(core.clj:5789)
at clojure.lang.RestFn.invoke(RestFn.java:421)
at extend_test.core.servlet$loading__5301__auto____7.invoke(servlet.clj:1)
at clojure.lang.AFn.applyToHelper(AFn.java:152)
at clojure.lang.AFn.applyTo(AFn.java:144)
at clojure.lang.Compiler$InvokeExpr.eval(Compiler.java:3601)
at clojure.lang.Compiler.compile1(Compiler.java:7299)
at clojure.lang.Compiler.compile1(Compiler.java:7289)
at clojure.lang.Compiler.compile1(Compiler.java:7289)
at clojure.lang.Compiler.compile(Compiler.java:7365)
at clojure.lang.RT.compile(RT.java:398)
at clojure.lang.RT.load(RT.java:438)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$compile$fn__5420.invoke(core.clj:5834)
at clojure.core$compile.invoke(core.clj:5833)
at user$eval5.invoke(form-init180441230737245034.clj:1)
at clojure.lang.Compiler.eval(Compiler.java:6776)
at clojure.lang.Compiler.eval(Compiler.java:6765)
at clojure.lang.Compiler.eval(Compiler.java:6766)
at clojure.lang.Compiler.load(Compiler.java:7203)
at clojure.lang.Compiler.loadFile(Compiler.java:7159)
at clojure.main$load_script.invoke(main.clj:274)
at clojure.main$init_opt.invoke(main.clj:279)
at clojure.main$initialize.invoke(main.clj:307)
at clojure.main$null_opt.invoke(main.clj:342)
at clojure.main$main.doInvoke(main.clj:420)
at clojure.lang.RestFn.invoke(RestFn.java:421)
at clojure.lang.Var.invoke(Var.java:383)
at clojure.lang.AFn.applyToHelper(AFn.java:156)
at clojure.lang.Var.applyTo(Var.java:700)
at clojure.main.main(main.java:37)

原因:java.lang.NoSuchFieldError: thunk0__

at instaparse.core__init.load(Unknown Source)
at instaparse.core__init.<clinit>(Unknown Source)
at java.lang.Class.forName0(Native Method)
at java.lang.Class.forName(Class.java:344)
at clojure.lang.RT.loadClassForName(RT.java:2141)
at clojure.lang.RT.load(RT.java:430)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$load_lib$fn__5362.invoke(core.clj:5668)
at clojure.core$load_lib.doInvoke(core.clj:5667)
at clojure.lang.RestFn.applyTo(RestFn.java:142)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$load_libs.doInvoke(core.clj:5706)
at clojure.lang.RestFn.applyTo(RestFn.java:137)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$require.doInvoke(core.clj:5789)
at clojure.lang.RestFn.invoke(RestFn.java:436)
at clout.core$loading__5301__auto____273.invoke(core.clj:1)
at clout.core__init.load(Unknown Source)
at clout.core__init.<clinit>(Unknown Source)
at java.lang.Class.forName0(Native Method)
at java.lang.Class.forName(Class.java:344)
at clojure.lang.RT.loadClassForName(RT.java:2141)
at clojure.lang.RT.load(RT.java:430)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$load_lib$fn__5362.invoke(core.clj:5668)
at clojure.core$load_lib.doInvoke(core.clj:5667)
at clojure.lang.RestFn.applyTo(RestFn.java:142)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$load_libs.doInvoke(core.clj:5706)
at clojure.lang.RestFn.applyTo(RestFn.java:137)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$require.doInvoke(core.clj:5789)
at clojure.lang.RestFn.invoke(RestFn.java:482)
at compojure.core$loading__5301__auto____68.invoke(core.clj:1)
at compojure.core__init.load(Unknown Source)
at compojure.core__init.<clinit>(Unknown Source)
at java.lang.Class.forName0(Native Method)
at java.lang.Class.forName(Class.java:344)
at clojure.lang.RT.loadClassForName(RT.java:2141)
at clojure.lang.RT.load(RT.java:430)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$load_lib$fn__5362.invoke(core.clj:5668)
at clojure.core$load_lib.doInvoke(core.clj:5667)
at clojure.lang.RestFn.applyTo(RestFn.java:142)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$load_libs.doInvoke(core.clj:5706)
at clojure.lang.RestFn.applyTo(RestFn.java:137)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$require.doInvoke(core.clj:5789)
at clojure.lang.RestFn.invoke(RestFn.java:457)
at compojure.route$loading__5301__auto____1508.invoke(route.clj:1)
at clojure.lang.AFn.applyToHelper(AFn.java:152)
at clojure.lang.AFn.applyTo(AFn.java:144)
at clojure.lang.Compiler$InvokeExpr.eval(Compiler.java:3601)
... 75 more

子进程失败
`

0

评论者:michaelblume

https://github.com/MichaelBlume/clojure/tree/no-field
https://github.com/MichaelBlume/extend-test/tree/no-field

mvn clean install 在一个中,lein ring uberwar 在另一个中。

0

评论由:bronsa

迈克尔,感谢您的报告,我尝试调查这个问题,但是由于涉及许多动态变化的因素,很难找出 why 这两个补丁组合会导致这个问题。

一个简化的例子需要不使用 lein 和外部依赖项,如果有人有时间,我很乐意有人帮忙调试这个问题。

0

评论者:michaelblume

好吧,看来最小的案例是这样的

(ns foo (:require (link: instaparse.core)))

(ns bar (:require (link: foo)))

然后尝试将 foo 和 bar AOT 编译。

我还不知道 instaparse.core 有什么特别之处。

0

评论者:michaelblume

当然,这不仅仅是最小案例,至少没有使用 lein。

0

评论者:michaelblume

ok,问题是 instaparse 的 defclone 宏,我已经将其提取到一个测试仓库中

https://github.com/MichaelBlume/thunk-fail

lein do clean, compile 执行时将失败,但仓库没有依赖项,所以我确信可以不使用 lein 来完成。

0

评论者:gshayban

很抱歉问答如此之多,但这些类加载器问题很微妙(我希望快要解决了)。您的报告非常有价值,但更具体一点会有所帮助。有一连串这些问题——保持焦点至关重要。

您提到的最小案例是 NoSuchFieldError 吗?
是如何在没有 lein 的情况下调用的?
您调用了什么 AOT?(编译 'bar)?
类路径是什么?最初调用时 ./target/classes 是否为空?
应用 CLJ-979-7 之后,问题是否消失?

0

评论者:michaelblume

我已经尝试在未使用 leiningen 的情况下进行了复制但没有成功。当我只是运行

java -Dclojure.compile.path=target -cp src:../clojure/target/clojure-1.7.0-aot-SNAPSHOT.jar clojure.lang.Compile thunk-fail.first thunk-fail.second

切件事都正常。

0

评论者:gshayban

NoSuchFieldError 与关键字查找位置相关。

用以下替换 defclone 的主体:
`(do (:foo {})) 足以触发它,ns 结构相同。

0

评论由:bronsa

我已经更新了 CLJ-1544 的补丁,现在新补丁 + 此票的补丁的组合不应导致任何异常。

尽管如此,这个补丁中仍然存在一个错误,因为尽管 CLJ-1544 的补丁有一个错误,但它导致了一个完全有效(尽管难以复现)的编译场景,因此我们应该在 CLJ-1544 的受故障补丁的帮助下继续调试这个补丁。

我认为首先要做的是弄清楚 lein compile 与 clojure.Compile 做了什么不同的事情

...