2024 年 Clojure 状态调查!中分享您的想法。

欢迎!请参阅关于页面,了解更多关于这个工具的信息。

0投票
编译器

编译一个引用未加载(或未初始化)类的函数会触发其静态初始化(init static)。当静态初始化加载 Clojure 代码时,某些常量(我认为是源代码)会泄露到正在编译的函数的常量池中。

这阻止了 CCW 在某些环境(如 Rational)中工作,因为结果的函数的静态初始化超过了 64K。

重现步骤

加载 leak.main 名字空间,并运行注释中的代码:第一个函数尽管与第二个函数相同,但有 15 个额外的字段。

`
(ns leak.main)

(defn first-to-load [])
leak.Klass/foo)

(defn second-to-load [])
leak.Klass/foo)

(comment
=> (map (comp count #(.getFields %) class) [first-to-load second-to-load]))
(16 1)
)
`

`
package leak;

import clojure.lang.IFn;
import clojure.lang.RT;
import clojure.lang.Symbol;

public class Klass {
static {

RT.var("clojure.core", "require").invoke(Symbol.intern("leak.leaky"));

}
public static IFn foo = RT.var("leak.leaky", "foo");
}
`

`
(ns leak.leaky)

(defn foo
"Some doc"
[]
"hello")

(def unrelated 42)
`

https://gist.github.com/cgrand/5dcb6fe5b269aecc6a5b#file-main-clj-L10

补丁: clj-1620-v5.patch

33 答案

0投票

评论由:cgrand 提出

Nicola Mometto 的补丁

0投票

评论由:bronsa 提出

附上具有更具信息性和更好的提交消息的相同补丁

0投票

评论者:laurentpetit

我想感谢Christophe和Alex在理解所发生的事情、形成正确的假设以及找到解决方案方面的宝贵帮助。

我还想提到,即使非IBM Rational环境中没有受到此错误的影响,使CCW无法工作,它们仍然受到影响。例如,当应用补丁后,包装互操作调用的单行函数对应的类的大小为700字节,而在当前1.6或1.7中,它的大小为90k字节。

0投票

评论者:laurentpetit

在CCW中,针对初始问题函数,-v2补丁生成的字节码与引用的类在其静态初始化器中未加载任何命名空间时完全相同。
也就是说,这个补丁是有效的。我将尽快在IBM Rational环境中进行现场测试。

0投票

评论者:laurentpetit

我确认该补丁修复了在IBM Rational环境中最初检测到的问题

0投票

评论者:michaelblume

我不知道为什么,但是当我应用这个补丁,以及应用CLJ-1544补丁到master上,然后尝试从这个测试项目https://github.com/pdenhaan/extend-test构建一个war包时,我得到了一个看起来令人害怕的堆栈跟踪

`
$ lein do clean, war!
主线程中出现异常 java.lang.NoSuchFieldError: thunk0__, 编译:(route.clj:1:1)

at clojure.lang.Compiler$InvokeExpr.eval(Compiler.java:3606)
at clojure.lang.Compiler.compile1(Compiler.java:7299)
at clojure.lang.Compiler.compile1(Compiler.java:7289)
at clojure.lang.Compiler.compile(Compiler.java:7365)
at clojure.lang.RT.compile(RT.java:398)
at clojure.lang.RT.load(RT.java:438)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$load_lib$fn__5362.invoke(core.clj:5668)
at clojure.core$load_lib.doInvoke(core.clj:5667)
at clojure.lang.RestFn.applyTo(RestFn.java:142)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$load_libs.doInvoke(core.clj:5706)
at clojure.lang.RestFn.applyTo(RestFn.java:137)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$require.doInvoke(core.clj:5789)
at clojure.lang.RestFn.invoke(RestFn.java:436)
at extend_test.core.handler$loading__5301__auto____66.invoke(handler.clj:1)
at clojure.lang.AFn.applyToHelper(AFn.java:152)
at clojure.lang.AFn.applyTo(AFn.java:144)
at clojure.lang.Compiler$InvokeExpr.eval(Compiler.java:3601)
at clojure.lang.Compiler.compile1(Compiler.java:7299)
at clojure.lang.Compiler.compile1(Compiler.java:7289)
at clojure.lang.Compiler.compile(Compiler.java:7365)
at clojure.lang.RT.compile(RT.java:398)
at clojure.lang.RT.load(RT.java:438)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$load_lib$fn__5362.invoke(core.clj:5668)
at clojure.core$load_lib.doInvoke(core.clj:5667)
at clojure.lang.RestFn.applyTo(RestFn.java:142)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$load_libs.doInvoke(core.clj:5706)
at clojure.lang.RestFn.applyTo(RestFn.java:137)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$require.doInvoke(core.clj:5789)
at clojure.lang.RestFn.invoke(RestFn.java:421)
at extend_test.core.servlet$loading__5301__auto____7.invoke(servlet.clj:1)
at clojure.lang.AFn.applyToHelper(AFn.java:152)
at clojure.lang.AFn.applyTo(AFn.java:144)
at clojure.lang.Compiler$InvokeExpr.eval(Compiler.java:3601)
at clojure.lang.Compiler.compile1(Compiler.java:7299)
at clojure.lang.Compiler.compile1(Compiler.java:7289)
at clojure.lang.Compiler.compile1(Compiler.java:7289)
at clojure.lang.Compiler.compile(Compiler.java:7365)
at clojure.lang.RT.compile(RT.java:398)
at clojure.lang.RT.load(RT.java:438)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$compile$fn__5420.invoke(core.clj:5834)
at clojure.core$compile.invoke(core.clj:5833)
at user$eval5.invoke(form-init180441230737245034.clj:1)
at clojure.lang.Compiler.eval(Compiler.java:6776)
at clojure.lang.Compiler.eval(Compiler.java:6765)
at clojure.lang.Compiler.eval(Compiler.java:6766)
at clojure.lang.Compiler.load(Compiler.java:7203)
at clojure.lang.Compiler.loadFile(Compiler.java:7159)
at clojure.main$load_script.invoke(main.clj:274)
at clojure.main$init_opt.invoke(main.clj:279)
at clojure.main$initialize.invoke(main.clj:307)
at clojure.main$null_opt.invoke(main.clj:342)
at clojure.main$main.doInvoke(main.clj:420)
at clojure.lang.RestFn.invoke(RestFn.java:421)
at clojure.lang.Var.invoke(Var.java:383)
at clojure.lang.AFn.applyToHelper(AFn.java:156)
at clojure.lang.Var.applyTo(Var.java:700)
at clojure.main.main(main.java:37)

原因:java.lang.NoSuchFieldError: thunk0__

at instaparse.core__init.load(Unknown Source)
at instaparse.core__init.<clinit>(Unknown Source)
at java.lang.Class.forName0(Native Method)
at java.lang.Class.forName(Class.java:344)
at clojure.lang.RT.loadClassForName(RT.java:2141)
at clojure.lang.RT.load(RT.java:430)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$load_lib$fn__5362.invoke(core.clj:5668)
at clojure.core$load_lib.doInvoke(core.clj:5667)
at clojure.lang.RestFn.applyTo(RestFn.java:142)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$load_libs.doInvoke(core.clj:5706)
at clojure.lang.RestFn.applyTo(RestFn.java:137)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$require.doInvoke(core.clj:5789)
at clojure.lang.RestFn.invoke(RestFn.java:436)
at clout.core$loading__5301__auto____273.invoke(core.clj:1)
at clout.core__init.load(Unknown Source)
at clout.core__init.<clinit>(Unknown Source)
at java.lang.Class.forName0(Native Method)
at java.lang.Class.forName(Class.java:344)
at clojure.lang.RT.loadClassForName(RT.java:2141)
at clojure.lang.RT.load(RT.java:430)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$load_lib$fn__5362.invoke(core.clj:5668)
at clojure.core$load_lib.doInvoke(core.clj:5667)
at clojure.lang.RestFn.applyTo(RestFn.java:142)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$load_libs.doInvoke(core.clj:5706)
at clojure.lang.RestFn.applyTo(RestFn.java:137)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$require.doInvoke(core.clj:5789)
at clojure.lang.RestFn.invoke(RestFn.java:482)
at compojure.core$loading__5301__auto____68.invoke(core.clj:1)
at compojure.core__init.load(Unknown Source)
at compojure.core__init.<clinit>(Unknown Source)
at java.lang.Class.forName0(Native Method)
at java.lang.Class.forName(Class.java:344)
at clojure.lang.RT.loadClassForName(RT.java:2141)
at clojure.lang.RT.load(RT.java:430)
at clojure.lang.RT.load(RT.java:411)
at clojure.core$load$fn__5415.invoke(core.clj:5823)
at clojure.core$load.doInvoke(core.clj:5822)
at clojure.lang.RestFn.invoke(RestFn.java:408)
at clojure.core$load_one.invoke(core.clj:5613)
at clojure.core$load_lib$fn__5362.invoke(core.clj:5668)
at clojure.core$load_lib.doInvoke(core.clj:5667)
at clojure.lang.RestFn.applyTo(RestFn.java:142)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$load_libs.doInvoke(core.clj:5706)
at clojure.lang.RestFn.applyTo(RestFn.java:137)
at clojure.core$apply.invoke(core.clj:628)
at clojure.core$require.doInvoke(core.clj:5789)
at clojure.lang.RestFn.invoke(RestFn.java:457)
at compojure.route$loading__5301__auto____1508.invoke(route.clj:1)
at clojure.lang.AFn.applyToHelper(AFn.java:152)
at clojure.lang.AFn.applyTo(AFn.java:144)
at clojure.lang.Compiler$InvokeExpr.eval(Compiler.java:3601)
... 75 more

子进程失败
`

0投票

评论者:michaelblume

https://github.com/MichaelBlume/clojure/tree/no-field
https://github.com/MichaelBlume/extend-test/tree/no-field

在一个中执行mvn clean install,在另一个中执行lein ring uberwar。

0投票

评论由:bronsa 提出

迈克尔,感谢您的报告,我已经尝试调查这个问题了,但是由于涉及的很多组件,这个组合导致的问题很难找到原因。

一个有用的最小化案例不需要lein和外部依赖,如果您有时间,我会很感激任何人在调试这个问题上的帮助。

0投票

评论者:michaelblume

好的,看起来最小案例是这样的

(ns foo (:require (link: instaparse.core)))

(ns bar (:require (link: foo)))

然后尝试AOT编译foo和bar。

我还不清楚instaparse.core有什么特殊之处。

0投票

评论者:michaelblume

好吧,这不是一个最小的案例,但至少没有使用lein。

0投票

评论者:michaelblume

好的,问题是instaparse的defclone宏,我已经把它抽离到一个测试仓库

https://github.com/MichaelBlume/thunk-fail

使用lein do clean, compile将会导致失败,但是该仓库没有依赖,所以我确信有一种不使用lein的方法可以实现。

0投票

评论者:gshayban

很抱歉提出一连串问题,但这些类加载器错误是微妙的(而且我希望它们几乎被解决了)。您的报告非常有价值,但更加具体将会有所帮助。这些错误是一群——保持它们高度专注是关键。

您提到的最小案例是NoSuchFieldError吗?
如何在不使用lein的情况下调用此函数?
您在AOT调用什么?(编译'bar)?
类路径是什么?当您最初调用它时,./target/classes是否为空?
在应用CLJ-979-7后,问题仍然存在吗?

0投票

评论者:michaelblume

我曾尝试过在没有leiningen的情况下复制,但没有成功。当我只是运行

java -Dclojure.compile.path=target -cp src:../clojure/target/clojure-1.7.0-aot-SNAPSHOT.jar clojure.lang.Compile thunk-fail.first thunk-fail.second

一切正常。

0投票

评论者:gshayban

NoSuchFieldError是与关键字查找位置相关的。


`(do (:foo {}))替换defclone的主体足以触发它,具有相同的ns结构。

0投票

评论由:bronsa 提出

我已经更新了CLJ-1544的补丁,现在新补丁与这个问题的补丁的组合不应该引起任何异常。

话虽如此,这个补丁中仍存在一个bug,因为虽然CLJ-1544的补丁有bug,但它正在引起一个完全有效(尽管几乎无法复现)的编译场景,所以我们应该在CLJ-1544的bug补丁的帮助下继续调试这个补丁。

我想首先要做的是弄清楚lein compile与clojure.Compile在做的事情有什么不同

...