锁定宏在Graal本地镜像和ART运行时上字节码验证失败

Question

Android ART在字节码上运行编译时验证，并在任何使用锁定宏的地方失败。错误看起来就像CLJ-1829中的那样（在这种情况下，clojure.core.server/stop-server调用锁定宏）

10-16 14:49:26.801 2008-2008/? E/AndroidRuntime: java.lang.VerifyError: Declining class clojure.core.server$stop_server because it failed compile-time verification (the declaration of 'clojure.core.server$stop_server' appears in /data/app/com.clojure_on_android-1/base.apk)

原因：从对Android问题（https://code.google.com/p/android/issues/detail?id=80823）的讨论来看，这可能是由于更严格地执行了JVM规范中的“结构化锁定”条款（https://docs.oracle.com/javase/specs/jvms/se7/html/jvms-2.html#jvms-2.11.10）。

看起来，在locking中使用的monitor-enter、monitor-exit和try/finally块组合会创建ART标记为没有平衡monitorenter/monitorexit字节码的路径。特别是，monitorenter和monitorexit自身可以抛出（在null锁定对象上）。Java字节码对这些情况进行了一些复杂的异常表处理，但（据我们所知）没有修改Clojure编译器的可能。

方法：一种可能的方法是将锁定在Java的synchronized块上下文中调用传递的body。这避免了通过交给Java来解决复杂的字节码问题，但性能影响尚不清楚。

补丁：clj-1472-3.patch

另请参阅：与Java同步块的字节码比较显示了一些差异
https://gist.github.com/AdamClements/2ae6c4919964b71eb470

审核人：由Alex Miller审核 - 我认为这是一个可行的解决方案，它修复了问题，而且由于使用频率不高，我并不担心它的性能问题。我认为另一种处理方法是将locking作为一个特殊形式并提供编译器支持，但我不确定这是否值得这样做，因此我将把这个问题留给Rich来决定。

Answer 1

评论者：eraserhd

使用clj-1472-3.patch，我有时能使构建工作。有时我会遇到以下错误

`
致命错误：com.oracle.svm.core.util.VMError$HostedError：具有重定位指针的对象必须是不变的

    at com.oracle.svm.core.util.VMError.guarantee(VMError.java:85)                                                      
    at com.oracle.svm.hosted.image.NativeImageHeap.choosePartition(NativeImageHeap.java:492)                            
    at com.oracle.svm.hosted.image.NativeImageHeap.addObjectToBootImageHeap(NativeImageHeap.java:451)                   
    at com.oracle.svm.hosted.image.NativeImageHeap.addObject(NativeImageHeap.java:271)                                  
    at com.oracle.svm.hosted.image.NativeImageCodeCache.addConstantToHeap(NativeImageCodeCache.java:369)                
    at com.oracle.svm.hosted.image.NativeImageCodeCache.addConstantsToHeap(NativeImageCodeCache.java:356)               
    at com.oracle.svm.hosted.NativeImageGenerator.doRun(NativeImageGenerator.java:882)                                  
    at com.oracle.svm.hosted.NativeImageGenerator.lambda$run$0(NativeImageGenerator.java:401)                           
    at java.util.concurrent.ForkJoinTask$AdaptedRunnableAction.exec(ForkJoinTask.java:1386)                             
    at java.util.concurrent.ForkJoinTask.doExec(ForkJoinTask.java:289)                                                  
    at java.util.concurrent.ForkJoinPool$WorkQueue.runTask(ForkJoinPool.java:1056)                                      
    at java.util.concurrent.ForkJoinPool.runWorker(ForkJoinPool.java:1692)                                              
    at java.util.concurrent.ForkJoinWorkerThread.run(ForkJoinWorkerThread.java:157)                                     

`

我使用的是Graal rc10，我能找到的最简代码如下以生成该错误

`
(ns rep.core
(:gen-class))

(defn- foo [s]
(locking s

42))

(defn -main
[& args]
(foo))
`

如果锁定的是变量等非参数对象，可以解决该问题。

这看起来可能是一个Graal问题，所以我在那里报告了。

Answer 2

评论者：alexmiller_

好的，请更新一下。我们距离下一个可能包含这一功能的发布可能还有很长时间，所以获得更多反馈将非常好。

Answer 3

评论者：bronsa

如果可能的话，我不会投票给把锁定变为一个新特殊形式。这将使任何分析相关库与未来版本不兼容，并可能在依赖项升级时造成痛苦。

Answer 4

评论者：eraserhd

使用最新发布的Graal VM rc11，clj-1472-3.patch没有问题。

Answer 5

评论者：jare

从Clojure 1.9迁移到1.10后，当我使用GraalVM本地编译时开始出现这个错误
重复测试的最小例子是

`
(ns clj10-graal-repro.core
(:require [clojure.spec.alpha :as s])
(:gen-class))

(s/def ::foo (s/coll-of string?))

(defn -main
[& args]
(println (s/valid? ::foo ["bar"]))
(println clojure-version))
`

我认为问题在于Clojure 1.10依赖于spec.alpha 0.2.176版本，这个版本（链接：https://github.com/clojure/spec.alpha/commit/31165fec69ff86129a1ada8b3f50864922dfc88a 文本：使用锁机制）。

更多细节请查看CLJ-2482。

Answer 6

评论者：gshayban

我已经添加了一个补丁（链接：^CLJ-1472-reentrant-finally.patch），使得锁宏生成与javac生成的同步块完全相同的控制流。这需要来自编译器的某些帮助。

针对以下代码

synchronized (o) { int i = 400L; }

javac输出

0: aload_0

   1: dup
   2: astore_1
   3: monitorenter
   4: ldc2_w        #7           // BEGIN TRY       // long 400l
   7: lstore_2
   8: aload_1
   9: monitorexit               // END TRY
  10: goto          20           // GOTO RET
  13: astore        4         // BEGIN FINALLY
  15: aload_1                     // store exception
  16: monitorexit           // END FINALLY
  17: aload         4             // rethrow
  19: athrow
  20: return
Exception table:
   from    to  target type
       4    10    13   any
      13    17    13   any

注意

1. finally块是其自己的异常处理程序在异常表中
2. monitorenter位于try体区域之外
3. 通常，finally体被复制到try体中（就像在正常的TryExpr中一样）

我使用打补丁后的Clojure在Graal 19.0.2上进行了测试，通过AOT编译上一条评论中的复现，然后调用Graal

native-image -cp src:clojure.jar --initialize-at-build-time=clojure --no-server -H:+ReportUnsupportedElementsAtRuntime --no-fallback clj10_graal_repro.core

它成功生成了一个在编译过程中没有错误的二进制文件。然而，Graal用户可能都会很开心地发现，这个二进制文件无法运行
找不到 clojure/core/server__init.class

可能是因为Clojure 1.10.1延迟了clojure.core.server + user的初始化

Answer 7

评论者：gshayban

这对原生镜像用户来说很有希望

https://github.com/oracle/graal/blob/master/substratevm/CONFIGURE.md

https://github.com/wololock/graalvm-groovy-examples/blob/master/hello-world/compile.sh

Answer 8

评论者：gshayban

那个补丁在一个微妙的方式上坏了 -- 正在修复。

Answer 9

评论者：gshayban

(链接：^CLJ-1472-reentrant-finally2.patch)

Answer 10

参考：https://clojure.atlassian.net/browse/CLJ-1472（由adamclements报告）

Answer 11

你好，

我在使用Clojure Spec的一个项目中遇到了这个问题。我已经创建了一个简单的项目来重现这个问题：[https://github.com/alzadude/cljc-hello-world/tree/graalvm-spec-issue](https://github.com/alzadude/cljc-hello-world/tree/graalvm-spec-issue)

我正在尝试使用Graal的native-image结合Clojure补丁来创建一个可执行的二进制文件。然而，当我使用补丁过的Clojure JAR文件时，我仍然遇到了“不平衡监视器”错误。我做了什么错事？

谢谢！

1 在应用补丁的情况下构建Clojure

cd /mnt/d/Projects/clojure
patch -p1 < /mnt/c/Users/alex/Downloads/CLJ-1472-reentrant-finally2.patch
mvn clean
mvn -Plocal install -Dmaven.test.skip=true

2 尝试使用clj/deps.edn创建Graalvm原生镜像

cd /mnt/d/Projects/cljc-hello-world
GRAALVM_HOME=/usr/local/graalvm-ce-19.2.0.1/ clojure -Anative-image

即使应用了补丁，我仍然得到了“不平衡监视器”错误

Cleaning target
Creating target/classes
  Compiling hello-world.core
Creating target/cljc-hello-world
ERROR! Warning: Aborting stand-alone image build. unbalanced monitors: mismatch at monitorexit, 96|LoadField#lockee__5436__auto__ != 3|LoadField#lockee__5436__auto__
Detailed message:
Call path from entry point to clojure.spec.gen.alpha$dynaload$fn__2628.invoke():
        at clojure.spec.gen.alpha$dynaload$fn__2628.invoke(alpha.clj:21)
        at clojure.lang.AFn.run(AFn.java:22)
        at java.lang.Thread.run(Thread.java:748)
        at com.oracle.svm.core.thread.JavaThreads.threadStartRoutine(JavaThreads.java:460)
        at com.oracle.svm.core.posix.thread.PosixJavaThreads.pthreadStartRoutine(PosixJavaThreads.java:193)
        at com.oracle.svm.core.code.IsolateEnterStub.PosixJavaThreads_pthreadStartRoutine_e1f4a8c0039f8337338252cd8734f63a79b5e3df(generated:0)

Warning: Use -H:+ReportExceptionStackTraces to print stacktrace of underlying exception
Warning: Image 'target/cljc-hello-world' is a fallback image that requires a JDK for execution (use --no-fallback to suppress fallback image generation).

3 尝试使用native-image和显式类路径创建Graalvm原生镜像，以排除deps.edn/cambada等问题

cd /mnt/d/Projects/cljc-hello-world
clojure -Auberjar
/usr/local/graalvm-ce-19.2.0.1/bin/native-image --class-path ../clojure/target/clojure-1.11.0-master-SNAPSHOT.jar --report-unsupported-elements-at-runtime --initialize-at-build-time -jar ./target/cljc-hello-world-1.0.0-SNAPSHOT-standalone.jar -H:Name=./target/cljc-hello-world

我仍然得到了“不平衡监视器”错误

Build on Server(pid: 10328, port: 64314)*
[./target/cljc-hello-world:10328]    classlist:   5,817.52 ms
[./target/cljc-hello-world:10328]        (cap):   2,576.68 ms
[./target/cljc-hello-world:10328]        setup:   3,923.40 ms
[./target/cljc-hello-world:10328]     analysis:  11,800.59 ms
Warning: Aborting stand-alone image build. unbalanced monitors: mismatch at monitorexit, 96|LoadField#lockee__5436__auto__ != 3|LoadField#lockee__5436__auto__
Detailed message:
Call path from entry point to clojure.spec.gen.alpha$dynaload$fn__2628.invoke():
        at clojure.spec.gen.alpha$dynaload$fn__2628.invoke(alpha.clj:21)
        at clojure.lang.AFn.run(AFn.java:22)
        at java.lang.Thread.run(Thread.java:748)
        at com.oracle.svm.core.thread.JavaThreads.threadStartRoutine(JavaThreads.java:460)
        at com.oracle.svm.core.posix.thread.PosixJavaThreads.pthreadStartRoutine(PosixJavaThreads.java:193)
        at com.oracle.svm.core.code.IsolateEnterStub.PosixJavaThreads_pthreadStartRoutine_e1f4a8c0039f8337338252cd8734f63a79b5e3df(generated:0)

Warning: Use -H:+ReportExceptionStackTraces to print stacktrace of underlying exception
Build on Server(pid: 10328, port: 64314)
[./target/cljc-hello-world:10328]    classlist:     217.19 ms
[./target/cljc-hello-world:10328]        (cap):   1,244.81 ms
[./target/cljc-hello-world:10328]        setup:   1,535.89 ms
[./target/cljc-hello-world:10328]   (typeflow):   1,309.40 ms
[./target/cljc-hello-world:10328]    (objects):   1,430.65 ms
[./target/cljc-hello-world:10328]   (features):     120.57 ms
[./target/cljc-hello-world:10328]     analysis:   2,906.19 ms
[./target/cljc-hello-world:10328]     (clinit):      88.70 ms
[./target/cljc-hello-world:10328]     universe:     250.93 ms
[./target/cljc-hello-world:10328]      (parse):     315.62 ms
[./target/cljc-hello-world:10328]     (inline):     739.40 ms
[./target/cljc-hello-world:10328]    (compile):   3,100.68 ms
[./target/cljc-hello-world:10328]      compile:   4,401.60 ms
[./target/cljc-hello-world:10328]        image:     296.36 ms
[./target/cljc-hello-world:10328]        write:     195.80 ms
[./target/cljc-hello-world:10328]      [total]:   9,868.80 ms
Warning: Image './target/cljc-hello-world' is a fallback image that requires a JDK for execution (use --no-fallback to suppress fallback image generation).