在Graal native-image和ART运行时，锁定宏无法通过字节码验证

Question

Android ART会在字节码上运行编译时验证，并在任何锁定宏的使用情况下失败。错误看起来像CLJ-1829中看到的错误（在这种情况下，clojure.core.server/stop-server调用了锁定宏）

10-16 14:49:26.801 2008-2008/? E/AndroidRuntime: java.lang.VerifyError: Rejecting class clojure.core.server$stop_server because it failed compile-time verification (declaration of 'clojure.core.server$stop_server' appears in /data/app/com.clojure_on_android-1/base.apk)

原因：从Android问题讨论（https://code.google.com/p/android/issues/detail?id=80823），这可能是由于对JVM规范中“结构化锁定”规定的执行更为严格（https://docs.oracle.com/javase/specs/jvms/se7/html/jvms-2.html#jvms-2.11.10）。

似乎在locking中的monitor-enter、monitor-exit和try/finally块的组合中，ART会将其标注为没有平衡monitorenter/monitorexit字节码的路径。特别是，monitorenter和monitorexit本身可能会抛出异常（针对null锁定对象）。Java字节码进行了一些复杂的异常表处理以覆盖这些情况，这在没有修改Clojure编译器的情况下似乎是不可能的。

方法：一种可能的方法是让锁定在Java的synchronized块上下文中调用传递的body。这通过将问题交给Java来避免了复杂的字节码问题，但对其性能的影响未知。

补丁：clj-1472-3.patch

另请参阅：与Java synchronized块的比较显示了一些差异
https://gist.github.com/AdamClements/2ae6c4919964b71eb470

审核人：Alex Miller - 我认为这是一个可行的方案，可以解决问题，由于它的使用频率不高，因此我并不太担心它的性能问题。我将指出，我认为将其实现为具有编译器支持的特殊形式的locking可能是一种处理方式，但我不确定这是否值得这样做，因此我将留由Rich来决定。

Answer 1

评论由：eraserhd

使用clj-1472-3.patch，有时我可以使构建工作。有时我得到这个错误

`
致命错误：com.oracle.svm.core.util.VMError$HostedError：具有可重定位指针的对象必须是不可变的

    at com.oracle.svm.core.util.VMError.guarantee(VMError.java:85)                                                      
    at com.oracle.svm.hosted.image.NativeImageHeap.choosePartition(NativeImageHeap.java:492)                            
    at com.oracle.svm.hosted.image.NativeImageHeap.addObjectToBootImageHeap(NativeImageHeap.java:451)                   
    at com.oracle.svm.hosted.image.NativeImageHeap.addObject(NativeImageHeap.java:271)                                  
    at com.oracle.svm.hosted.image.NativeImageCodeCache.addConstantToHeap(NativeImageCodeCache.java:369)                
    at com.oracle.svm.hosted.image.NativeImageCodeCache.addConstantsToHeap(NativeImageCodeCache.java:356)               
    at com.oracle.svm.hosted.NativeImageGenerator.doRun(NativeImageGenerator.java:882)                                  
    at com.oracle.svm.hosted.NativeImageGenerator.lambda$run$0(NativeImageGenerator.java:401)                           
    at java.util.concurrent.ForkJoinTask$AdaptedRunnableAction.exec(ForkJoinTask.java:1386)                             
    at java.util.concurrent.ForkJoinTask.doExec(ForkJoinTask.java:289)                                                  
    at java.util.concurrent.ForkJoinPool$WorkQueue.runTask(ForkJoinPool.java:1056)                                      
    at java.util.concurrent.ForkJoinPool.runWorker(ForkJoinPool.java:1692)                                              
    at java.util.concurrent.ForkJoinWorkerThread.run(ForkJoinWorkerThread.java:157)                                     

`

我正在使用Graal rc10，而我能找到的最短的生成该错误的代码是

`
(ns rep.core
(:gen-class))

(defn- foo [s]
(locking s

42))

(defn -main
[& args]
(foo))
`

将锁放在非参数对象上可以解决该问题。

这似乎可能是Graal的问题，所以我会在那里报告。

Answer 2

`_评论由：alexmiller_

好的，请更新。我们可能还要一段时间才能发布下一个可能包含此错误的新版本，所以获取更多反馈会很好。

Answer 3

评论由：bronsa

如果可能的话，我会反对将locking变成一个新特殊的表单。这会使任何与分析相关的库不再向前兼容，并且可能在依赖关系升级时造成痛苦

Answer 4

评论由：eraserhd

使用Graal VM rc11（刚刚发布），clj-1472-3.patch可无问题使用。

Answer 5

评论由：jare

从Clojure 1.9迁移到1.10时，我开始在GraalVM原生编译中获得这个错误。
最小复现是

`
(ns clj10-graal-repro.core
(:require [clojure.spec.alpha :as s])
(:gen-class))

(s/def ::foo (s/coll-of string?))

(defn -main
[& args]
(println (s/valid? ::foo ["bar"]))
(println clojure-version))
`

我认为问题在于Clojure 1.10 依赖于spec.alpha 0.2.176版本，该版本（链接：https://github.com/clojure/spec.alpha/commit/31165fec69ff86129a1ada8b3f50864922dfc88a 文本：使用锁）。

更多详情见CLJ-2482。

Answer 6

评论者：gshayban

我已经添加了一个补丁（链接：^CLJ-1472-reentrant-finally.patch），该补丁使得锁定宏产生的控制流与javac发出的synchronized块完全相同。这需要编译器的某些帮助。

针对此代码：

synchronized (o) { int i = 400L; }

javac 输出

0: aload_0

   1: dup
   2: astore_1
   3: monitorenter
   4: ldc2_w        #7           // BEGIN TRY       // long 400l
   7: lstore_2
   8: aload_1
   9: monitorexit               // END TRY
  10: goto          20           // GOTO RET
  13: astore        4         // BEGIN FINALLY
  15: aload_1                     // store exception
  16: monitorexit           // END FINALLY
  17: aload         4             // rethrow
  19: athrow
  20: return
Exception table:
   from    to  target type
       4    10    13   any
      13    17    13   any

注意

1. finally块是其自身的异常处理器，在异常表中
2. monitorenter位于try体外部区域
3. 通常，finally体被复制到try体中（就像在正常TryExpr中一样）

我在Graal 19.0.2上测试了这个补丁，通过将前一个评论的复现进行AOT编译，然后调用Graal

native-image -cp src:clojure.jar --initialize-at-build-time=clojure --no-server -H:+ReportUnsupportedElementsAtRuntime --no-fallback clj10_graal_repro.core

成功生成了没有错误的可执行二进制文件，然而，Graal用户将会大失所望，因为二进制文件无法运行
无法找到 clojure/core/server__init.class

可能是因为Clojure 1.10.1延迟了 clojure.core.server 和用户的初始化

Answer 7

评论者：gshayban

这对于希望使用native-image的用户来说似乎很有希望

https://github.com/oracle/graal/blob/master/substratevm/CONFIGURE.md

https://github.com/wololock/graalvm-groovy-examples/blob/master/hello-world/compile.sh

Answer 8

评论者：gshayban

那个补丁以微妙的方式失败了 —— 正在修复。

Answer 9

评论者：gshayban

（链接：^CLJ-1472-reentrant-finally2.patch）

Answer 10

参考：https://clojure.atlassian.net/browse/CLJ-1472（由adamclements报告）

Answer 11

嗨 there,

我在使用Clojure Spec的一个项目中遇到了这个问题。我创建了一个简单的项目来重现这个问题：https://github.com/alzadude/cljc-hello-world/tree/graalvm-spec-issue

我正在尝试使用Graal native-image与Clojure补丁结合来创建一个可执行的二进制文件。但是，当我使用修复过的Clojure jar包时，我仍然收到“未平衡的监视器”错误。我哪里做错了？

谢谢！

1 修复Clojure以应用补丁

cd /mnt/d/Projects/clojure
patch -p1 < /mnt/c/Users/alex/Downloads/CLJ-1472-reentrant-finally2.patch
mvn clean
mvn -Plocal install -Dmaven.test.skip=true

2 使用clj/deps.edn尝试创建Graalvm原生图像

cd /mnt/d/Projects/cljc-hello-world
GRAALVM_HOME=/usr/local/graalvm-ce-19.2.0.1/ clojure -Anative-image

即使在应用了补丁之后，我仍然得到“未平衡的监视器”错误

Cleaning target
Creating target/classes
  Compiling hello-world.core
Creating target/cljc-hello-world
ERROR! Warning: Aborting stand-alone image build. unbalanced monitors: mismatch at monitorexit, 96|LoadField#lockee__5436__auto__ != 3|LoadField#lockee__5436__auto__
Detailed message:
Call path from entry point to clojure.spec.gen.alpha$dynaload$fn__2628.invoke():
        at clojure.spec.gen.alpha$dynaload$fn__2628.invoke(alpha.clj:21)
        at clojure.lang.AFn.run(AFn.java:22)
        at java.lang.Thread.run(Thread.java:748)
        at com.oracle.svm.core.thread.JavaThreads.threadStartRoutine(JavaThreads.java:460)
        at com.oracle.svm.core.posix.thread.PosixJavaThreads.pthreadStartRoutine(PosixJavaThreads.java:193)
        at com.oracle.svm.core.code.IsolateEnterStub.PosixJavaThreads_pthreadStartRoutine_e1f4a8c0039f8337338252cd8734f63a79b5e3df(generated:0)

Warning: Use -H:+ReportExceptionStackTraces to print stacktrace of underlying exception
Warning: Image 'target/cljc-hello-world' is a fallback image that requires a JDK for execution (use --no-fallback to suppress fallback image generation).

3 使用native-image和显式类路径创建Graalvm原生图像，以排除deps.edn/cambada等问题

cd /mnt/d/Projects/cljc-hello-world
clojure -Auberjar
/usr/local/graalvm-ce-19.2.0.1/bin/native-image --class-path ../clojure/target/clojure-1.11.0-master-SNAPSHOT.jar --report-unsupported-elements-at-runtime --initialize-at-build-time -jar ./target/cljc-hello-world-1.0.0-SNAPSHOT-standalone.jar -H:Name=./target/cljc-hello-world

我还是收到“未平衡的监视器”错误

Build on Server(pid: 10328, port: 64314)*
[./target/cljc-hello-world:10328]    classlist:   5,817.52 ms
[./target/cljc-hello-world:10328]        (cap):   2,576.68 ms
[./target/cljc-hello-world:10328]        setup:   3,923.40 ms
[./target/cljc-hello-world:10328]     analysis:  11,800.59 ms
Warning: Aborting stand-alone image build. unbalanced monitors: mismatch at monitorexit, 96|LoadField#lockee__5436__auto__ != 3|LoadField#lockee__5436__auto__
Detailed message:
Call path from entry point to clojure.spec.gen.alpha$dynaload$fn__2628.invoke():
        at clojure.spec.gen.alpha$dynaload$fn__2628.invoke(alpha.clj:21)
        at clojure.lang.AFn.run(AFn.java:22)
        at java.lang.Thread.run(Thread.java:748)
        at com.oracle.svm.core.thread.JavaThreads.threadStartRoutine(JavaThreads.java:460)
        at com.oracle.svm.core.posix.thread.PosixJavaThreads.pthreadStartRoutine(PosixJavaThreads.java:193)
        at com.oracle.svm.core.code.IsolateEnterStub.PosixJavaThreads_pthreadStartRoutine_e1f4a8c0039f8337338252cd8734f63a79b5e3df(generated:0)

Warning: Use -H:+ReportExceptionStackTraces to print stacktrace of underlying exception
Build on Server(pid: 10328, port: 64314)
[./target/cljc-hello-world:10328]    classlist:     217.19 ms
[./target/cljc-hello-world:10328]        (cap):   1,244.81 ms
[./target/cljc-hello-world:10328]        setup:   1,535.89 ms
[./target/cljc-hello-world:10328]   (typeflow):   1,309.40 ms
[./target/cljc-hello-world:10328]    (objects):   1,430.65 ms
[./target/cljc-hello-world:10328]   (features):     120.57 ms
[./target/cljc-hello-world:10328]     analysis:   2,906.19 ms
[./target/cljc-hello-world:10328]     (clinit):      88.70 ms
[./target/cljc-hello-world:10328]     universe:     250.93 ms
[./target/cljc-hello-world:10328]      (parse):     315.62 ms
[./target/cljc-hello-world:10328]     (inline):     739.40 ms
[./target/cljc-hello-world:10328]    (compile):   3,100.68 ms
[./target/cljc-hello-world:10328]      compile:   4,401.60 ms
[./target/cljc-hello-world:10328]        image:     296.36 ms
[./target/cljc-hello-world:10328]        write:     195.80 ms
[./target/cljc-hello-world:10328]      [total]:   9,868.80 ms
Warning: Image './target/cljc-hello-world' is a fallback image that requires a JDK for execution (use --no-fallback to suppress fallback image generation).