锁定宏在Graal原生映像和ART运行时上字节码验证失败

Question

Android ART在字节码上执行编译时验证，对于锁定宏的任何使用都会失败。错误看起来像CLJ-1829中的那样（在这种情况下，clojure.core.server/stop-server调用锁定宏）

10-16 14:49:26.801 2008-2008/? E/AndroidRuntime: java.lang.VerifyError: 限制类 clojure.core.server$stop_server，因为它在编译时验证失败（在 /data/app/com.clojure_on_android-1/base.apk 中声明了 'clojure.core.server$stop_server'）

原因：根据Android问题上的讨论（https://code.google.com/p/android/issues/detail?id=80823），这看起来是因为更加严格地执行JVM规范中的“结构化锁定”条款（https://docs.oracle.com/javase/specs/jvms/se7/html/jvms-2.html#jvms-2.11.10）。

看起来在《locking》中的monitor-enter、monitor-exit和try/finally块的组合在ART中被标记为不具有平衡的monitorenter/monitorexit字节码路径。特别是，monitorenter和monitorexit自身可以抛出（在null锁定对象上）。Java字节码执行一些复杂的异常表处理来覆盖这些情况，这对Clojure编译器来说似乎是不可能做到的。

方法：一个可能的方法是让锁定在Java的同步块上下文中调用传入的主体。这通过将其交给Java来避免棘手的字节码问题，但性能影响是未知的。

补丁：clj-1472-3.patch

另请参阅：与java synchronized块相比的字节码检查显示了多个差异
https://gist.github.com/AdamClements/2ae6c4919964b71eb470

审查人：Alex Miller - 我将此标记为已审查，因为这看起来是一个可行的解决方案，可以修复此问题，并且鉴于其使用频率较低，我认为这不是一个真正的问题。我认为另一种处理方法是使 locking 成为具有编译器支持的特例形式，但我不确定这是否值得做，所以我将留给Rich来决定。

Answer 1

评论者：eraserhd

使用clj-1472-3.patch，有时可以构建工作。其他时候我得到以下错误

`
致命错误：com.oracle.svm.core.util.VMError$HostedError：具有可重定位指针的必须不可变的对象

    at com.oracle.svm.core.util.VMError.guarantee(VMError.java:85)                                                      
    at com.oracle.svm.hosted.image.NativeImageHeap.choosePartition(NativeImageHeap.java:492)                            
    at com.oracle.svm.hosted.image.NativeImageHeap.addObjectToBootImageHeap(NativeImageHeap.java:451)                   
    at com.oracle.svm.hosted.image.NativeImageHeap.addObject(NativeImageHeap.java:271)                                  
    at com.oracle.svm.hosted.image.NativeImageCodeCache.addConstantToHeap(NativeImageCodeCache.java:369)                
    at com.oracle.svm.hosted.image.NativeImageCodeCache.addConstantsToHeap(NativeImageCodeCache.java:356)               
    at com.oracle.svm.hosted.NativeImageGenerator.doRun(NativeImageGenerator.java:882)                                  
    at com.oracle.svm.hosted.NativeImageGenerator.lambda$run$0(NativeImageGenerator.java:401)                           
    at java.util.concurrent.ForkJoinTask$AdaptedRunnableAction.exec(ForkJoinTask.java:1386)                             
    at java.util.concurrent.ForkJoinTask.doExec(ForkJoinTask.java:289)                                                  
    at java.util.concurrent.ForkJoinPool$WorkQueue.runTask(ForkJoinPool.java:1056)                                      
    at java.util.concurrent.ForkJoinPool.runWorker(ForkJoinPool.java:1692)                                              
    at java.util.concurrent.ForkJoinWorkerThread.run(ForkJoinWorkerThread.java:157)                                     

`

我使用的是Graal rc10，能够引起这个错误的最简代码如下

`
(ns rep.core
(:gen-class))

(defn- foo [s]
(locking s

42))

(defn -main
[& args]
(foo))
`

锁定在非参数，如var，上可以绕过这个问题。

这可能是一个Graal问题，所以我会在那里报告它。

Answer 2

_评论者：alexmiller_

好的，请更新。在下一次发布之前，我们可能还需要一段时间才能包含这个功能，因此及时获得更多反馈是很好的。

Answer 3

评论者：bronsa

如果可能的话，我会反对将locking变为新的特殊形式。这会使任何分析相关库向前不兼容，并在依赖升级中造成困扰

Answer 4

评论者：eraserhd

使用Graal VM rc11（刚刚发布），clj-1472-3.patch无问题地工作。

Answer 5

评论者：jare

从Clojure 1.9迁移到1.10后，开始在使用GraalVM原生编译时遇到这个错误。
最小复现示例：

`
(ns clj10-graal-repro.core
(:require [clojure.spec.alpha :as s])
(:gen-class))

(s/def ::foo (s/coll-of string?))

(defn -main
[& args]
(println (s/valid? ::foo ["bar"]))
(println *clojure-version*))
`

我认为问题在于Clojure 1.10依赖于spec.alpha 0.2.176，该版本使用锁定（链接：https://github.com/clojure/spec.alpha/commit/31165fec69ff86129a1ada8b3f50864922dfc88a）。

更多详细信息请参阅CLJ-2482。

Answer 6

评论由：gshayban 发布

我添加了一个补丁（链接：^CLJ-1472-reentrant-finally.patch），它使锁定宏产生与javac产生的synchronized块完全相同的控制流。这需要来自编译器的某些帮助。

针对以下代码：

synchronized (o) { int i = 400L; }

javac 输出

0: aload_0

   1: dup
   2: astore_1
   3: monitorenter
   4: ldc2_w        #7           // BEGIN TRY       // long 400l
   7: lstore_2
   8: aload_1
   9: monitorexit               // END TRY
  10: goto          20           // GOTO RET
  13: astore        4         // BEGIN FINALLY
  15: aload_1                     // store exception
  16: monitorexit           // END FINALLY
  17: aload         4             // rethrow
  19: athrow
  20: return
Exception table:
   from    to  target type
       4    10    13   any
      13    17    13   any

注意

1. finally块是其自己的异常处理程序，在异常表中
2. monitorenter位于try体外部
3. 通常，finally体被复制到try体（就像在正常的TryExpr中一样）

我在Graal 19.0.2上测试了带有此补丁的clojure，通过AOT编译之前的示例，然后调用Graal

native-image -cp src:clojure.jar --initialize-at-build-time=clojure --no-server -H:+ReportUnsupportedElementsAtRuntime --no-fallback clj10_graal_repro.core

它成功产生了没有错误的二进制文件。然而，Graal用户将会很高兴地发现，这个二进制文件无法运行
找不到clojure/core/server__init.class

可能是因为Clojure 1.10.1延迟初始化clojure.core.server + user

Answer 7

评论由：gshayban 发布

这对native-image用户来说似乎是很有希望的

https://github.com/oracle/graal/blob/master/substratevm/CONFIGURE.md

https://github.com/wololock/graalvm-groovy-examples/blob/master/hello-world/compile.sh

Answer 8

评论由：gshayban 发布

这个补丁在一些微妙的方式上是要失败的 -- 解决它。

Answer 9

评论由：gshayban 发布

(链接：^CLJ-1472-reentrant-finally2.patch }

Answer 10

参考： https://clojure.atlassian.net/browse/CLJ-1472 （由adamclements报告）

Answer 11

你好,

我在使用 Clojure Spec 的一个项目中遇到了这个问题。我创建了一个简单的项目来重现这个问题： https://github.com/alzadude/cljc-hello-world/tree/graalvm-spec-issue

我正在尝试使用 Graal native-image 功能并应用 Clojure 补丁来创建一个可工作的二进制文件。然而，当使用修补过的 Clojure jar 文件时，我仍然收到“不平衡的监视器”错误。我错在哪里了？

谢谢！

1 使用补丁构建 Clojure

cd /mnt/d/Projects/clojure
patch -p1 < /mnt/c/Users/alex/Downloads/CLJ-1472-reentrant-finally2.patch
mvn clean
mvn -Plocal install -Dmaven.test.skip=true

2 使用 clj/deps.edn 尝试创建 Graalvm 原生镜像

cd /mnt/d/Projects/cljc-hello-world
GRAALVM_HOME=/usr/local/graalvm-ce-19.2.0.1/ clojure -Anative-image

即使应用了补丁，我仍然收到“不平衡的监视器”错误

Cleaning target
Creating target/classes
  Compiling hello-world.core
Creating target/cljc-hello-world
ERROR! Warning: Aborting stand-alone image build. unbalanced monitors: mismatch at monitorexit, 96|LoadField#lockee__5436__auto__ != 3|LoadField#lockee__5436__auto__
Detailed message:
Call path from entry point to clojure.spec.gen.alpha$dynaload$fn__2628.invoke():
        at clojure.spec.gen.alpha$dynaload$fn__2628.invoke(alpha.clj:21)
        at clojure.lang.AFn.run(AFn.java:22)
        at java.lang.Thread.run(Thread.java:748)
        at com.oracle.svm.core.thread.JavaThreads.threadStartRoutine(JavaThreads.java:460)
        at com.oracle.svm.core.posix.thread.PosixJavaThreads.pthreadStartRoutine(PosixJavaThreads.java:193)
        at com.oracle.svm.core.code.IsolateEnterStub.PosixJavaThreads_pthreadStartRoutine_e1f4a8c0039f8337338252cd8734f63a79b5e3df(generated:0)

Warning: Use -H:+ReportExceptionStackTraces to print stacktrace of underlying exception
Warning: Image 'target/cljc-hello-world' is a fallback image that requires a JDK for execution (use --no-fallback to suppress fallback image generation).

3 使用 native-image 和显式类路径尝试创建 Graalvm 原生镜像，以排除 deps.edn/cambada 等问题

cd /mnt/d/Projects/cljc-hello-world
clojure -Auberjar
/usr/local/graalvm-ce-19.2.0.1/bin/native-image --class-path ../clojure/target/clojure-1.11.0-master-SNAPSHOT.jar --report-unsupported-elements-at-runtime --initialize-at-build-time -jar ./target/cljc-hello-world-1.0.0-SNAPSHOT-standalone.jar -H:Name=./target/cljc-hello-world

我仍然收到“不平衡的监视器”错误

Build on Server(pid: 10328, port: 64314)*
[./target/cljc-hello-world:10328]    classlist:   5,817.52 ms
[./target/cljc-hello-world:10328]        (cap):   2,576.68 ms
[./target/cljc-hello-world:10328]        setup:   3,923.40 ms
[./target/cljc-hello-world:10328]     analysis:  11,800.59 ms
Warning: Aborting stand-alone image build. unbalanced monitors: mismatch at monitorexit, 96|LoadField#lockee__5436__auto__ != 3|LoadField#lockee__5436__auto__
Detailed message:
Call path from entry point to clojure.spec.gen.alpha$dynaload$fn__2628.invoke():
        at clojure.spec.gen.alpha$dynaload$fn__2628.invoke(alpha.clj:21)
        at clojure.lang.AFn.run(AFn.java:22)
        at java.lang.Thread.run(Thread.java:748)
        at com.oracle.svm.core.thread.JavaThreads.threadStartRoutine(JavaThreads.java:460)
        at com.oracle.svm.core.posix.thread.PosixJavaThreads.pthreadStartRoutine(PosixJavaThreads.java:193)
        at com.oracle.svm.core.code.IsolateEnterStub.PosixJavaThreads_pthreadStartRoutine_e1f4a8c0039f8337338252cd8734f63a79b5e3df(generated:0)

Warning: Use -H:+ReportExceptionStackTraces to print stacktrace of underlying exception
Build on Server(pid: 10328, port: 64314)
[./target/cljc-hello-world:10328]    classlist:     217.19 ms
[./target/cljc-hello-world:10328]        (cap):   1,244.81 ms
[./target/cljc-hello-world:10328]        setup:   1,535.89 ms
[./target/cljc-hello-world:10328]   (typeflow):   1,309.40 ms
[./target/cljc-hello-world:10328]    (objects):   1,430.65 ms
[./target/cljc-hello-world:10328]   (features):     120.57 ms
[./target/cljc-hello-world:10328]     analysis:   2,906.19 ms
[./target/cljc-hello-world:10328]     (clinit):      88.70 ms
[./target/cljc-hello-world:10328]     universe:     250.93 ms
[./target/cljc-hello-world:10328]      (parse):     315.62 ms
[./target/cljc-hello-world:10328]     (inline):     739.40 ms
[./target/cljc-hello-world:10328]    (compile):   3,100.68 ms
[./target/cljc-hello-world:10328]      compile:   4,401.60 ms
[./target/cljc-hello-world:10328]        image:     296.36 ms
[./target/cljc-hello-world:10328]        write:     195.80 ms
[./target/cljc-hello-world:10328]      [total]:   9,868.80 ms
Warning: Image './target/cljc-hello-world' is a fallback image that requires a JDK for execution (use --no-fallback to suppress fallback image generation).