锁定宏在Graal原生图像和ART运行时字节码验证失败

Question

Android ART在字节码上运行编译时验证，并在使用锁定宏时失败。错误看起来像CLJ-1829中看到的那样（在这种情况下，clojure.core.server/stop-server调用锁定宏）

10-16 14:49:26.801 2008-2008/? E/AndroidRuntime: java.lang.VerifyError: 拒绝加载类clojure.core.server$stop_server，因为它在编译时验证中失败（'clojure.core.server$stop_server'的声明出现在/data/app/com.clojure_on_android-1/base.apk中)

原因：从Android问题讨论（https://code.google.com/p/android/issues/detail?id=80823），这似乎是由于JVM规范中更严格地强制执行“结构锁定”规定（《https://docs.oracle.com/javase/specs/jvms/se7/html/jvms-2.html#jvms-2.11.10》）。

似乎，monitor-enter、monitor-exit和try/finally块在locking中的组合为ART标记为不平衡的monitorenter/monitorexit字节码路径。特别是，monitorenter和monitorexit本身可以抛出异常（对null锁定对象的操作）。Java字节码对这些情况进行了一些复杂的异常表处理，但据我所知，没有修改Clojure编译器就无法做到这一点。

方法：一种可能的方法是让 locking 在 Java 的 synchronized 块的上下文中调用传入的 body。这通过将问题交给 Java 而避免了复杂的字节码问题，但可能存在未知的性能影响。

补丁：clj-1472-3.patch

另请参阅：将字节码与 java synchronized 块进行比较显示出许多差异
https://gist.github.com/AdamClements/2ae6c4919964b71eb470

由：Alex Miller - 我认为这是一个可行的方案，可以解决问题，鉴于它的使用频率不高，我对它可能成为性能问题并不担心。我将标记这作为一个我认为另一条处理路径是将 locking 做为一个具有编译器支持的特殊形式的方法，但我不确定是否值得这样做，所以我会留给 Rich 决定。

Answer 1

评论者：eraserhd

使用 clj-1472-3.patch，我有时可以得到构建工作。其他时候我会遇到这个错误

`
致命错误：com.oracle.svm.core.util.VMError$HostedError：必须是不变对象的对象具有可重定位指针

    at com.oracle.svm.core.util.VMError.guarantee(VMError.java:85)                                                      
    at com.oracle.svm.hosted.image.NativeImageHeap.choosePartition(NativeImageHeap.java:492)                            
    at com.oracle.svm.hosted.image.NativeImageHeap.addObjectToBootImageHeap(NativeImageHeap.java:451)                   
    at com.oracle.svm.hosted.image.NativeImageHeap.addObject(NativeImageHeap.java:271)                                  
    at com.oracle.svm.hosted.image.NativeImageCodeCache.addConstantToHeap(NativeImageCodeCache.java:369)                
    at com.oracle.svm.hosted.image.NativeImageCodeCache.addConstantsToHeap(NativeImageCodeCache.java:356)               
    at com.oracle.svm.hosted.NativeImageGenerator.doRun(NativeImageGenerator.java:882)                                  
    at com.oracle.svm.hosted.NativeImageGenerator.lambda$run$0(NativeImageGenerator.java:401)                           
    at java.util.concurrent.ForkJoinTask$AdaptedRunnableAction.exec(ForkJoinTask.java:1386)                             
    at java.util.concurrent.ForkJoinTask.doExec(ForkJoinTask.java:289)                                                  
    at java.util.concurrent.ForkJoinPool$WorkQueue.runTask(ForkJoinPool.java:1056)                                      
    at java.util.concurrent.ForkJoinPool.runWorker(ForkJoinPool.java:1692)                                              
    at java.util.concurrent.ForkJoinWorkerThread.run(ForkJoinWorkerThread.java:157)                                     

`

我使用 Graal rc10，我找到的最简代码能够产生这个错误是

`
(ns rep.core
(:gen-class))

(defn- foo [s]
(locking s

42))

(defn -main
[& args]
(foo))
`

在非参数对象上锁定可以解决这个问题。

这看起来可能是 Graal 的问题，所以我将在这里报告它。

Answer 2

评论者：alexmiller

好的，请更新。在下一个可能包含此问题的版本发布之前，我们可能有很长的一段时间，所以得到更多的反馈是很好的。

Answer 3

评论者：bronsa

如果可能的话，我将反对将locking转换为一个新的特殊形式。这会使任何分析相关库向前不兼容，并可能导致在依赖项升级时出现问题。

Answer 4

评论者：eraserhd

在使用 Graal VM rc11（刚刚发布）时，clj-1472-3.patch 无问题工作。

Answer 5

评论者：jare

当我从 Clojure 1.9 迁移到 1.10 时，开始遇到此错误
最小重现示例如下：

`
(ns clj10-graal-repro.core
(:require [clojure.spec.alpha :as s])
(:gen-class))

(s/def ::foo (s/coll-of string?))

(defn -main
[& args]
(println (s/valid? ::foo ["bar"]))
(println clojure-version))
`

我认为问题在于Clojure 1.10依赖于spec.alpha 0.2.176版本，该版本（链接：https://github.com/clojure/spec.alpha/commit/31165fec69ff86129a1ada8b3f50864922dfc88a 文字：使用了锁定机制）

更多细节请参考CLJ-2482

Answer 6

评论由：gshayban 发表

我已经添加了一个补丁（链接：^CLJ-1472-reentrant-finally.patch），使得锁定宏发出的控制流与javac发出的synchronized块完全相同。这需要编译器的某些帮助。

针对以下代码

synchronized (o) { int i = 400L; }

javac 输出

0: aload_0

   1: dup
   2: astore_1
   3: monitorenter
   4: ldc2_w        #7           // BEGIN TRY       // long 400l
   7: lstore_2
   8: aload_1
   9: monitorexit               // END TRY
  10: goto          20           // GOTO RET
  13: astore        4         // BEGIN FINALLY
  15: aload_1                     // store exception
  16: monitorexit           // END FINALLY
  17: aload         4             // rethrow
  19: athrow
  20: return
Exception table:
   from    to  target type
       4    10    13   any
      13    17    13   any

注意

1. finally 块是其自己的异常处理程序在异常表中
2. monitorenter 在try体区域外
3. 如往常一样，finally体被复制到try体中（就像在正常的TryExpr中一样）

我使用带此补丁的Clojure在Graal 19.0.2上进行了测试，通过AOT编译上一个评论的示例，然后调用Graal

native-image -cp src:clojure.jar --initialize-at-build-time=clojure --no-server -H:+ReportUnsupportedElementsAtRuntime --no-fallback clj10_graal_repro.core

它成功生成了一个在编译过程中无错误的二进制文件。然而，Graal用户会发现这个二进制文件无法运行
无法找到clojure/core/server__init.class

可能是因为Clojure 1.10.1延迟了clojure.core.server和用户的初始化

Answer 7

评论由：gshayban 发表

这对于native-image用户来说似乎很有希望

https://github.com/oracle/graal/blob/master/substratevm/CONFIGURE.md

https://github.com/wololock/graalvm-groovy-examples/blob/master/hello-world/compile.sh

Answer 8

评论由：gshayban 发表

那个补丁以微妙的方式出问题了 -- 正在修复。

Answer 9

评论由：gshayban 发表

(链接：^CLJ-1472-reentrant-finally2.patch)

Answer 10

参考：https://clojure.atlassian.net/browse/CLJ-1472（由adamclements报告）

Answer 11

你好，

我在一个使用Clojure Spec的项目中遇到了这个问题。我制作了一个简单的项目来复现这个问题： https://github.com/alzadude/cljc-hello-world/tree/graalvm-spec-issue

我尝试使用应用了Clojure补丁的Graal native-image来创建一个可工作的二进制文件。然而，当我使用修改过的Clojure jar时，我仍然得到“未平衡监视器”错误。我犯了什么错误？

谢谢！

1 使用补丁构建clojure

cd /mnt/d/Projects/clojure
patch -p1 < /mnt/c/Users/alex/Downloads/CLJ-1472-reentrant-finally2.patch
mvn clean
mvn -Plocal install -Dmaven.test.skip=true

2 尝试使用clj/deps.edn创建Graalvm本地镜像

cd /mnt/d/Projects/cljc-hello-world
GRAALVM_HOME=/usr/local/graalvm-ce-19.2.0.1/ clojure -Anative-image

即使应用了补丁，我仍然得到“未平衡监视器”错误

Cleaning target
Creating target/classes
  Compiling hello-world.core
Creating target/cljc-hello-world
ERROR! Warning: Aborting stand-alone image build. unbalanced monitors: mismatch at monitorexit, 96|LoadField#lockee__5436__auto__ != 3|LoadField#lockee__5436__auto__
Detailed message:
Call path from entry point to clojure.spec.gen.alpha$dynaload$fn__2628.invoke():
        at clojure.spec.gen.alpha$dynaload$fn__2628.invoke(alpha.clj:21)
        at clojure.lang.AFn.run(AFn.java:22)
        at java.lang.Thread.run(Thread.java:748)
        at com.oracle.svm.core.thread.JavaThreads.threadStartRoutine(JavaThreads.java:460)
        at com.oracle.svm.core.posix.thread.PosixJavaThreads.pthreadStartRoutine(PosixJavaThreads.java:193)
        at com.oracle.svm.core.code.IsolateEnterStub.PosixJavaThreads_pthreadStartRoutine_e1f4a8c0039f8337338252cd8734f63a79b5e3df(generated:0)

Warning: Use -H:+ReportExceptionStackTraces to print stacktrace of underlying exception
Warning: Image 'target/cljc-hello-world' is a fallback image that requires a JDK for execution (use --no-fallback to suppress fallback image generation).

3 尝试使用native-image和显式类路径创建Graalvm本地镜像，以排除deps.edn/cambada等问题

cd /mnt/d/Projects/cljc-hello-world
clojure -Auberjar
/usr/local/graalvm-ce-19.2.0.1/bin/native-image --class-path ../clojure/target/clojure-1.11.0-master-SNAPSHOT.jar --report-unsupported-elements-at-runtime --initialize-at-build-time -jar ./target/cljc-hello-world-1.0.0-SNAPSHOT-standalone.jar -H:Name=./target/cljc-hello-world

我仍然得到“未平衡监视器”错误

Build on Server(pid: 10328, port: 64314)*
[./target/cljc-hello-world:10328]    classlist:   5,817.52 ms
[./target/cljc-hello-world:10328]        (cap):   2,576.68 ms
[./target/cljc-hello-world:10328]        setup:   3,923.40 ms
[./target/cljc-hello-world:10328]     analysis:  11,800.59 ms
Warning: Aborting stand-alone image build. unbalanced monitors: mismatch at monitorexit, 96|LoadField#lockee__5436__auto__ != 3|LoadField#lockee__5436__auto__
Detailed message:
Call path from entry point to clojure.spec.gen.alpha$dynaload$fn__2628.invoke():
        at clojure.spec.gen.alpha$dynaload$fn__2628.invoke(alpha.clj:21)
        at clojure.lang.AFn.run(AFn.java:22)
        at java.lang.Thread.run(Thread.java:748)
        at com.oracle.svm.core.thread.JavaThreads.threadStartRoutine(JavaThreads.java:460)
        at com.oracle.svm.core.posix.thread.PosixJavaThreads.pthreadStartRoutine(PosixJavaThreads.java:193)
        at com.oracle.svm.core.code.IsolateEnterStub.PosixJavaThreads_pthreadStartRoutine_e1f4a8c0039f8337338252cd8734f63a79b5e3df(generated:0)

Warning: Use -H:+ReportExceptionStackTraces to print stacktrace of underlying exception
Build on Server(pid: 10328, port: 64314)
[./target/cljc-hello-world:10328]    classlist:     217.19 ms
[./target/cljc-hello-world:10328]        (cap):   1,244.81 ms
[./target/cljc-hello-world:10328]        setup:   1,535.89 ms
[./target/cljc-hello-world:10328]   (typeflow):   1,309.40 ms
[./target/cljc-hello-world:10328]    (objects):   1,430.65 ms
[./target/cljc-hello-world:10328]   (features):     120.57 ms
[./target/cljc-hello-world:10328]     analysis:   2,906.19 ms
[./target/cljc-hello-world:10328]     (clinit):      88.70 ms
[./target/cljc-hello-world:10328]     universe:     250.93 ms
[./target/cljc-hello-world:10328]      (parse):     315.62 ms
[./target/cljc-hello-world:10328]     (inline):     739.40 ms
[./target/cljc-hello-world:10328]    (compile):   3,100.68 ms
[./target/cljc-hello-world:10328]      compile:   4,401.60 ms
[./target/cljc-hello-world:10328]        image:     296.36 ms
[./target/cljc-hello-world:10328]        write:     195.80 ms
[./target/cljc-hello-world:10328]      [total]:   9,868.80 ms
Warning: Image './target/cljc-hello-world' is a fallback image that requires a JDK for execution (use --no-fallback to suppress fallback image generation).