锁定宏在 Graal native-image 和 ART 运行时字节码验证失败

Question

Android ART 在字节码上执行编译时验证，任何锁定宏的使用都会失败。错误看起来像 CLJ-1829 中的那个（在这种情况下，clojure.core.server/stop-server 调用了锁定宏）

10-16 14:49:26.801 2008-2008/? E/AndroidRuntime: java.lang.VerifyError: 证书拒绝 class clojure.core.server$stop_server，因为它在编译时验证失败（'clojure.core.server$stop_server' 的声明出现在 /data/app/com.clojure_on_android-1/base.apk）

原因：根据Android问题讨论（https://code.google.com/p/android/issues/detail?id=80823），这可能是由于 JVM 规范中“结构锁定”规定的执行更加严格（https://docs.oracle.com/javase/specs/jvms/se7/html/jvms-2.html#jvms-2.11.10）。

似乎在 locking 中的 monitor-enter、monitor-exit 和 try/finally 块的混合创建了一些 ART 标记为不平衡 monitorenter/monitorexit 字节码的路径。特别是，monitorenter 和 monitorexit 本身可以抛出（在 null 锁定对象上）。Java 字节码对这些情况执行了一些复杂的异常表处理，这（据我所知）不可能在不修改 Clojure 编译器的情况下完成。

方法：一个可能的方法是让锁定在 Java 中的同步块上下文中调用传递的体。这避免了通过交给 Java 来避免复杂的字节码的问题，但性能影响尚不清楚。

补丁：clj-1472-3.patch

另请参阅：将字节码与 java synchronized 块的比较显示了一些差异
https://gist.github.com/AdamClements/2ae6c4919964b71eb470

筛选者：Alex Miller - 我将其标记为筛选，因为我认为这是一个可行的解决方案，可以修复问题。由于它使用的频率不高，我并不真正担心它是性能问题。我将指出我认为另一种处理方法是使 锁定 变成一个具有编译器支持的特形式，但我不确定这是否值得做，所以我想留给Rich来决定。

Answer 1

评论者：eraserhd

使用 clj-1472-3.patch，有时我可以让构建工作。其他时候我会得到这个错误

`
致命错误：com.oracle.svm.core.util.VMError$HostedError：具有可重定位指针的对象必须是不可变的

    at com.oracle.svm.core.util.VMError.guarantee(VMError.java:85)                                                      
    at com.oracle.svm.hosted.image.NativeImageHeap.choosePartition(NativeImageHeap.java:492)                            
    at com.oracle.svm.hosted.image.NativeImageHeap.addObjectToBootImageHeap(NativeImageHeap.java:451)                   
    at com.oracle.svm.hosted.image.NativeImageHeap.addObject(NativeImageHeap.java:271)                                  
    at com.oracle.svm.hosted.image.NativeImageCodeCache.addConstantToHeap(NativeImageCodeCache.java:369)                
    at com.oracle.svm.hosted.image.NativeImageCodeCache.addConstantsToHeap(NativeImageCodeCache.java:356)               
    at com.oracle.svm.hosted.NativeImageGenerator.doRun(NativeImageGenerator.java:882)                                  
    at com.oracle.svm.hosted.NativeImageGenerator.lambda$run$0(NativeImageGenerator.java:401)                           
    at java.util.concurrent.ForkJoinTask$AdaptedRunnableAction.exec(ForkJoinTask.java:1386)                             
    at java.util.concurrent.ForkJoinTask.doExec(ForkJoinTask.java:289)                                                  
    at java.util.concurrent.ForkJoinPool$WorkQueue.runTask(ForkJoinPool.java:1056)                                      
    at java.util.concurrent.ForkJoinPool.runWorker(ForkJoinPool.java:1692)                                              
    at java.util.concurrent.ForkJoinWorkerThread.run(ForkJoinWorkerThread.java:157)                                     

`

我在Graal rc10上，我能找到生成错误的简单代码是

`
(ns rep.core
(:gen-class))

(defn- foo [s]
(locking s

42))

(defn -main
[& args]
(foo))
`

在非参数（如变量）上锁定可以绕过这个问题。

这看起来可能是一个Graal问题，所以我会在那里报告它。

Answer 2

评论者：alexmiller

好的，请更新。在下一次发布之前，我们可能还有很长一段时间才能包括这个问题，所以得到更多反馈是好的。

Answer 3

评论者：bronsa

如果可能，我会反对将 锁定 转换为新的特形式。这将使任何分析相关库向前不兼容，并可能在依赖关系升级时造成问题

Answer 4

评论者：eraserhd

使用Graal VM rc11（刚刚发布），clj-1472-3.patch无需问题。

Answer 5

由 jare 发布的评论：

从 Clojure 1.9 迁移到 1.10 后，使用 GraalVM 原生编译时开始出现此错误。
最小复制示例：

`
(ns clj10-graal-repro.core
(:require [clojure.spec.alpha :as s])
(:gen-class))

(s/def ::foo (s/coll-of string?))

(defn -main
[& args]
(println (s/valid? ::foo ["bar"]))
(println clojure-version))
`

我认为问题是 Clojure 1.10 依赖于 spec.alpha 0.2.176，它使用了锁定功能（链接：https://github.com/clojure/spec.alpha/commit/31165fec69ff86129a1ada8b3f50864922dfc88a）。

更多详情请参阅 CLJ-2482。

Answer 6

gshayban 发布的评论：

我添加了一个补丁（链接：^CLJ-1472-reentrant-finally.patch），它使得锁定宏产生与 javac 生成的 synchronized 块相同的控制流。这需要从编译器那里获得一些帮助。这是针对以下代码实现的：

synchronized (o) { int i = 400L; }

javac 输出

0: aload_0

   1: dup
   2: astore_1
   3: monitorenter
   4: ldc2_w        #7           // BEGIN TRY       // long 400l
   7: lstore_2
   8: aload_1
   9: monitorexit               // END TRY
  10: goto          20           // GOTO RET
  13: astore        4         // BEGIN FINALLY
  15: aload_1                     // store exception
  16: monitorexit           // END FINALLY
  17: aload         4             // rethrow
  19: athrow
  20: return
Exception table:
   from    to  target type
       4    10    13   any
      13    17    13   any

注释

1. finally 块是其自己的异常处理程序，位于异常表中
2. monitorenter 在 try 体外部
3. 通常，finally 体被复制到 try 体中（就像在正常的 TryExpr 中一样）

我使用修补后的 clojure 在 Graal 19.0.2 上进行了测试，通过 AOT 编译前面的复现注释，然后调用 Graal

native-image -cp src:clojure.jar --initialize-at-build-time=clojure --no-server -H:+ReportUnsupportedElementsAtRuntime --no-fallback clj10_graal_repro.core

成功产生了没有编译错误的二进制文件。然而，Graal 用户会失望地发现，二进制文件无法运行
找不到 clojure/core/server__init.class

这可能是由于 Clojure 1.10.1 延迟初始化 clojure.core.server + user 的原因

Answer 7

gshayban 发布的评论：

这对原生图像用户来说似乎很有希望

https://github.com/oracle/graal/blob/master/substratevm/CONFIGURE.md

https://github.com/wololock/graalvm-groovy-examples/blob/master/hello-world/compile.sh

Answer 8

gshayban 发布的评论：

该补丁存在一个微妙的错误 - 正在修复。

Answer 9

gshayban 发布的评论：

(链接: ^CLJ-1472-reentrant-finally2.patch)

Answer 10

参考: https://clojure.atlassian.net/browse/CLJ-1472 (由 adamclements 报告)

Answer 11

嗨，

我在使用 Clojure Spec 的项目中遇到了这个问题。我创建了一个简单的项目来复现这个问题： https://github.com/alzadude/cljc-hello-world/tree/graalvm-spec-issue

我正在尝试使用 Graal native-image 以及应用 Clojure 补丁来创建一个可工作的二进制文件。然而，当我使用修改过的 Clojure jar 时，我仍然收到“未平衡监视器”错误。我做错了什么？

谢谢！

1 使用补丁构建 clojure

cd /mnt/d/Projects/clojure
patch -p1 < /mnt/c/Users/alex/Downloads/CLJ-1472-reentrant-finally2.patch
mvn clean
mvn -Plocal install -Dmaven.test.skip=true

2 尝试使用 clj/deps.edn 创建 Graalvm 本地镜像

cd /mnt/d/Projects/cljc-hello-world
GRAALVM_HOME=/usr/local/graalvm-ce-19.2.0.1/ clojure -Anative-image

即使应用了补丁，我仍然得到“未平衡监视器”错误

Cleaning target
Creating target/classes
  Compiling hello-world.core
Creating target/cljc-hello-world
ERROR! Warning: Aborting stand-alone image build. unbalanced monitors: mismatch at monitorexit, 96|LoadField#lockee__5436__auto__ != 3|LoadField#lockee__5436__auto__
Detailed message:
Call path from entry point to clojure.spec.gen.alpha$dynaload$fn__2628.invoke():
        at clojure.spec.gen.alpha$dynaload$fn__2628.invoke(alpha.clj:21)
        at clojure.lang.AFn.run(AFn.java:22)
        at java.lang.Thread.run(Thread.java:748)
        at com.oracle.svm.core.thread.JavaThreads.threadStartRoutine(JavaThreads.java:460)
        at com.oracle.svm.core.posix.thread.PosixJavaThreads.pthreadStartRoutine(PosixJavaThreads.java:193)
        at com.oracle.svm.core.code.IsolateEnterStub.PosixJavaThreads_pthreadStartRoutine_e1f4a8c0039f8337338252cd8734f63a79b5e3df(generated:0)

Warning: Use -H:+ReportExceptionStackTraces to print stacktrace of underlying exception
Warning: Image 'target/cljc-hello-world' is a fallback image that requires a JDK for execution (use --no-fallback to suppress fallback image generation).

3 尝试使用 native-image 和显式类路径创建 Graalvm 本地镜像，以排除 deps.edn/cambada 等问题

cd /mnt/d/Projects/cljc-hello-world
clojure -Auberjar
/usr/local/graalvm-ce-19.2.0.1/bin/native-image --class-path ../clojure/target/clojure-1.11.0-master-SNAPSHOT.jar --report-unsupported-elements-at-runtime --initialize-at-build-time -jar ./target/cljc-hello-world-1.0.0-SNAPSHOT-standalone.jar -H:Name=./target/cljc-hello-world

我仍然收到“未平衡监视器”错误

Build on Server(pid: 10328, port: 64314)*
[./target/cljc-hello-world:10328]    classlist:   5,817.52 ms
[./target/cljc-hello-world:10328]        (cap):   2,576.68 ms
[./target/cljc-hello-world:10328]        setup:   3,923.40 ms
[./target/cljc-hello-world:10328]     analysis:  11,800.59 ms
Warning: Aborting stand-alone image build. unbalanced monitors: mismatch at monitorexit, 96|LoadField#lockee__5436__auto__ != 3|LoadField#lockee__5436__auto__
Detailed message:
Call path from entry point to clojure.spec.gen.alpha$dynaload$fn__2628.invoke():
        at clojure.spec.gen.alpha$dynaload$fn__2628.invoke(alpha.clj:21)
        at clojure.lang.AFn.run(AFn.java:22)
        at java.lang.Thread.run(Thread.java:748)
        at com.oracle.svm.core.thread.JavaThreads.threadStartRoutine(JavaThreads.java:460)
        at com.oracle.svm.core.posix.thread.PosixJavaThreads.pthreadStartRoutine(PosixJavaThreads.java:193)
        at com.oracle.svm.core.code.IsolateEnterStub.PosixJavaThreads_pthreadStartRoutine_e1f4a8c0039f8337338252cd8734f63a79b5e3df(generated:0)

Warning: Use -H:+ReportExceptionStackTraces to print stacktrace of underlying exception
Build on Server(pid: 10328, port: 64314)
[./target/cljc-hello-world:10328]    classlist:     217.19 ms
[./target/cljc-hello-world:10328]        (cap):   1,244.81 ms
[./target/cljc-hello-world:10328]        setup:   1,535.89 ms
[./target/cljc-hello-world:10328]   (typeflow):   1,309.40 ms
[./target/cljc-hello-world:10328]    (objects):   1,430.65 ms
[./target/cljc-hello-world:10328]   (features):     120.57 ms
[./target/cljc-hello-world:10328]     analysis:   2,906.19 ms
[./target/cljc-hello-world:10328]     (clinit):      88.70 ms
[./target/cljc-hello-world:10328]     universe:     250.93 ms
[./target/cljc-hello-world:10328]      (parse):     315.62 ms
[./target/cljc-hello-world:10328]     (inline):     739.40 ms
[./target/cljc-hello-world:10328]    (compile):   3,100.68 ms
[./target/cljc-hello-world:10328]      compile:   4,401.60 ms
[./target/cljc-hello-world:10328]        image:     296.36 ms
[./target/cljc-hello-world:10328]        write:     195.80 ms
[./target/cljc-hello-world:10328]      [total]:   9,868.80 ms
Warning: Image './target/cljc-hello-world' is a fallback image that requires a JDK for execution (use --no-fallback to suppress fallback image generation).