带有ASM字节码转换的java.lang.instrument中的堆栈溢出错误

Question

我是Java代理程序和ASM字节码检测的新手。我从this UCLA tutorial那里获取了代码并使用java.lang.instrument将其用于javagent仪器。

第一个问题，ASM字节码库中是否有与javaagent工具不兼容的内容？

这是一个有点编辑形式的程序：

public class Instrumenter {
    public static void premain(String args, Instrumentation inst) throws Exception {
        Transformer tr = new Transformer();
        inst.addTransformer(tr);
    }

}

class Transformer implements ClassFileTransformer {

    public Transformer() {
    }

    @Override
    public byte[] transform( ClassLoader loader, String className, Class<?> klass, ProtectionDomain domain, byte[] klassFileBuffer ) throws IllegalClassFormatException {
        byte[] barray;
        ClassWriter cwriter = new ClassWriter(ClassWriter.COMPUTE_FRAMES);
        ClassReader creader;
        try {
            creader = new ClassReader(new ByteArrayInputStream(klassFileBuffer));
        } catch (Exception exc) {
            throw new IllegalClassFormatException(exc.getMessage());
        }
        ClassVisitor cvisitor = new ClassAdapter(cwriter);
        creader.accept(cvisitor, 0);
        barray = cwriter.toByteArray();
        return barray;
    }

}

class ClassAdapter extends ClassVisitor implements Opcodes {
    public ClassAdapter(ClassVisitor cv) {
        super(ASM7, cv);
    }


    @Override
    public MethodVisitor visitMethod( final int access, final String name, final String desc, final String signature, final String[] exceptions ) {
        this.pwriter.println(ClassAdapter.nextMethodId + "," + this.className + "#" + name);
        MethodVisitor mv = cv.visitMethod(access, name, desc, signature, exceptions);
        if (mv == null) {
            return null;
        } else {
            return new MethodAdapter(mv);
        }
    }
}

class MethodAdapter extends MethodVisitor implements Opcodes {
    public MethodAdapter(final MethodVisitor mv) {
        super(ASM7, mv);
    }

    @Override
    public void visitMethodInsn(int opcode, String owner, String name, String desc, boolean itf) {
        mv.visitFieldInsn(GETSTATIC, "java/lang/System", "err", "Ljava/io/PrintStream;");
        mv.visitLdcInsn("CALL " + name);
        mv.visitMethodInsn(INVOKEVIRTUAL, "java/io/PrintStream", "println", "(Ljava/lang/String;)V", false);
        // do call
        mv.visitMethodInsn(opcode, owner, name, desc, itf);
        mv.visitFieldInsn(Opcodes.GETSTATIC, "java/lang/System", "err", "Ljava/io/PrintStream;");
        mv.visitLdcInsn("RETURN " + name);
        mv.visitMethodInsn(Opcodes.INVOKEVIRTUAL, "java/io/PrintStream", "println", "(Ljava/lang/String;)V", false);
    }
}

所以javaagent工具适用于小程序。我尝试在DaCapo benchmark suite上运行它并抛出StackOverflowError，如下所示：

Exception: java.lang.StackOverflowError thrown from the UncaughtExceptionHandler in thread "main"

当我删除visitMethodInsn中添加的指令时，代理程序成功运行。我对此进行了一些研究，并在ASM docs about having to call MethodVisitor.visitMaxs中找到了一些东西。这似乎是StackOverflowError最可能的原因。

进一步的问题：

• 是这样的吗？我是否必须在某个时候致电visitMaxs？如果是的话，在哪里？
• 如果没有，那么我做错了什么？或者我应该做些什么来确保没有堆栈溢出？

Answer 1

注册ClassFileTransformer时，将为每个后续加载的类调用它。这可能包括您正在注入的打印操作本身使用的类，如果以前没有使用过这些类。您正在为每个方法调用注入print语句，包括构造函数调用，System.err.println(…)背后的操作将涉及方法调用和对象构造，因此如果这些已经过检测，它们将进入另一个打印操作，这个递归将导致StackOverflowError。

显然，安装了UncaughtExceptionHandler，它试图打印StackOverflowError，它本身以相同的方式装配，将再次导致StackOverflowError，所以错误信息读起来像“从StackOverflowError抛出的UncaughtExceptionHandler”。

您应该限制您正在检测哪些课程。例如。当loader为null时，你可能无法转换类，以排除bootstrap类加载器加载的所有类。或者您检查name参数以排除以java.开头的类。或者更详细的解决方案是增强您注入的代码，检测它何时在注入的打印操作中而不是进行递归。

顺便说一句，使用new ClassReader(klassFileBuffer)，你不需要try … catch块。此外，当您插入与您的代码一样简单的代码时，您可以使用ClassWriter.COMPUTE_MAXS而不是ClassWriter.COMPUTE_FRAMES，以避免昂贵的重新计算堆栈映射帧。由于您未向阅读器指定SKIP_FRAMES，它会将原始帧报告给编写器，ASM能够调整位置，因此插入一些简单指令时没有问题。只有在插入或删除分支或引入必须在分支中保留的变量时，才需要调整或重新计算帧。