HotSpot性能分析

The Java HotSpot Performance Engine Architecture 2011-8-17 曹旭东 ChangYou.com The Java HotSpot Performance Engine Architecture I 目录 目录.................................................................................................................................................... I 1 Introduction and Overview ......................................................................................................... 1 1.1 Java HotSpot 虚拟机——建立在坚实的基础上 ............................................................ 2 2 Java HotSpot 虚拟机架构 ........................................................................................................... 2 2.1 概述 ................................................................................................................................. 2 2.2 内存模型.......................................................................................................................... 3 2.2.1 无句柄对象 ........................................................................................................... 3 2.2.2 两字长的对象头 ................................................................................................... 3 2.2.4 反射数据也是对象 ............................................................................................... 4 2.2.5 本地线程支持，包括抢占式和多线程处理 ....................................................... 4 2.3 垃圾收集.......................................................................................................................... 4 2.3.1 背景知识 ............................................................................................................... 4 2.3.2 Java HotSpot 垃圾收集器 ..................................................................................... 5 2.3.2.1 精确性........................................................................................................ 5 2.3.2.2 分代拷贝垃圾收集 .................................................................................... 5 2.3.2.3 并行新生代垃圾收集器 ............................................................................ 6 2.3.2.4 标记压缩老年对象垃圾收集器 ................................................................ 6 2.3.2.5 CMS 收集器 ............................................................................................... 6 2.3.2.6 并行的老年代垃圾收集器 ........................................................................ 7 2.4 超快的线程同步 .............................................................................................................. 7 2.5 64 位架构 ........................................................................................................................ 7 2.6 对象包装.......................................................................................................................... 8 3 Java HotSpot 编译器 ................................................................................................................... 8 3.1 概述 ................................................................................................................................. 8 3.2 热点监测.......................................................................................................................... 9 3.3 方法 快递客服问题件处理详细方法山木方法pdf计算方法pdf华与华方法下载八字理论方法下载 内联.......................................................................................................................... 9 3.4 动态去优化.................................................................................................................... 10 3.5 Java HotSpot 客户端编译器 .......................................................................................... 10 3.6 Java HotSpot 服务器端编译器 ...................................................................................... 10 3.7 编译器优化.................................................................................................................... 11 4 Java HotSpot 虚拟机的高级特性 ............................................................................................. 11 4.1 扩展性............................................................................................................................ 12 4.2 性能 ............................................................................................................................... 12 4.3 可靠性、可用性和可服务性 ........................................................................................ 12 5 软件重用性的影响 ................................................................................................................... 13 6 小结........................................................................................................................................... 14 7 使用........................................................................................................................................... 14 8 资源........................................................................................................................................... 14 ChangYou.com The Java HotSpot Performance Engine Architecture 1 1 Introduction and Overview Java HotSpot™虚拟机是 Sun公司针对 Java平台实现的高性能虚拟机。Java HotSpot为 Java SE 平台提供了基础，为快速开发和部署商业关键应用提供了首要的解决 方案 气瓶 现场处置方案 .pdf气瓶 现场处置方案 .doc见习基地管理方案.doc关于群访事件的化解方案建筑工地扬尘治理专项方案下载 。Java SE 技术 在 Solaris、Linux、Windows 和其他经过 Java 技术授权的平台上均可使用。 图 1 Java标准版技术 Java 平台已经成为了软件开发和部署的主要选择。有了成千上万的用户和开发者的支持， Java 平台在很多方面都得到了迅速的发展：从信用卡到无线设备，从桌面应用到大型机设备 等。在 Web 方面，Java 平台也称为了部署 Web 页面 Applet、Web Service、大型商业应用等 场景的基础。 Java HotSpot 虚拟机建立在 Java 的跨平台技术支持和健壮的安全模型的支持上，拥有良 好的伸缩性、执行质量和执行性能。此外，Java HotSpot 虚拟机一直都是向后兼容的。 Java HotSpot 虚拟机几乎支持开发、部署和管理应用程序中的各个方面，在以下方面得 到应用：  IDE，包括 Java Studio Tools、NetBeans、Eclipse、IntelliJ IDEA 等；  应用服务器供应商，包括 WebLogic、WebSphere、Tomcat 等。 Sun 公司也通过制定各种工业标准，开发内部标准来不断的提升执行性能。这些改进对 客户端和服务器端的 Java 虚拟机环境都是适用的。 Java 标准版平台包含两种 Java 虚拟机的实现：  Java HotSpot 客户端虚拟机：专为加速客户端应用程序启动，并减少内存占用而进行优 化；  Java HotSpot 服务器端虚拟机：运行在服务器环境中，专为最大化程序执行速度而优化。 2 Java HotSpot 虚拟机架构 1.1 Java HotSpot 虚拟机——建立在坚实的基础上 Java HotSpot 虚拟机建立在一个坚实的基础之上，拥有许多特性。该架构支持动态的、 面向对象的优化，具有世界级的执行性能。即使在需要进行大量计算的系统中，仍可通过高 伸缩性来支持多线程运行。在执行企业级快速开发、内省和管理中，具有较高的可靠性、可 用性和服务性。 2 Java HotSpot 虚拟机架构 2.1 概述 Java HotSpot 虚拟机是 Sun 公司为 Java 平台实现的虚拟机，使用了很多技术来提升程序 的执行性能，包括先进的内存模型、垃圾收集器和自适应的优化器等。这些都是以高级的、 面向对象的形式实现的：  同一对象模型；  在同一个栈中混用解释帧、编译帧和本地帧；  基于本地线程的可抢占式多线程实现；  精确的分代压缩垃圾收集；  快速的线程同步机制；  动态的去优化和激进的编译器优化并存；  在虚拟机启动时产生系统指定的运行时例程；  支持并行编译的编译器接口；  运行时统计强制编译器只对“热点”方法进行编译。 JDK 中包含了两种 Java 虚拟机，分别是客户端虚拟机和专为服务器应用程序调优的服务 器端虚拟机。这两种方案共享了同一个 Java HotSpot 虚拟机环境代码，但使用了适合于不同 性能特点的编译器。这些区别包括编译器内联策略和堆的默认使用策略。 在 JDK 的发行版中，包含了上述的两种虚拟机。程序员可以通过在命令行中指定“-client” 或“-server”来启动不同的虚拟机。 尽管服务器端虚拟机和客户端虚拟机是相似的，但服务器端虚拟机为提升最大执行速度 做了调优。它适合于运行那些需要长时间运行、执行速度比启动速度或内存占用更重要的应 用程序。 客户端虚拟机的编译器作为 Classic 虚拟机和 JIT（Just-In-Time）编译器的升级版本，应 用于各种版本的 JDK 中。客户端虚拟机加快了应用程序和小程序（applet）的运行时性能。 Java HotSpot 客户端虚拟机专门为加快启动速度和减少内存占用做了优化，使其更适用于客 户端环境。一般来说，客户端虚拟机更适合于 GUI 应用程序。 客户端虚拟机编译器并不会执行一些服务器端虚拟机所要作的优化操作，但这样可以用 更少的时间来分析并编译一段代码。因此，客户端虚拟机有更快的启动速度和更少的内存占 用。 ChangYou.com The Java HotSpot Performance Engine Architecture 3 服务器端虚拟机中有一个高级自适应编译器，可以支持很多类型的优化，例如调用虚方 法时的激进的内联优化。相对于静态编译器，这具有较强的竞争力和性能优势，自适应优化 技术在实现上非常灵活，优于静态分析和编译技术。 图表 1 Java虚拟机中编译器的划分 2.2 内存模型 2.2.1 无句柄对象 在之前的 Java 虚拟机版本中，例如 Classic 版本的虚拟机中，使用间接句柄来表示对象 的引用。在执行垃圾回收时，这使得重定位对象比较容易，但这也是一个主要的性能瓶颈， 因为 Java 编程语言访问实例变量需要两级转向。 在 Java HotSpot 虚拟机中，Java 代码没有使用句柄。对象引用是用直接指针实现的，这 样访问实例变量的时候可以达到 C 语言一样的速度。在内存回收过程中，重定位对象时，垃 圾收集器负责找到并更新所有对象的引用。 2.2.2 两字长的对象头 Java HotSpot 虚拟机使用了两个机器字长的对象头，而 Classic 虚拟机则使用了 3 个字长 的对象头。因为 Java 对象的平均大小比较小，这对内存空间的消耗具有重要影响，可节约 大约 8%的堆大小的内存。对象头的第 1 个字包含了诸如标识哈希码和 GC 状态等信息。第 2 个字是一个指向对象的类的引用。只有数组类型的对象有第 3 个字，用于存储数组的长度。 2 Java HotSpot 虚拟机架构 2.2.4 反射数据也是对象 类、方法和其他内部反射数据都是堆上的对象（尽管这些对象并不能由基于 Java 技术 的程序来访问）。这不仅简化了虚拟机的内部对象模型，也使得这些类可以被其他 Java 对象 所使用的同一个垃圾收集器回收掉。 2.2.5 本地线程支持，包括抢占式和多线程处理 每个线程的活动栈都会使用主机操作系统的栈和线程模型。Java 编程语言方法和本地方 法共享同一个栈，实现了 C 语言和 Java 语言之间的快速调用。全抢占式 Java 线程使用了主 机操作系统的线程调度机制。 使用本地操作系统线程及调度机制的优点是可以透明了利用本地操作系统的多线程处 理支持。由于 Java HotSpot 虚拟机被 设计 领导形象设计圆作业设计ao工艺污水处理厂设计附属工程施工组织设计清扫机器人结构设计 成对在执行 Java 代码时因抢占和/或多线程处理造 成的竞争条件不敏感，所以 Java 线程会自动调整本地操作系统提供的调度和处理器分配策 略。 2.3 垃圾收集 Java HotSpot 虚拟机系统中的分代管理使得针对不同类型应用程序选择不同的垃圾收集 算法更具灵活性。Java HotSpot 虚拟机支持不同多种不同的垃圾收集算法来满足对不同的暂 定时间和吞吐量的要求。 2.3.1 背景知识 程序员们喜爱 Java 编程语言的一个主要原因是这是第 1 个内建支持自动内存管理，或 称垃圾收集的编程语言。在传统的程序设计语言中，动态内存分配是显式的使用 allocate/free 来完成的。在实际应用中，这经常导致内存溢出、程序 bug 甚至崩溃，往往也成为系统的瓶 颈所在，难以实现模块化和代码重用。在 Java 程序设计语言中，垃圾回收是支持安全执行 的一个重要组成部分，有力的支持的安全模型。 垃圾收集器会自动释放无用对象占用的内存，只有到程序再也不会用到这个对象时，才 会被释放掉。这种机制解决了由自由指针引起的内存泄漏、程序崩溃，已经其他一些难以发 现的 bug。 从传统上讲，相比于显式释放内存，垃圾收集被认为没有效率，并且会降低系统性能。 事实上，现代垃圾收集技术已经取得长足的进步，系统的整体性能甚至略好于那些显式释放 内存的系统。 ChangYou.com The Java HotSpot Performance Engine Architecture 5 2.3.2 Java HotSpot 垃圾收集器 除了下面将要描述的一些特性外，内存系统的设计也是非常干净的、面向对象的，很容 易使用新的垃圾回收算法来测量、实验和扩展。 Java HotSpot 垃圾收集器的主要特点将在下面叙述。总体上讲，这些特性既适合于那些 对高性能有要求的应用程序，也可应用于那些需要长时间运行的、不允许出现内存溢出或较 多内存碎片的应用程序。 2.3.2.1 精确性 Java HotSpot 垃圾收集器是一个完全精确的垃圾收集器。相比之下，其他的很多垃圾收 集器都是保守的，或半精确的。有时，保守的垃圾收集器是比较有吸引力的，因为它可以很 容易的被添加到一个没有垃圾收集器的系统中，但也有一些缺陷。保守的垃圾收集器可能会 引发内存泄漏，使对象无法移动，也可能造成堆碎片。 保守的垃圾收集器无法准确定位所有的对象引用。所以，它会假设指向对象的内存字实 际上都是对象引用。这样的话就说产生一些错误，例如将整形数字当成对象指针对待。看起 来像指针的内存单元，被当作指针使用，垃圾收集器就无法做到准确收集。这样的做法还有 一些其他的负面影响。首先，当发生这些错误时（实际上并不会频繁发生），可能会发生内 存泄漏，而程序员几乎无法调试。其次，由于本身可能发生错误，保守的垃圾收集器可能会 使用句柄来间接的引用对象（这样会降低性能），或者避免回收对象，因为回收无句柄对象 要更新所有对象的句柄。无法回收对象会导致内存碎片的产生，更重要的是，无法使用将要 在下面描述的高级的分代拷贝垃圾收集算法。 Java HotSpot 垃圾收集器是精确的，有一些保守垃圾收集器所没有的特性： （1） 所有不可达的对象都会被可靠的回收； （2） 所有对象都是可移动的，允许压缩对象占用的内存，这会减少内存碎片，提高 内存紧凑性。 精确的垃圾收集机制可以避免偶然的内存泄漏，移动对象可以防止对整个堆进行压缩 Java HotSpot 虚拟机的垃圾收集机制适用于非常大的堆。 2.3.2.2 分代拷贝垃圾收集 Java HotSpot 虚拟机使用了业界领先的分代拷贝垃圾收集器，有以下两大主要特性： （1） 相比于非分代垃圾收集器，提升了垃圾回收速度和垃圾收集效率； （2） 相对减少了垃圾收集频率和因执行垃圾收集而造成的程序暂停的时间。 分代垃圾收集器基于这样一个事实，在大多数程序中，大量对象（95%以上）的生命周 期非常短（例如，只是临时存储数据使用）。通过将新近创建的对象隔离到一块专门的区域， 分代垃圾收集器就可以做很多事了。首先，因为新创建的对象都被存放到一块类似于栈的空 间中，分配速度是非常快的，因为只需要更新一个指针，检查一次这块区域是否有溢出。其 次，当这块区域溢出后，区域的大多数对象都已经死了，垃圾收集器只需要简单的将或者的 2 Java HotSpot 虚拟机架构 对象移到其他地方，就可以将全部区域回收，避免了对区域中已死对象的回收。 2.3.2.3 并行新生代垃圾收集器 上面描述的单线程拷贝垃圾收集器适合于很多应用程序，但可能会成为利用了多处理器 特性的应用程序在伸缩性上的瓶颈。为了充分利用多 CPU 的特点，Java HotSpot 虚拟机提供 了一种可选的、多线程的、作用于年轻代的垃圾收集器，这样、跟踪和拷贝对象的工作都是 多线程并发执行的。在具体实现中，对垃圾收集器进行了优化，在各个处理之间平衡了垃圾 收集的工作，是垃圾收集器可以运行在具有很多 CPU 的机器上。这样，就可以检查在清理 年轻代时引起的程序暂停，并最大化应用程序的吞吐量。并行垃圾收集器已经在拥有 100 的 CPU 和 1TB 堆的机器上经过了测试。Server 模式的虚拟机默认使用并行年轻代垃圾收集 器作为垃圾回收算法。 在移动对象时，并行垃圾收集器试图将相关对象放到一起，这样可以优化内存布局和缓 存的使用，提升整体性能。这是通过拷贝对象时，执行深度优先遍历完成的。 并行垃圾收集器能更好的利用内存。它并不需要保留旧对象的一部分空间来完成对象拷 贝的工作。它使用了一项新技术来拷贝对象。如果旧对象空间不足，这项技术就会对堆进行 压缩，而不需要保留一部分空间备用。这样可以更好的利用堆的可用空间。 最后，并行垃圾收集器可以针对应用程序的堆分配情况，动态调整它的参数，这样可以 提升在整个应用程序环境内的垃圾回收的执行性能。这个特性是并行垃圾收集器首先引入的， 在其他的垃圾收集算法中也得到了使用。 相比于默认的单线程垃圾收集器，并行垃圾收集器收支平衡点出现在 2 个和 4 个 CPU 之间，依赖于具体的应用程序环境。这会在将来的版本中进一步优化。 2.3.2.4 标记压缩老年对象垃圾收集器 尽管分代拷贝垃圾收集器能有效的回收已死亡对象，但那些存活时间较长的对象仍然会 在 老年对象内存区不断积累。偶然情况下，由于内存较低或一些程序上的要求，必须使用 老年对象垃圾收集。Java HotSpot 虚拟机默认使用了标准标记-压缩垃圾收集算法，该算法会 从根对象开始遍历所有活动对象，然后执行清理，并压缩清理已死亡对象后留下的内存空隙。 通过压缩堆中的空隙，而不是将它存入到一个 freelist 中，可以消除内存碎片，并可以实现 老年对象分配的线性化，而无需再查找 freelist。 2.3.2.5 CMS 收集器 对于那些要求较大堆空间，默认的老年代标记清理垃圾收集器会引起应用程序线程的暂 停。Java HotSpot 虚拟机实现了一个可选的并发垃圾收集器，可充分利用空闲处理器来对老 年对象进行垃圾回收，并且只会使应用程序有很短的暂停。这是通过在应用程序执行过程中 不断的跟踪和清理来完成的。在某些应用场景中，应用程序吞吐量的峰值会有一些下降，因 ChangYou.com The Java HotSpot Performance Engine Architecture 7 为处理器会并发执行垃圾回收。但是，平均和最差情况下垃圾收集暂停时间都可以通过 1 个或 2 个重要的命令来减少，当在一个大堆上执行默认的同步标记清理算法时，允许应用程 序更加平稳的响应，而不会产生突发性响应的问题， 2.3.2.6 并行的老年代垃圾收集器 当前版本的 Java HotSpot 虚拟机为老年代引入了并行标记清理垃圾收集器，专用于提升 需要较大堆的应用程序的伸缩性。CMS 垃圾收集器专注于减少应用程序的暂停时间，老年 代的并行垃圾收集器则通过在 stop-the-world 暂停期间，使用多线程同时执行垃圾收集来提 高应用程序的吞吐量。并行老年代垃圾收集在内部使用了新的技术的数据结构，使其不仅保 留了在垃圾收集期间的精确性和最小化开销的优点，还达到了较好的系统伸缩性。 2.4 超快的线程同步 Java 编程语言支持应用程序的多线程执行，并在语言级提供了现场同步的机制，可以快 速的建立具有较细粒度的锁的多线程应用程序。在此之前的同步实现，如 Classic 虚拟机中， 相比于 Java 编程语言中其他的宏观操作性能低下，使用细粒度的锁会成为性能的瓶颈。 Java HotSpot 虚拟机整合了竞争和非竞争的同步操作，这是提升同步性能的一大因素。 非竞争的同步操作，包含了大量的同步操作，使用了超快的（ultra-fast）、常量时间的 （constant-time）技术来实现。基于最新的优化技术，在最佳情况下，即使是在多处理器计 算场景中，也可以无损耗的运行。竞争性同步操作，充分利用了自旋锁的优点，即使应用程 序中有大量的竞争锁，仍可提升吞吐量。因此，大于大部分应用程序来说，同步性能已不再 是关键的性能指标。 2.5 64 位架构 Java HotSpot 虚拟机的早期版本会受到 4G 内存空间的限制，即使是在如 Solaris OE 这样 的 64 位操作系统上。现在，很多桌面系统都已经达到了 4G 内存的使用环境，而现代服务 器都已经拥有了更大的内存。例如，Sun Fire E25K 服务器的每个域都支持 1.15TB 的内存。 使用 64 位的 Java 虚拟机，可以利用系统的整个内存空间。 基于 64 位地址空间，应用程序可以有很多种用途。例如，那些会在内存中保存大量数 据集的应用程序。应用程序可以避免从磁盘中获取分页数据或从 RDBMS 中获取数据的性能 损耗。这样，应用程序的性能得以大幅提升。 现在，64 位的 Java HotSpot 虚拟机是可以安全使用的。Server 模式下的虚拟机支持 32 位和 64 位两种操作。你可以使用命令行选项“-d32”或“-d64”来明确指定使用哪种模式。 而 JNI 的用户若想在 64 位虚拟机上运行程序，则需要重新编译代码。 3 Java HotSpot 编译器 2.6 对象包装 对象包装功能可以最小化不同数据类型大小之间的空间浪费。这是 64 位虚拟机的主要 特性，即使在 32 位虚拟机上，对系统性能也有所提升。 例如： public class Button { char shape; String label; int xposition; int yposition; char color; int joe; object mike; char armed; } 上面的代码中，在 color 和 joe 之间（浪费 3 个字节），以及 joe 和 mike 之间（在 64 位 系统上会浪费 4 个字节）会产生空间浪费。 现在，这些字段会被重新排序，如下所示： ... object mike; int joe; char color; char armed; ... 这样么就不会有内存空间的浪费了。 3 Java HotSpot 编译器 3.1 概述 大多数试图加速 Java 编程语言的努力都集中在对为传入语言开发的编译器上。JIT 编译 器本质上是一个快速的传统编译器，在 Java 程序运行过程中，将 Java 字节码编译成本地机 器代码。运行在用户机上上的 JIT 编译器实际上会执行字节码，并在第一次执行的时候编译 每个方法。 但是，对 JIT 编译器还有几个问题要说。首先，因为编译器运行在执行代码的机器上， 并且占用用户时间，所以它受 CPU 速度的影响很大。如果 CPU 的速度不快的话，在启动应 用程序或应用程序的一部分时，用户会明显的感觉到延迟。这就会带来一种权衡，使得更难 ChangYou.com The Java HotSpot Performance Engine Architecture 9 以执行高级优化，因为高级优化通常会使编译性能大大降低。 其次，JIT 有足够的时间来执行全面的优化，相比于传统的编程语言，如 C/C++，Java 编程语言的 JIT 执行一些的优化也不是那么有效率，原因如下：  Java 语言是动态安全的，即它保证了程序不会违反语义或直接访问位结构化的内存， 这就要求必须经常执行动态类型检查（当类型扩展，或转换为 Object 时发生）。  Java 语言中，所有的对象都是在堆中分配的。相比之下，C++中的很多对象是在栈 中分配的。因此，Java 语言中需要更快的对象分配速度。此外，相比于 C++，Java 中有着完全不同的内存分配开销（包括潜在的擦除和白色屏障开销）。  在 Java 语言中，大多数的方法调用都是虚方法调用（潜在的多态），这比 C++中使 用的频率多很多。其中的含义不仅仅是方法调用的性能成了程序性能的主要因素， 更说明了静态编译器优化（尤其是一些全局优化，如内联）更加难以对方法调用进 行优化。许多传统的编译器优化对函数之间调用最为有效，减少函数调用间的距离， 但在 Java 语言中，这些优化就不那么有效了，因为 Java 中方法的代码段都比较小。  由于使用了动态类载入技术，基于 Java 技术的程序可以在运行时修改。这样执行 全局优化就更加困难。借助于动态载入，编译器不仅仅可以检测到这些优化选项什 么时候变为无效，还可以在程序运行期间取消或重做某些优化，即使它们涉及到栈 上的活动方法。 结果是，任何想要在 Java语言中实现基础优化的想法都必须对这些非传统的进行解答， 而不是在传统编译器技术上提供 2 进制兼容性。 Java 虚拟机结构使用了自适应的优化技术来解决上述问题。 3.2 热点监测 自适应优化利用了一个有趣的程序属性来解决 JIT 编译的问题。几乎所有的程序都会花 费大量的时间来执行很少的一段代码。因此，不再是一个一个方法进行编译，Java 虚拟机会 使用解释器立即执行程序，并在程序运行时监测关键热点。然后，它会让全局本地代码优化 器（global native-code optimizer）对热点进行优化。这样，避免对一些不经常使用的方法进 行编译（程序中的大部分方法都是这样的），Java HotSpot 编译器可以将更多的精力放在影响 性能的关键点上，而不会增加总体的编译时间。热点监测与程序运行同时执行，并收集一些 其他信息，例如为虚方法调用手机调用者与被调用者的关系等。 使用这种方法有一个微妙但很重要的好处，通过将编译延后到程序运行了一段时间之后 （这里的时间指的是机器时间，不是用户时间），可以对代码的执行信息进行收集，使用一 些更好的优化方法。同时也可以降低内存消耗。此外，对程序运行中的热点收集信息的同时， 也可以收集一些其他信息，如与在虚方法调用时的调用者与被调用者的关系相关的数据。 3.3 方法内联 Java 编程语言中对虚方法的频繁调用是一个很重要的优化瓶颈。在程序运行时，如果 Java HotSpot 自适应优化器收集到了有关热点程序的信息，它不仅会将热点编译成本地代码， 3 Java HotSpot 编译器 还会在热点代码上执行有着不小性能损耗的方法内联。 内联的作用很大。它可以极大的方法调用的动态频率，这可以减少方法调用的时间。但 更重要的是，方法内联会产生一些较大的代码块，方便优化器进行优化。这可以显著的提高 传统编译优化的效率，克服了提升 Java 编程语言性能的主要障碍。 内联与代码优化是协同作用的，因为内联使优化更有效率，随着 Java HotSpot 编译器逐 渐成熟，操作较大的、内联的代码块的能力会在将来打开通向更高级性能优化的大门。 3.4 动态去优化 尽管内联是一项重要的优化手段，但对于像 Java 这样的动态面向对象语言来说，执行 起来很困难。此外，由于探测热点并对热点区域的方法调用进行内联操作也有相当的难度， 所以也无法有效的提供 Java 语言的全部语义。这是因为 Java 语言不仅可以在运行时改变方 法调用的模式，还可以动态载入 Java 代码到程序中。 内联是一全局分析为基础的。动态载入使得内联的复杂度大大增加，因为它改变了程序 中的全局关系。一个新的 Java 类可能包含了需要内联到适当位置的方法。因此，Java HotSpot 虚拟机必须可以动态去优化（必要的话，还需要重优化）之前已经优化过的热点代码，甚至 是正在热点代码。如果没有这种能力，一般意义上的内联操作就无法应用于基于 Java 技术 的应用程序了。 Java HotSpot 虚拟机的客户端模式编译器和服务器模式编译器都提供了对动态去优化的 完整支持。这样就可以使用一些激进乐观的优化方法和其他一些技术，例如全速调试 （full-speed debugging）。 3.5 Java HotSpot 客户端编译器 Java HotSpot 客户端编译器是一个简单、快速的三段式编译器。在第一阶段，一个平台 无关的前端会从字节码中构建出高级中间表示（high-level intermediate representation，HIR）。 HIR 使用静态单一分配（static single assignment，SSA）来表示值，这样就可以更容易使用某 些优化策略，这些优化可以在 IR 创建中，或创建后执行。在第二个阶段，平台相关的（编 译器）后端会从 HIR 中生成低级中间表示（low-level intermediate representation，LIR）。最后 一个阶段中，会使用自定义的线性扫描算法在 LIR 上进行寄存器分配，在 LIR 上执行窥孔优 化，并从 LIR 中生成机器码。 上述三个阶段的重点在于尽可能的从字节码中提取出更多的信息。客户端编译器着重于 本地代码的质量，只做很少的全局优化，因为那些通常会需要较长的编译时间，开销较大。 3.6 Java HotSpot 服务器端编译器 服务器端编译器用于典型的服务器端应用程序。Java HotSpot 服务器端编译器是一个高 端全功能优化编译器。它使用了高级的基于 SSA 的 IR 优化策略。优化器会执行所有的经典 ChangYou.com The Java HotSpot Performance Engine Architecture 11 优化，包括剔除死代码（dead code elimination），提升循环不变量（loop invariant hoisting）， 剔除通用子表达式（common subexpression elimination），常量传播（constant propagation）， 全局值编号（global value numbering）和全局代码移动（global code motion）。此外，还包括 一些针对 Java 技术的优化，例如 Null 检查和范围检查剔除，以及对异常抛出路径的优化。 寄存器分配器是一个全局图像着色分配器，充分利用了常用于 RISC 微处理器中的寄存器集 合。编译器具有较高的可移植性，依赖于描述了目标机器硬件各个方面的机器描述文件。虽 然编译器比标准的 JIT 编译器慢一些，但仍然比传统的优化编译器快，通过降低编译代码的 次数减少了提升代码质量所需的编译时间。 3.7 编译器优化 Java HotSpot 编译器可以使用很多高级优化来提升体传统面向过程语言和面向对象语言 的执行性能。其中一些优化包括：  深度内联（deep inlining）和潜在虚调用内联（inlining of potentially virtual calls）： 正如前文所述，客户端编译器和服务器端编译器都会使用方法内联、全局分析和动 态去优化来启用深度内联，因此可以减少方法调用的性能损耗。  快速类型检查（Fast instanceof/checkcast）：Java 编译语言为了类型安全的需要，会 频繁的进行类型检查，Java HotSpot 虚拟机使用一项新技术来加速类型检查的过程。 这可以减少面向对象语言的运行时消耗。  范围检查剔除（Range check elimination）：Java 语言规范要求在访问数组时进行边 界检查。如果编译器可以保证访问数组时所使用索引肯定不会超越边界，那么就可 以将边界检查剔除。  循环展开（Loop unrolling）：以服务器模式运行的虚拟机对此提供了支持。循环展 开是一种标准编译器优化，它可以加快循环的执行速度。循环展开在增加了循环体 大小的同时，减少了迭代次数。循环展开也可以增加其他优化的效率。  反馈制导优化（Feedback-directed optimizations）：以服务器模式运行的虚拟机在将 Java 字节码编译为本地代码前会对解释器中的程序进行一些比较耗费性能的监测 操作。这些监测数据提供了与正在使用的数据类型、热点代码和其他一些属性相关 的更多的信息。在特定情况下，编译器可以使用这些信息对代码执行一些更激进、 更乐观的优化操作。如果代码在运行过程中违反了假定的属性，那么编译器会对代 码进行去优化操作，并在稍后重新编译优化。 4 Java HotSpot 虚拟机的高级特性 Java HotSpot 虚拟机拥有很多高级特性来提供对高扩展性、高性能和企业级可靠性、可 用性和可服务性的支持。 4 Java HotSpot 虚拟机的高级特性 4.1 扩展性 最近，Java HotSpot 虚拟机添加了名为“人体工程学（Ergonomics）”的自适应机制。当 前，人体工程学主要应用于两个方面。首先，根据目标机器的物理配置（例如，要考虑处理 器的数量和可用物理内存的大小等），自动选择以客户端模式还是服务器端模式运行虚拟机。 当物理硬件有大量的 CPU，大量的内存时，会自动以服务器端模式运行虚拟机，并且会自动 为服务器端应用程序选择一个适合的堆的大小值。第二，Java HotSpot 虚拟机中的垃圾收集 算法也是会自动调整的，因此，已经不再需要显式的设置年轻代和老年代的相对大小了。垃 圾收集器会自动进行调整，来提升应用程序的吞吐量，减少垃圾收集导致的程序暂停的时间。 人体工程技术可提升服务器端应用程序的扩展性，在 Java HotSpot 虚拟机将来的版本中，会 对此作更多的开发工作。 4.2 性能 除了 Java HotSpot 虚拟机架构中使用的核心面向对象优化以外，虚拟机以及 Sun Java Runtime Environment（JRE）还提供了其他一些关键性能优化：  快速反射（Fast reflection）：现在，Java 库会对那些经常使用的反射对象，如 Method 和 Constructor 生成字节码存根。这项技术将反射调用暴露给 Java HotSpot 编译器， 提升了执行性能，在某些情况下，服务器端虚拟机可以完全剔除掉反射调用的性能 损耗。可以明显提升某些大量使用反射操作的代码的执行效率，例如 RMI，序列化， 和 CORBA。  新 IO 优化（New I/O optimizations）：Java HotSpot 编译器对新 IO 的 Buffer 对象有专 门的操作，为 get 方法和 put 方法调用生产保质量的机器代码。新 IO 提供了在网 络和文件 IO 方面的高性能和高扩展性，也使得 Java 应用程序可以达到与 C/C++程 序类似的吞吐量。新 IO 对 Buffer 类优化也是用于其他类型的问题，如 3D 图形，以 及 Java 平台之间大数据的传送。 4.3 可靠性、可用性和可服务性 当前版本的 Java HotSpot 虚拟机是迄今为止最可靠的版本。基于对 Sun 微系统公司大量 应用程序的运行过程的跟踪，最近版本的虚拟机已经达到了企业级应用程序所需的可靠性和 可用性的新纪录。 Java HotSpot 虚拟机包含了 Java Virtual Machine Tools Interface（JVMTI）的参考实现。该 接口允许一些工具来观察、控制 JVM，如性能跟踪器、调试器和监视器等。JVMTI 所包含的 特性有：  全速调试（Full-speed debugging）：Java HotSpot 虚拟机利用动态去优化技术来支持 对全速运行的应用程序的调试。在 Java 虚拟机的早期实现中，当开启调试的时候， 应用程序仅能在解释器中运行。在调试场景中启用 Java HotSpot 编译器可以极大的 提升执行性能，并在在某些情况下，对某些可服务性有要求的应用程序来说，可以 ChangYou.com The Java HotSpot Performance Engine Architecture 13 始终开启调试功能。此外，启动调试器可能会抛出一些异常。  热替换（HotSwap）：Java HotSpot 虚拟机的面向对象架构提供了高级特性，例如类 的运行时重定义，或称为热替换。该特性使应用程序可以在运行过程中通过调试 API 来改变代码。热替换为 Java Platform Debugger Architecture（JPDA）添加的新功 能，在调试器的控制下，可以在运行时修改类定义。此外，还可以在运行时插入一 些性能监测代码来执行一些性能检测的操作。 Java HotSpot 虚拟机提供的一些额外特性提升了 Java 应用程序的开发和可服务性。  JNI 错误检查（JNI error checking）：使用命令行选项“-Xcheck:jni”可以开启对 JNI 的额外检查。启用 JNI 错误检查后会在开发期间建超 JNI 参数的有效性，这样就可 以在项目部署到正式环境之前发现问题。特别的，Java HotSpot 虚拟机会检查传给 JNI 方法的参数的有效性，并在处理 JNI 请求前，检查运行时环境数据。如果在本 地代码中发现了任何无效数据，虚拟机会自动终止。  错误报告（Error reporting）：如果 JVM 检测到程序员编写的本地代码崩溃，或 JVM 本身崩溃，它会记录下相应的错误日志。一般来说，错误信息包括方法名称、库名 称、源文件名称和发生错误的代码的行号。这样，程序员就可以更容易、更有效的 调试程序。如果错误信息表示错误是由于 JVM 本身引起的，程序员也可以提交更 准确、更有用的错误报告。  信号链（Signal-chaining facility）：信号链是 Java 平台能够更好的与拥有信号处理功 能本地代码进行交互。该功能在 Solaris 和 Linux 平台都可以正常工作。