RAC环境下故障处理一则

这是客户的一个Oracle9iR2 RAC数据库环境，数据库版本为Oracle 9.2.0.8，主机为IBM P55a小型机。最初客户集群环境运行稳定，后来一台主机出现硬件故障退出集群，问题出现在主机维修完毕之后，当故障主机重新加入现有环境运行，客户发现应用性能出现衰减，前端收费系统响应缓慢，反而不如一个节点工作时的性能。

首先可以看一下这个系统的逻辑读变化曲线，图1-10清晰地显示在17日左右系统变成单节点运行后，逻辑读有了一个双倍的攀升变化，非常线性和清晰。

图1-10 系统的逻辑度变化曲线

现在的问题是，两个节点运行反而不如当初的单节点运行，那么很有可能是新恢复运行的节点存在问题。登录该主机首先使用vmstat来收集系统信息，从以下摘要数据可以看到，系统的内存消耗殆尽，Page In/Out较高，同时Wait较高：

        p55a1#vmstat 2
        System configuration: lcpu=4 mem=1840MB
        kthr    memory                  page                faults           cpu
        ----- ----------- ---------------------- ------------ -----------
         r  b   avm    fre   re  pi  po  fr   sr  cy  in   sy  cs us sy id wa
         0  0 802203  2591     0  22  51  64  247    0 600 3182 1434  3  1 91  5
         0  3 802477  2776     0  38 151 345 1606  0 629 2509 1270  1  1 87 10
         0  1 801897  3098     0 207  76   0    0    0 910 3306 1762  3  2 74 22
         0  0 802229  2549     0 131  92 193  692   0 2138 12989 6000 10  6 69 15
         3  0 801876  2812     0  71  26   0    0    0 953 5782 2145 10  2 79  8
         1  1 801877  2814     0 139  95 141  503   0 1095 6617 2810 12  3 70 14
         0  2 801887  2546     0 128   0   0    0    0 780 3566 1909  5  2 79 14
         0  2 801883  3042     0 150 284 401 4301  0 1079 3067 1820  3  2 56 39
         0  1 802061  2532     0 162   0   0    0    0 1191 5444 2630  2  2 81 14
         1  1 802060  3193     0  51 270 381 2387  0 704 2468 977  3  1 77 18
         1  3 802535  2827     0 256 201 338 2011  0 975 2808 1624 11  2 51 36
         0  4 802852  2606     0 263 221 287 1535  0 1181 3217 2044  5  2 51 42
         1  2 802455  2838     0 339 166 258 1154  0 1181 4040 2181 13  2 47 37

通过topas可以做进一步的诊断，从图1-11的输出中同样可以看到类似数据，系统的I/O Wait较高，Paging频繁，而磁盘hdisk5和hdisk6的Busy程度达到了近100%：

图1-11 执行topas命令的输出

这说明由于主机的交换频繁导致了I/O负荷升高，从而导致了数据库响应缓慢。那么为什么会出现这种问题呢？内存的紧张及交换频繁直接和数据库的内存使用有关。

登录数据库，查看一下SGA设置就能够明白问题的原因所在（见如下代码）：

        p55a1$sqlplus "/ as sysdba"
        SQL＊Plus: Release 9.2.0.8.0 - Production on Tue Dec 2 10:34:20 2008
        Copyright (c) 1982, 2002, Oracle Corporation.  All rights reserved.
        SQL> show sga
        Total System Global Area 2031584960 bytes
        Fixed Size                         743104 bytes
        Variable Size                 956301312 bytes
        Database Buffers            1073741824 bytes
        Redo Buffers                      798720 bytes

我们注意到数据库的SGA设置，分配了大约2GB的内存，而根据如下系统显示，主机配置的内存也仅为2GB：

        System configuration: lcpu=4 mem=1840MB

看来问题的原因已经找到，由于数据库的SGA设置过高，导致了过高的内存消耗，使得系统在业务繁忙时段产生了大量的交换，影响了系统性能。那么解决这个问题的方式是要么降低SGA，要么扩展系统内存。

但是还有一个问题，为什么以前一切是正常的，而机器修复后反而出现了问题呢？其实系统除了维修并未做其他数据库参数方面的变更。

适当猜测加上询问客户和查看记录就发现了进一步的原因，那就是在维修之前该主机共有4GB内存，维修之后只剩下了2GB，而客户并未主动变更过，那么显然还有故障存在在主机上（虽然errpt并未显示任何警告）。

在机房通过笔记本连接P55A小型机后端的HMC1口，通过浏览器连接主机，发现根本原因所在，原来是有两个内存被Deconfigured了（见图1-12）。

图1-12 Memory Deconfigration

也就是说可能这两条内存出现了故障，或者可能是内存插槽有问题，导致2GB的内存未被加载，这才是这次故障的根本原因。通过联系硬件厂商，解决了内存故障后，数据库系统恢复正常。