JP1/NNM(アプリケーションフェイルオーバー構成)の構築

参考マニュアル：
JP1 Version 12 ネットワーク管理基本ガイド
JP1 Version 12 JP1/Network Node Manager i セットアップガイド
JP1 Version 12 JP1/SNMP System Observer

NNMマネージャーホスト(アクティブ): mmm191 CentOS7 NNMi
NNMマネージャーホスト(スタンバイ): mmm192 CentOS7 NNMi
SSOマネージャーホスト: mmm193 CentOS7 SSO
エージェントホスト: mmm195 CentOS7 ESA SSO-AP

--前提

NNMマネージャーホスト,SSOマネージャーホスト:
CPU: 2コア
メモリ： 8GB

エージェントホスト:
CPU: 1コア
メモリ： 2GB

【1】リリースノート確認

JP1/Network Node Manager iリリースノート

（２）以下のパッケージの適用が必要です。
kernel-2.6.32-220.4.2.el6.x86_64.rpm 以降
kernel-firmware-2.6.32-220.4.2.el6.noarch.rpm 以降

rpm -qa | grep kernel
yum install kernel-firmware

（３）NNMi では，一部のカーネル調整オプションをデフォルト設定から以下のように
変更する必要があります。
# NNM settings for embedded database
kernel.shmmax = 68719476736

# NNM settings for UDP receive and send buffer sizes
net.core.rmem_max = 8388608
net.core.wmem_max = 2097152
/etc/sysctl.conf ファイルを編集後は，OS を再起動するか，/sbin/sysctl -p コマンドを
実行して変更を反映させてください。
sysctl kernel.shmmax
sysctl net.core.rmem_max
sysctl net.core.wmem_max

vim /etc/sysctl.conf

kernel.shmmax = 68719476736
net.core.rmem_max = 8388608
net.core.wmem_max = 2097152

/sbin/sysctl -p

（４）Linux サーバーにNNMi をインストールするためには，NNMi が必要とする以下の
ライブラリファイルおよびコマンド，パッケージをインストールしておくことが必要です。
また，それぞれの依存関係があるライブラリファイルについてもインストールしてください。
/lib64/libaio.so.1
/usr/lib64/libXtst.so.6
/usr/lib64/libXi.so.6
lsb_release コマンド
net-tools パッケージ
unzip コマンド

ls -l /lib64/ | grep libaio
ls -l /usr/lib64/ | grep libXtst
ls -l /usr/lib64/ | grep libXi

which lsb_release
which unzip

rpm -qa | grep net-tools

yum provides */lsb_release
yum -y install redhat-lsb-core

JP1/SNMP System Observerリリースノート

(b) Red Hat Enterprise Linux Server 7 (64-bit x86_64)，Oracle Linux 7，Cent OS 7をご使用の場合

・glibc(i686)
・libstdc++(i686)
・libstdc++(x86_x64)
・libgcc(i686)
・libgcc(x86_x64)
・ncompress (x86_64)
・tar (x86_64)
・gdb (x86_64)
・gzip (x86_64)
・lksctp-tools（x86_64）
・ncurses (x86_64)
・glibc (x86_64)
・glibc-common (x86_64)
・glibc-devel (i686)
・glibc-devel (x86_64)
・glibc-headers (x86_64)
・glibc-utils (x86_64)
・nscd (x86_64)
・tcsh (x86_64)
・nss-softokn-freebl (i686)
・net-tools (x86_64)
・sysstat (x86_64)
・libXtst(x86_x64)

yum update -y

yum -y install \
glibc.i686 \
glibc-devel.i686 \
glibc-devel.x86_64 \
glibc-headers.x86_64 \
glibc-utils.x86_64 \
libstdc++.i686 \
libgcc.i686 \
nscd.x86_64

JP1/Extensible SNMP Agentリリースノート
次のOSパッケージは、製品のインストールおよび製品を使用する上で
必要なパッケージです。製品をインストールする前に適用してください。

・glibc-vvv-rrr.el7.i686.rpm (*1)
・libgcc-vvv-rrr.el7.i686.rpm (*1)
・libstdc++-vvv-rrr.el7.i686.rpm (*1)
・nss-softokn-freebl-vvv-rrr.el7.i686.rpm (*1)
・sysstat-vvv-rrr.el7.x86_64.rpm
・net-snmp-vvv-rrr.el7.x86_64.rpm
・net-snmp-libs-vvv-rrr.el7.x86_64.rpm
・net-snmp-agent-libs-vvv-rrr.el7.x86_64.rpm
・lm_sensors-libs-vvv-rrr.el7.x86_64.rpm
・perl-Data-Dumper-vvv-rrr.el7.x86_64.rpm
・redhat-lsb-core-vvv-rrr.el7.x86_64.rpm

JP1/SNMP System Observer - Agent for Processリリースノート

・glibc-vvv-rrr.el7.i686.rpm (*1)
・libgcc-vvv-rrr.el7.i686.rpm (*1)
・libstdc++-vvv-rrr.el7.i686.rpm (*1)
・nss-softokn-freebl-vvv-rrr.el7.i686.rpm (*1)
・redhat-lsb-core-vvv-rrr.el7.x86_64.rpm

yum update -y

yum -y install \
glibc.i686 \
libgcc.i686 \
libstdc++.i686 \
nss-softokn-freebl.i686 \
net-snmp.x86_64 \
net-snmp-agent-libs.x86_64 \
redhat-lsb-core.x86_64

【2】NNMマネージャのインストール(mmm191とmmm192で実施)

--1.2　インストール前の準備
--1.2.1　サーバ環境を確認する

Webサーバのポート番号は，NNMiのインストール時に使用します。デフォルトは80です。

--1.2.3　監視マネージャーの前提条件を確認する（Linuxの場合）

yum -y install \
glibc.i686 \
glibc-devel.i686 \
glibc-devel.x86_64 \
glibc-headers.x86_64 \
glibc-utils.x86_64 \
libstdc++.i686 \
libgcc.i686 \
nscd.x86_64

rpm -qa | grep openmotif
rpm -qa | grep libXtst

yum -y install openmotif
yum -y install libXtst.i686

--1.4　監視マネージャーの構築（Linuxの場合）
--1.4.1　NNMiをインストールする（Linuxの場合）

LC_ALL=ja_JP.UTF-8
export LC_ALL

/bin/mount -t iso9660 -r JP1NNMi_1200L_P.iso /mnt

/mnt/x64lin/setup /mnt

umount /mnt

【3】SSOマネージャのインストール(mmm193で実施)

--1.4.2　SSOをインストールする（Linuxの場合）

yum -y install kernel-firmware
yum -y install redhat-lsb-core
yum -y install openmotif
yum -y install libXtst.i686

/bin/mount -t iso9660 -r JP1SSO_1200L_P.iso /mnt

/mnt/x64lin/setup /mnt

最後のYは小文字で入力
umount /mnt

【4】NNMマネージャのセットアップ(mmm191とmmm192で実施)

--1.4.3　NNMiをセットアップする（Linuxの場合）
(1)　言語環境を設定する

vim /etc/init.d/netmgt

「/opt/OV/bin/ovstart」行の前に次の2行を追加

LANG=ja_JP.UTF-8
export LANG

※デフォルトで追加済

(2)　システムアカウントを設定する

----NNMiサービスの停止
/opt/OV/bin/ovstop -c

----パスワードを設定
/opt/OV/bin/nnmchangesyspw.ovpl

----NNMiサービスの起動
/opt/OV/bin/ovstart -c

----NNMiサービスの状態確認
/opt/OV/bin/ovstatus -c

(3)　SSOの定義情報をNNMiに設定する

1. NNMiのnnmconfigimport.ovplコマンドを実行して，インシデント定義を設定します。

SSOマネージャから使用するファイルをSCP転送
scp mmm193:/etc/opt/CM2/SSO/incident/ssoincident.def /root

/opt/OV/bin/nnmconfigimport.ovpl -u system -p 'Aaa!1234' -f /root/ssoincident.def

2.NNMiのnnmconfigimport.ovplコマンドを実行して，URLアクション定義を設定します。

SSOマネージャから使用するファイルをSCP転送
scp mmm193:/etc/opt/CM2/SSO/urlaction/ssourlaction.def /root

/opt/OV/bin/nnmconfigimport.ovpl -u system -p 'Aaa!1234' -f /root/ssourlaction.def

【5】SSOマネージャのセットアップ(mmm193で実施)

--1.4.4　SSOをセットアップする（Linuxの場合）
(1)　言語環境を設定する

JP1 Version 12　JP1/SNMP System Observer
3.4.8　Linuxでの注意事項

vim /opt/CM2/SSO/bin/.ssostart

次の行の「#」を削除する。

# LANG=ja_JP.UTF-8
# export LANG

(2)　SSOからNNMiへの接続情報を追加する

cat /etc/opt/CM2/SSO/conf/ssonnminfo.conf

/opt/CM2/SSO/bin/ssonnmsetup -add -host 192.168.137.191 -user system -password 'Aaa!1234' -port 80
--/opt/CM2/SSO/bin/ssonnmsetup -add -host 192.168.137.192 -user system -password 'Aaa!1234' -port 80

※複数登録不可

cat /etc/opt/CM2/SSO/conf/ssonnminfo.conf

(3)　SSOのssoauthコマンドを実行して，SSOにユーザーを登録します。

/opt/CM2/SSO/bin/ssoauth -delete -user administrator

/opt/CM2/SSO/bin/ssoauth -add -user system -password 'Aaa!1234'

(4)　SSOのssostartコマンドを実行して，SSOを起動します。

----SSOの起動
/opt/CM2/SSO/bin/ssostart -c

----SSOの停止
/opt/CM2/SSO/bin/ssostop -c

(5)　SSOのssostatusコマンドを実行して，SSOの状態を確認します。

----SSOの起動確認

/opt/CM2/SSO/bin/ssostatus

----ログファイルの場所
ls -ltr /var/opt/CM2/SSO/log

(6)　コミュニティ名を設定する
--https://www.ashisuto.co.jp/jp1blog/article/201708_nnm_agentadd.html

vim /etc/opt/CM2/SSO/conf/ssosnmp.conf

:set paste

#
# ssosnmp.conf
#
# FORMAT
# Category:IPaddress:GetCommunity:SetCommunity:TimeOut:Retry:Port:Proxy:SNMPVersion:UniqueName:
#

# 1. Specific Hosts

sso-ex:192.168.137.195:public:secret:20:3:22161::2::
sso:192.168.137.195:public:secret:20:3:22161::::

# 2. IP Address Wildcards

# 3. Default

sso-ex:*.*.*.*:public:secret:20:3:::2::
sso:*.*.*.*:public:secret:20:3:::::
sso-ex:[*:*:*:*:*:*:*:*]:public:secret:20:3:::2::
sso:[*:*:*:*:*:*:*:*]:public:secret:20:3:::::

/opt/CM2/SSO/bin/ssoapcom -r

/opt/CM2/SSO/bin/ssocollectd -r

(7)　SSOのWebGUIをセットアップする（Linuxの場合）
SSOコンソールを使用するWindowsのマシン上に，SSOのWebGUIを準備します。

ls -l /etc/opt/CM2/SSO/webgui/ssogui_fileset.zip

展開先パス\SSOGUI\bin\webguisetup.bat 展開先パス\SSOGUI

管理者として実行

H:\tmp\ssogui_fileset\SSOGUI\bin\webguisetup.bat H:\tmp\ssogui_fileset\SSOGUI

【6】エージェントのインストールとセットアップ(mmm195で実施)

--1.6　監視エージェントの構築（Linuxの場合）

--1.6.1　監視エージェントの前提条件を確認する（Linuxの場合）

1.OSに次のパッケージまたは後継パッチファイルが適用されていることを確認します。

glibc-2.12-1.25.el6.i686
libgcc-4.4.5-6.el6.i686
libstdc++-4.4.5-6.el6.i686
nss-softokn-freebl-3.12.7-1.1.el6.i686
net-snmp-5.5-31.el6
net-snmp-libs-5.5-31.el6
net-snmp-utils-5.5-31.el6

すべてリリースノートで確認済

2.MIB値の取得で使用する次のコマンドがインストールされていることを確認します。

/usr/bin/vmstat
/bin/ps
/usr/bin/uptime
/usr/bin/free
/usr/bin/mpstat

which vmstat
which ps
which uptime
which free
which mpstat

3.ネイティブエージェントがインストールされていることを確認します。
rpm -qa | grep net-snmp

下記モジュールを確認。
net-snmp-x.x.x.x
net-snmp-libs-x.x.x-x
net-snmp-agent-libs-x.x.x-x

すべてリリースノートで確認済

--1.6.2　ESAをインストールする（Linuxの場合）

/bin/mount -t iso9660 -r JP1SSO_1200L_P.iso /mnt

/mnt/linux/setup /mnt

最後のYは小文字
umount /mnt

--1.6.3　SSO - APをインストールする（Linuxの場合）

/bin/mount -t iso9660 -r JP1SSO_1200L_P.iso /mnt

/mnt/linux/setup /mnt

最後のYは小文字
umount /mnt

--1.6.4　ESAをセットアップする（Linuxの場合）

(1)　コミュニティ名を設定する

ll /etc/SnmpAgent.d/snmpd.conf
chmod 600 /etc/SnmpAgent.d/snmpd.conf
ll /etc/SnmpAgent.d/snmpd.conf

vim /etc/SnmpAgent.d/snmpd.conf

get-community-name: public
#set-community-name: # enter community name

↓

get-community-name: public
set-community-name: secret

(2)　トラップ宛先を設定する

vim /etc/SnmpAgent.d/snmpd.conf

#trap-dest: # enter trap destination

↓

trap-dest: 192.168.137.191
trap-dest: 192.168.137.192

--1.6.5　SSO - APをセットアップする（Linuxの場合）

(1)　hostsファイルに自IPアドレスを設定する

(2)　apmstartファイルのポート番号を変更する

SSOのSNMP定義ファイル（ssosnmp.conf）で設定した監視エージェントのポート番号とapmstartファイルで設定したポート番号が一致している必要があります。

cat /opt/CM2/APM/bin/apmstart

→設定変更不要

--1.6.6　監視エージェントを再起動する（Linuxの場合）

ネイティブエージェントの設定

vim /etc/snmp/snmpd.conf

view systemview included .1.3.6.1.2.1.1
view systemview included .1.3.6.1.2.1.25.1.1

↓
view systemview included .1.3

#com2sec local localhost COMMUNITY
#com2sec mynetwork NETWORK/24 COMMUNITY

↓
com2sec local localhost public
com2sec mynet 192.168.137.0/24 public

ネイティブエージェントの起動
systemctl stop snmpd
systemctl start snmpd
systemctl status snmpd
systemctl enable snmpd

1.SSO - APのapmstopコマンドを実行して，SSO - APを停止します。

----SSO-APの停止
/opt/CM2/APM/bin/apmstop

2.ESAのsnmpstartコマンドを実行して，ESAを再起動します。

----ESAの停止
/opt/CM2/ESA/bin/snmpstop

----ESAの起動
/opt/CM2/ESA/bin/snmpstart

3.SSO - APのapmstartコマンドを実行して，SSO - APを起動します。

----SSO-APの起動
/opt/CM2/APM/bin/apmstart

4.ESAのsnmpcheckコマンドを実行して，ESAの状態を確認します。

----ESAの起動確認
/opt/CM2/ESA/bin/snmpcheck

すべての状態が実行中になっていれば正常です。

not runningのプロセスあり
extsubagt not running
→extsubagtプロセスは，ユーザーが拡張MIB定義ファイルを設定した時に動作します。インストール直後には拡張MIB定義ファイルは設定されていません。
naaagt not running
→ネイティブエージェントが起動している場合に起動します。
snmpd not running
→ネイティブエージェント。(systemctl start snmpdで起動)

5.SSO - APのapmcheckコマンドを実行して，SSO - APの状態を確認します。

----SSO-APの起動確認
/opt/CM2/APM/bin/apmcheck

すべての状態が実行中になっていれば正常です。

【7】アプリケーションフェイルオーバーの設定

-- 18.3.1　手動によるアプリケーションフェイルオーバーの設定

(1) NNMiをシャットダウン(mmm191とmmm192で実施)

/opt/OV/bin/ovstop -c

(2) nms-cluster.propertiesファイルの編集(mmm191とmmm192で実施)

vim /var/opt/OV/shared/nnm/conf/props/nms-cluster.properties

#!com.hp.ov.nms.cluster.name = MyCluster
↓
com.hp.ov.nms.cluster.name = MyCluster

#!com.hp.ov.nms.cluster.member.hostnames = hosta.myco.com, hostb.myco.com
↓
com.hp.ov.nms.cluster.member.hostnames = mmm191,mmm192

(3) NNMiの証明書の設定

-- mmm192での作業

cd /var/opt/OV/shared/nnm/certificates

scp nnm-trust.p12 mmm191:/root

-- mmm191での作業

/opt/OV/bin/nnmcertmerge.ovpl -truststore /root/nnm-trust.p12

scp /var/opt/OV/shared/nnm/certificates/nnm-trust.p12 mmm192:/var/opt/OV/shared/nnm/certificates

-- mmm191とmmm192で次のコマンドを実行し結果が一致を確認

/opt/OV/bin/nnmkeytool.ovpl -list -keystore /var/opt/OV/shared/nnm/certificates/nnm-trust.p12 -storetype PKCS12 -storepass ovpass

(4) cluster.keystoreファイルのコピー(mmm191で実施)

scp /var/opt/OV/shared/nnm/conf/nnmcluster/cluster.keystore mmm192:/var/opt/OV/shared/nnm/conf/nnmcluster

(5) 両ノード間のクラスタ通信に使用するNICを設定(mmm191とmmm192で実施)

/opt/OV/bin/nnmcluster -interfaces

chmod +w /opt/OV/misc/nnm/props/local/nms-cluster-local.properties
vim /opt/OV/misc/nnm/props/local/nms-cluster-local.properties

com.hp.ov.nms.cluster.interface = eth0
↓
com.hp.ov.nms.cluster.interface = ens192

(6) クラスタ状態確認(mmm191とmmm192で実施)

/opt/OV/bin/nnmcluster

※コマンド終了時はEnterキーを押下後，「quit」と入力

(7) NNMiクラスタマネージャーを開始(mmm191で実施)

/opt/OV/bin/nnmcluster -daemon

サーバーXがアクティブサーバになるまで数分待つ

/opt/OV/bin/nnmcluster -display

→「ACTIVE_NNM_STARTING」または「ACTIVE_SomeOtherState」と表示されていることを確認

(8) NNMiクラスタマネージャーを開始(mmm192で実施)

/opt/OV/bin/nnmcluster -daemon

/opt/OV/bin/nnmcluster -display

→「STANDBY_READY」と表示されていることを確認

【8】アプリケーションフェイルオーバーの動作確認

-- クラスタ状態確認
/opt/OV/bin/nnmcluster -display

--自動フェイルオーバー有効化
/opt/OV/bin/nnmcluster -enable

--自動フェイルオーバー無効化
/opt/OV/bin/nnmcluster -disable

--手動フェイルオーバー
/opt/OV/bin/nnmcluster -acquire -node mmm192

--mmm192にフェイルオーバ時mmm193で下記作業実施
/opt/CM2/SSO/bin/ssonnmsetup -add -host 192.168.137.192 -user system -password 'Aaa!1234' -port 80
/opt/CM2/SSO/bin/ssostop -c
/opt/CM2/SSO/bin/ssostart -c

--mmm191にフェイルバック時mmm193で下記作業実施
/opt/CM2/SSO/bin/ssonnmsetup -add -host 192.168.137.191 -user system -password 'Aaa!1234' -port 80
/opt/CM2/SSO/bin/ssostop -c
/opt/CM2/SSO/bin/ssostart -c

-- ローカルノード上の NNMi クラスタデーモンプロセスをシャットダウン
/opt/OV/bin/nnmcluster -disable -shutdown

-- NNMi クラスタをデーモンとして起動
/opt/OV/bin/nnmcluster -daemon

-- クラスタ内のすべてのノードの NNMi クラスタデーモンプロセスをシャットダウン
/opt/OV/bin/nnmcluster -halt