rabbit-slide-kou-hatohol-log-monitoring-2014-10 2014.10.7.0

data/overview.rab

@@ -0,0 +1,271 @@
+= Hatoholのログ監視機能 2014/10版
+
+: author
+   須藤功平
+: institution
+   株式会社クリアコード
+: date
+   2014/10/07
+: allotted-time
+   60m
+: theme
+   clear-code
+
+= 内容
+
+  * Hatoholのログ監視機能の概要
+    * ただし2014年10月時点での情報
+  * 詳細はWikiを参照
+    * (('note:https://github.com/project-hatohol/hatohol/wiki/Log-monitoring'))
+
+= 目的
+
+  * 現状を共有すること
+
+= 解決したい問題
+
+Zabbixのログ監視機能の問題点
+
+  * サーバーのCPU使用率が高い
+  * 大量のログだとDBの負荷が高い
+  * エージェント・サーバー間の\n
+    通信が安全ではない
+
+= Zabbix：高CPU使用率
+
+  # image
+  # src = images/zabbix-high-cpu-usage.svg
+  # relative_width = 100
+
+== スライドプロパティー
+
+: enable-title-on-image
+   false
+
+= Zabbix：高DB負荷
+
+  # image
+  # src = images/zabbix-high-db-load.svg
+  # relative_width = 100
+
+== スライドプロパティー
+
+: enable-title-on-image
+   false
+
+= Zabbix：安全でない通信
+
+  # image
+  # src = images/zabbix-insecure-connection.svg
+  # relative_width = 100
+
+== スライドプロパティー
+
+: enable-title-on-image
+   false
+
+= 解決方針
+
+  * Fluentdと連携
+  * Fluentd：データ配送システム
+    * ログ収集
+    * フィルター・転送
+    * 出力
+
+= 解決方法：高CPU使用率
+
+  * サーバーのCPU使用率が高い
+    * 処理を複数ノードで分散
+  * (('note:大量のログだとDBの負荷が高い'))
+  * (('note:エージェント・サーバー間の通信が安全ではない'))
+
+= 処理を分散
+
+  # image
+  # src = images/fluentd-distributed-monitor.svg
+  # relative_width = 100
+
+== スライドプロパティー
+
+: enable-title-on-image
+   false
+
+= 解決方法：高DB負荷
+
+  * (('note:サーバーのCPU使用率が高い'))
+  * 大量のログだとDBの負荷が高い
+    * 対象ログのみ保存
+  * (('note:エージェント・サーバー間の通信が安全ではない'))
+
+= 対象ログのみ保存
+
+  # image
+  # src = images/hatohol-store-only-target-logs.svg
+  # relative_width = 100
+
+== スライドプロパティー
+
+: enable-title-on-image
+   false
+
+= 解決方法：安全でない通信
+
+  * (('note:サーバーのCPU使用率が高い'))
+  * (('note:大量のログだとDBの負荷が高い'))
+  * エージェント・サーバー間の\n
+    通信が安全ではない
+    * 通信路を暗号化
+
+= 通信路を暗号化
+
+  # image
+  # src = images/hatohol-secure-connection-overview.svg
+  # relative_width = 100
+
+== スライドプロパティー
+
+: enable-title-on-image
+   false
+
+= 通信路を暗号化（AMQP）
+
+  # image
+  # src = images/hatohol-secure-connection-amqp.svg
+  # relative_width = 100
+
+== スライドプロパティー
+
+: enable-title-on-image
+   false
+
+= 解決
+
+  * (('note:サーバーのCPU使用率が高い'))
+    * 処理を複数ノードで分散
+  * (('note:大量のログだとDBの負荷が高い'))
+    * 対象ログのみ保存
+  * (('note:エージェント・サーバー間の通信が安全ではない'))
+    * 通信路を暗号化\n
+      (('note:（Hatohol・DB間は安全ではない）'))
+
+= 課題
+
+  * 導入が面倒
+  * 導入後の設定が面倒
+
+= 課題：導入が面倒
+
+  * ノード数が増える
+  * TLSの設定が増える
+
+= ノード数：Zabbix
+
+  * サーバー：数台
+  * エージェント：ホスト数
+
+= ノード数：Hatohol
+
+  * 同じ
+    * サーバー：1台
+    * 収集用Fluentd：ホスト数
+  * 増加
+    * RabbitMQ：1台
+    * 監視用Fluentd：数台
+    * AMQPコンシューマーFluentd：数台
+
+= TLSの設定
+
+  * 認証局を作成
+  * 各ノード用の鍵を作成
+  * 認証局で公開鍵証明書を発行
+  * ↑を使う設定を追加
+
+= 認証局を作成
+
+  [ca]# hatohol-ca-initialize
+
+= ノード用の鍵を作成
+
+  # クライアント用
+  [client1]% hatohol-client-certificate-create \
+    --host-name client1.example.com
+  # サーバー用
+  [server1]% hatohol-server-certificate-create \
+    --host-name server1.example.com
+
+= 証明書を発行
+
+  # クライアント用
+  [client1]% scp req.pem ca:
+  [ca]# hatohol-ca-sign-client-certificate \
+    /../req.pem
+  # サーバー用
+  [server1]% scp req.pem ca:
+  [ca]# hatohol-ca-sign-server-certificate \
+    /../req.pem
+
+= 設定：RabbitMQ
+
+  [
+    {rabbit, [
+      {ssl_listeners, [5671]},
+      {ssl_options, [
+        {cacertfile, "/etc/rabbitmq/ca-cert.pem"},
+        {certfile, "/etc/rabbitmq/server-cert.pem"},
+        {keyfile, "/etc/rabbitmq/key.pem"},
+        {verify, verify_peer},
+        {fail_if_no_peer_cert, false}
+      ]}
+    ]}
+  ].
+
+= 設定：Fluentd
+
+  <match hatohol.**>
+    type hatohol
+
+    url "amqps://user:password@rabbitmq.example.com/hatohol"
+
+    tls_cert "/../client-cert.pem"
+    tls_key "/../key.pem"
+    tls_ca_certificates ["/../ca-cert.pem"]
+  </match>
+
+= 設定：Hatohol
+
+  # image
+  # src = images/hatohol-hapi-json-add-ui.png
+  # relative_height = 100
+  # reflect_ratio = 0.1
+
+== スライドプロパティー
+
+: enable-title-on-image
+   false
+
+= 課題：導入後の設定が面倒
+
+  * 設定は各ノードで行う
+    * Zabbixはサーバーで一括管理
+    * fluentd-server：設定を配布
+  * Fluentdの設定GUIがない
+    * fluentd-ui：いくつか設定可能
+    * ↑ローカルのFluentdを設定
+
+= 設定はどこから実施する？
+
+  * 前提
+    * Hatohol利用者はZabbixに\n
+      直接アクセスできないかもしれない
+    * 監視環境内のノードにアクセス不可
+  * 全部Hatohol経由で設定？
+    * Zabbixも？Fluentdも？Redmineも？
+
+= 今後の方向
+
+  * 課題
+    * ホスト管理機能と連携することで\n
+      解決可能？
+  * 改善
+    * 実際に使ってフィードバック
+    * 使ってもらってフィードバック

metadata

@@ -0,0 +1,89 @@
+--- !ruby/object:Gem::Specification
+name: rabbit-slide-kou-hatohol-log-monitoring-2014-10
+version: !ruby/object:Gem::Version
+  version: 2014.10.7.0
+platform: ruby
+authors:
+- Kouhei Sutou
+autorequire: 
+bindir: bin
+cert_chain: []
+date: 2014-10-06 00:00:00.000000000 Z
+dependencies:
+- !ruby/object:Gem::Dependency
+  name: rabbit
+  requirement: !ruby/object:Gem::Requirement
+    requirements:
+    - - ">="
+      - !ruby/object:Gem::Version
+        version: 2.0.2
+  type: :runtime
+  prerelease: false
+  version_requirements: !ruby/object:Gem::Requirement
+    requirements:
+    - - ">="
+      - !ruby/object:Gem::Version
+        version: 2.0.2
+- !ruby/object:Gem::Dependency
+  name: clear-code
+  requirement: !ruby/object:Gem::Requirement
+    requirements:
+    - - ">="
+      - !ruby/object:Gem::Version
+        version: '0'
+  type: :runtime
+  prerelease: false
+  version_requirements: !ruby/object:Gem::Requirement
+    requirements:
+    - - ">="
+      - !ruby/object:Gem::Version
+        version: '0'
+description: 2014年10月時点でのHatoholのログ監視機能について説明します。
+email:
+- kou@clear-code.com
+executables: []
+extensions: []
+extra_rdoc_files: []
+files:
+- ".rabbit"
+- README.rd
+- Rakefile
+- config.yaml
+- images/fluentd-distributed-monitor.svg
+- images/fluentd-icon.png
+- images/fluentd-logotype.png
+- images/fluentd.png
+- images/hatohol-hapi-json-add-ui.png
+- images/hatohol-secure-connection-amqp.svg
+- images/hatohol-secure-connection-overview.svg
+- images/hatohol-store-only-target-logs.svg
+- images/zabbix-high-cpu-usage.svg
+- images/zabbix-high-db-load.svg
+- images/zabbix-insecure-connection.svg
+- overview.rab
+- pdf/hatohol-log-monitoring-2014-10-overview.pdf
+homepage: http://slide.rabbit-shocker.org/authors/kou/hatohol-log-monitoring-2014-10/
+licenses:
+- CC0-1.0
+metadata: {}
+post_install_message: 
+rdoc_options: []
+require_paths:
+- lib
+required_ruby_version: !ruby/object:Gem::Requirement
+  requirements:
+  - - ">="
+    - !ruby/object:Gem::Version
+      version: '0'
+required_rubygems_version: !ruby/object:Gem::Requirement
+  requirements:
+  - - ">="
+    - !ruby/object:Gem::Version
+      version: '0'
+requirements: []
+rubyforge_project: 
+rubygems_version: 2.2.2
+signing_key: 
+specification_version: 4
+summary: Hatoholのログ監視機能 2014/10版
+test_files: []