本篇文章會主要會介紹，什麼是 SUSE Linux Enterprise HAE，並且介紹它的架構

可以透過點擊以下目錄，選擇想看的內容，跳轉至特定章節

:::warning

:::spoiler {state=“open”} 目錄

[TOC]

:::

可能是因為兩個 Cluster 所在的地點之間的網路故障，也可能是因為某個 Cluster 所在的地點網路被中斷，在這種情況下，你需要一個額外的實例 ( 第三個不同地點的 Cluster 或是一個 arbitrator [仲裁器]） 來就跨地點的資源故障轉移等決策達成共識。

:::info

Arbitrator ( 仲裁器 )

:::

最常見的情況可能是一個 Geo Cluster 有兩個地點，在第三個地點上有一個 arbitrator。 這就需要三個 booth 服務。

也可以運行一個在 兩個地點 的 Geo Cluster 但是沒有 arbitrator。 在這種情況下，Geo Cluster 的管理員需要手動管理 ticket。 如果要同時向多個地點的 Cluster 授予 ticket， booth 會顯示警告。

Q. A SUSE Linux Enterprise HA subscription is included with a SLE15 subscription, True or false?

Q. What are the two open source clustering technologies used by SLE HA?

Q. SUSE Linux Enterprise HA supports which types of cluster?

Q. A subscription for Geo Clustering for SLE HA is included with the SLE HA Extension subscription, true or false?

高可用性叢集的設計主要是為了確保服務的最高可用性。

任何電腦，無論是真實電腦還是虛擬電腦，都是 Cluster 的成員。

Consensus Cluster Membership ( 共識叢集成員資格 )。

這是決定哪些 Node 組成叢集，並把這個資訊分享給叢集中的所有 Node 。每個叢集的 Node 都運行一個 CCM module。

如果一個 cluster partition 擁有多數節點 (或投票權)，就被定義為具有仲裁的能力 (quorate)

A cluster partition is defined to have quorum (is “quorate”) if it has the majority of nodes (or votes)

cluster configuration/status 的版本號

cluster nodes 被分為兩個或多個群組，而這些群組彼此不知道對方的存在。

發生 Split Brain 的原因有可能只是因為機器跟機器之間網路斷線，在只有 2 個節點的情況下，HA 本身不具備要殺死 A 節點還是 B 節點的能力，理論上雙方都會認為自己是存活的一方，此時為了保證共享資源的完整性，雙方都會調用 Fencing 的機制，這時候就會啟動 SDB，就有可能出現一種狀況，那就是 Double Fencing，雙方同時要 Fencing 對方，為了避免這種情況發生，HA 之中可以設定一種參數，來防止雙方同時發出 Fencing。

防止在 Cluster 中被隔離或 failing 的 Node 存取 shared resource ( 共享資源 ) 。

何時會觸發這種機制? 答: 在叢集發生 Split Brain 和 啟動/停止服務的動作超過預設的時間時會觸發 Fencing。

active node 上運行一個或多個服務，而 Passive node 則等待 active node 發生故障後再接管服務。

每個 node 同時都是 active 和 passive 的。 例如，一個 node 上有一些服務在運行，但它也可以接手另一個 node 上的其他服務。

此元件負責在叢集內傳遞訊息、確保叢集成員資格的一致性，以及計算足夠節點的數量。這些資訊由群組通訊系統 Corosync cluster engine 處理。

• Sends out messages
  • Example: “I am alive”
• Can use unicast (單播) or multicast (多播)
  • Unicast
    • More secure if multiple cluster share the same network infrastructure
    • 當叢集中新增或刪除節點時，需要重新配置 corosync
    • cloud hosted HA clusters 需要
  • Multicast
    • Easy to add nodes with reconfiguring all the existing nodes
• Corosync is a seperate systemd service - Cloud hosted HA clusters 不能使用 multicast

The Resource Allocation Layer is provided by Pacemaker

Components

• Cluster Resource Manager - CRM
• Cluster Information DataBase - CIB
• Designated Coordinator - DC
• Policy Engine - PE
• Local Resource Manager - LRM
• STONITH

Cluster Resouce Manager (Pacemaker)

Cluster Information Database (CIB)

• Pacemaker 會在每一台 node 上維護 cluster information database。
• 它是一個 XML 的叢集設定檔，包含 :
  • All cluster options
  • nodes
  • resources
  • constraints
  • the relationship to each other
• 它不僅是叢集的設定檔，也會反映叢集目前的狀態
• 每個叢集節點都會儲存一個 CIB 的副本，並且會在叢集中同步
• pacemaker-based 背景程序，負責讀取和寫入 Cluster 的設定和狀態。
• 設定檔的版本儲存在每個 Node 的硬碟上

Designated Coordinator (DC)

• 在 Cluster 的所有 Node 上，其中一個 CRM 會透過選舉晉升為 Designated Coordinator
  • 當 Cluster 中沒有 DC 存在時，會進行選舉
  • 如果當前 DC 因任何原因離開 Cluster 時，也會進行選舉
• 決定是否必須在整個叢集範圍內進行變更
  • 範例
    • 移動資源
    • 封鎖一個節點
• Maintains the master copy of the CIB

Policy Engine (PE)

• Policy Engine 在每個 Node 上運行，但 DC 上的引擎是 active 的。
• 以 pacemaker-schedulerd 背景程序的形式實現。
• 當需要進行 cluster transition 時，pacemaker-schedulerd 會根據目前狀態和設定計算叢集的下一個狀態。
• 它決定需要安排哪些操作來實現下一狀態。

Local resource manager (LRM)

• 負責接收 CRM 的請求
• 呼叫 local Resource Agents
  • CRM → LRM → RA
• Task performed on Resource Agents:
  • Start
  • Stop
  • Monitor
• Is authoritative ( 有權威性的 ) about the state of resouces on the local node

STONITH

CIB 使用 XML 格式記錄叢集的設定和所有資源的狀況，所有叢集的節點都會自動同步 CIB 的內容，讓 PEngine 可以根據這些資料來計算出叢集的理想狀態，並想出達成理想狀態的方法。

PEngine 會把一連串指示交給 DC，DC 可以想像成是指揮官，負責指揮整個叢集的運作。 Pacemaker 會選出一個 CRMd 當成 DC，由它來統一做決策。如果選出來的 CRMd 失效了，就會趕快選出另一個來接手。

DC 會按照 PEngine 的指示，指揮其他節點上的 LRMd 或 CRMd 工作。 它會透過叢集的通訊系統發送指令，叫這些節點照著做。

所有節點都會把自己的工作結果回報給 DC。 DC 會比對預期結果和實際結果，如果有問題，就會請 PEngine 重新計算理想狀態，想出解決辦法。

有時候，為了保護資料或讓資源復原，可能需要強制關閉某些節點。 這時 Pacemaker 就會用 STONITHd 來處理。

• 包含一個或多個 Resource Agents
• Examples of resources include:
  • IPaddr2
    • An ip address resource
  • STONITH
    • A fencing resource

Resource Agent

• Resouce Agents 就是程式
  • 通常是 shell scripts
• Resource Agents can:
  • Start
  • Stop
  • Monitor
• 致力於特定類型的服務
  • Example: IPaddr2
• 會被 Local Resouce Manager 呼叫
  • 回傳值會傳回 CRM

Resource Agent Providers

• 以下是多個 Resource Agent providers
  • OCF
    • Open Cluster Framework
    • Recommended to use OCF providers if available
  • LSB
    • Linux Standards Base
    • Provided by the operating system and found in /etc/init.dge
  • systemd
    • Directly manage systemd services
  • service
    • Sopports systemd, init and upstart
      • Useful if the cluster has a mix of service types
  • STONITH
    • Used exclusivly for fencing related resources

Third Party Resource Agents

• Third parties can include custom Resouce Agents
  • These provide out of the box cluster integration for third party applications

STONITH

• 全名 : “Shoot The Other Node In The Head”
• Pacemaker provides STONITH
• Provides a node level fencing mechanism
• Fencing is required if a problem occurs and a node must be denied access to a cluster resource
  • Example: A node is denied access to a filesystem so it can be loaded on another node

Distributed Lock Manager

• Provides generic cluster wide locking facilities
  • Allow the use of active/active storage
• Utilizes Pacemaker cluster membership services that run in user space
  • Therefore runs as a reources on each node

Cluster Logical Volume Manager

• Uses the daemon lvmlockd
  • Replaces clvmd
  • lvmlockd introduced with SLE15 HA
• Used with LVM2 in a cluster enviroment
• Protects the LVM metadata on shared storage

Q. Name three components of the Resource Allocation Layer

Q. What does SLE HA use as its Cluster Resource Manager?

Q. What does SLE HA use as its Messaging component?

Q. What type of tasks does a Resource Agent perform, give three examples?