Capacity planning and scaling¶

Determining cloud scalability¶

Determining the scalability of your cloud and how to improve it requires balancing many variables. No one solution meets everyone’s scalability goals. However, it is helpful to track a number of metrics. You can define virtual hardware templates called 「flavors」 in OpenStack, which will impact your cloud scaling decisions. These templates define sizes for memory in RAM, root disk size, amount of ephemeral data disk space available, and the number of CPU cores.

デフォルトの OpenStack フレーバーは 表: OpenStack デフォルトのフレーバー に表示されています。

The starting point is the core count of your cloud. By applying some ratios, you can gather information about:

• 実行する必要のある仮想マシン数: ((オーバーコミット比率 × コア数) / インスタンスあたりのコア数)
• 必要とされるストレージ容量: (フレーバーのディスクサイズ × インスタンス数)

これらの比率を使用して、クラウドのサポートに必要なインフラストラクチャーがどの程度必要か判断することができます。

ここでは、期待される仮想マシン数や必要なストレージ数などの拡張性の情報を収集するために、これらの比率を使用した例を紹介しています。以下の数では、 (200 / 2) × 16 = 1600 仮想マシンのインスタンスをサポートし、 /var/lib/nova/instances のストレージ 80 TB が必要となります。

• 物理コア 200 個
• ほとんどのインスタンスのサイズは m1.medium (仮想コア数2、ストレージ50GB) とします。
• Default CPU overcommit ratio (cpu_allocation_ratio in the nova.conf file) of 16:1.

しかし、APIサービスやデータベースサーバー、MQサーバーがおそらく遭遇する負荷を見積もるためには、コア数以外の検討も行う必要があります。クラウドの利用パターンも考慮しなければなりません。

特定の例としては、マネージド Web ホスティングプラットフォームをサポートするクラウドと、コードコミットごとに仮想マシンを１つ作成するような開発プロジェクトの統合テストを実行するクラウドを比較してみましょう。前者では、VMを作成する負荷の大きい処理は数か月に 一度しか発生しないのに対して、後者ではクラウドコントローラに常に負荷の大きい処理が発生します。一般論として、VMの平均寿命が長いということは、クラウドコントローラの負荷が軽いことを意味するため、平均的なVMの寿命を検討する必要があります。

Aside from the creation and termination of VMs, you must consider the impact of users accessing the service particularly on nova-api and its associated database. Listing instances garners a great deal of information and, given the frequency with which users run this operation, a cloud with a large number of users can increase the load significantly. This can occur even without their knowledge. For example, leaving the OpenStack dashboard instances tab open in the browser refreshes the list of VMs every 30 seconds.

これらの要素を検討した後、クラウドコントローラにどのくらいのコア数が必要なのか決定することができます。上記で説明した留意事項の下、典型的には、ラック 1 本分のコンピュートノードに対して8 コア、メモリ 8GB のサーバで充分です。

You must also consider key hardware specifications for the performance of user VMs, as well as budget and performance needs, including storage performance (spindles/core), memory availability (RAM/core), network bandwidth hardware specifications and (Gbps/core), and overall CPU performance (CPU/core).

Adding cloud controller nodes¶

You can facilitate the horizontal expansion of your cloud by adding nodes. Adding compute nodes is straightforward since they are easily picked up by the existing installation. However, you must consider some important points when you design your cluster to be highly available.

A cloud controller node runs several different services. You can install services that communicate only using the message queue internally— nova-scheduler and nova-console on a new server for expansion. However, other integral parts require more care.

You should load balance user-facing services such as dashboard, nova-api, or the Object Storage proxy. Use any standard HTTP load-balancing method (DNS round robin, hardware load balancer, or software such as Pound or HAProxy). One caveat with dashboard is the VNC proxy, which uses the WebSocket protocol— something that an L7 load balancer might struggle with. See also Horizon session storage.

You can configure some services, such as nova-api and glance-api, to use multiple processes by changing a flag in their configuration file allowing them to share work between multiple cores on the one machine.

Segregating your cloud¶

Segregating your cloud is needed when users require different regions for legal considerations for data storage, redundancy across earthquake fault lines, or for low-latency API calls. It can be segregated by cells, regions, availability zones, or host aggregates.

メソッド毎に異なる機能を提供しますが、このメソッドは 2 つのグループに分類すると良いでしょう。

• セルおよびリージョン。クラウド全体を分離し、個別にコンピュートデプロイメントを稼働します。
• アベイラビリティゾーン およびホストアグリゲート。コンピュートのデプロイメントの分割のみを行います。

表: OpenStack 分離の手法 では、OpenStack Compute が現在提供している各分割メソッドの比較ビューを提供しています。

スケーラブルハードウェア¶

While several resources already exist to help with deploying and installing OpenStack, it’s very important to make sure that you have your deployment planned out ahead of time. This guide presumes that you have set aside a rack for the OpenStack cloud but also offers suggestions for when and what to scale.