Coloso. | コロソ.

* スケーラビリティ：サーバーの追加・削除が発生した場合は、それに合わせてサービスのパフォーマンスを向上させる必要があります。
* レジリエント：サービスのAPIサーバー、DBサーバーなどの一部に障害が発生しても、サービスは継続的に提供されなければなりません。
* オートメーション：サービスのデプロイやサーバーの追加・削除などが、マニュアルではなくスクリプトなどによって自動化されなければなりません。
* モニタリング：サービスが正常に動作しているか把握する非常に重要な作業です。

* ngrinder：サービスがどの程度の負荷に耐えることができるのか、どこがボトルネックになるのかを知ることが重要です。ngrinderは負荷テストのためのツールです。
* prometheus：exporterを使用してそのサービスの指標を収集し、それをprometheusが保存して表示します。
* Grafana：Prometheusを通じて収集された指標を視覚化するために使用されます。

* サーバー側のロードバランシング：サーバー側ロードバランシングは、クライアントが実際のサービスを行うフロントエンドのロードバランサーだけをターゲットにし、発生した負荷はロードバランサーが自動的にバックエンドのサービスサーバーに分ける方法です。
* クライアント側のロードバランシング：クライアント側のロードバランシングは、クライアントが実際のサービスホストのリストを知り、それにより直接負荷を調整する方法です。

* サービス検出ツールZookeeper：サービスの種類とサービスに属するサーバーのリストを管理し、それを検出する方法です。
* サーキットブレーカー：外部サービスに障害が発生し、この呼び出しによって応答が遅くなった場合に、迅速に失敗させる方法です。
* レプリケーション：データの複製を意味します。サービスの可用性のためにレプリケーションは必須です。
* フェイルオーバー：サーバーに障害が発生した場合、それを置き換える別のサーバーにサービスを引き渡すことです。可用性のためにフェイルオーバーは必須です。
* コンシステントハッシュ法：大規模サービスでは、キャッシュのデータ損失もサービス応答に影響を与える可能性があります。キャッシュサーバーが追加・削除される度にデータが消える可能性がありますが、これを最小限に抑えるのがコンシステントハッシュ法です。

* インデックスシャーディング：多量のデータを分離して保存する方法です。インデックス方式は複雑ですが、各データごとにどのサーバーに割り当てるべきかを指定してくれるので、データの移動を最小化できる方法です。
* レンジシャーディング：最も簡単に適用できるシャーディング方式です。キーの範囲に従ってサーバーを割り当てます。

* モジュラーシャーディング：範囲に比べてデータを均等にシャーディングできる方式です。ただ、時間が経つにつれサーバーのスケーラビリティは制限されます。
* Guid：大規模サービスでシャーディングのために唯一のキーを作成することは非常に重要です。このために効率的に唯一のキーを作成するのがGuidです。
* 非同期キュー：APIサーバーから DB にデータを直接保存すると、最終的にAPI サーバーにデータが集中し、DBサーバーに負荷がかかります。これをキューを利用して非同期処理しながら負荷を調整すれば、より安定したサービスを運用することができます。

*ブルーグリーンデプロイメント：ローリングアップデートは、デプロイとロールバックの場合、サーバーの数が増えるほど時間が延びます。これを解決するのがブルーグリーンデプロイメントです。

*カナリアリリース：ブルーグリーンでデプロイをしても、多数のサーバーに新しいバージョンがデプロイされると、バグがある時に多くのユーザーがそれを経験することになります。このために、一部だけをデプロイするのがカナリアリリースです。

* タイムアウト：外部サービスを呼び出す際にタイムアウト値を誤って設定すると、データの重複などの問題が発生する恐れがあります。これをどのように防止するかについてのコツです。
* ルックアサイドキャッシング：通常、キャッシュは、キャッシュにデータがない場合、そのデータをDBから読み取ってキャッシュを作成します。これをルックアサイドキャッシング方式といいます。
* ライトバックキャッシング：DBに書き込むとDBに負荷がかかるため、まずキャッシュに書き込んで、後で実際のデータをストレージに保存するのがライトバックキャッシング方式です。状況によっては、データ消失の恐れがあります。
* ホットキー問題：ホットキーは、多くのデータがキャッシュサーバーまたはDBサーバーのパフォーマンスの限界を超えて特定のキーに集中している場合に発生する問題です。ホットキーの解決方法には、ローカルキャッシュ、リードレプリカを利用する方法、Multi Write Read Oneなどがあります。

Facebook、NAVER、KakaoなどのIT大手や、デリバリーサービスのBaemin、通販サイトのCoopangなどのユニコーンスタートアップ企業で、ユーザーからの大規模なメッセージを処理するために使用する分散キャッシュ技術です。 Redisは、速い速度と同時にエンジニアが簡単に使用できるデータ構造を提供し、作業効率の向上を手伝います。