専用チップを使って強化されるAmazon EC2
12月3日(米国時間)、米Amazon Web Services(AWS)の年次イベント「AWS re:Invent」の基調講演で、CEOのAndy Jassy氏は、テーマの発表に続いて、インフラストラクチャの強化について発表した。
AWSの提供するサービスは多岐にわたるが、AWSを最初に開発者に印象づけたのはIaaSであるAmazon EC2だ。Amazon EC2は現在でも次々と新たなインスタンスが追加されている。それは単に「仮想CPUの数が増える」「メモリ容量が増える」「高速なストレージを追加する」といった取り組みだけではない。「新たなチップを採用することで、目的とするワークロードに適したインスタンスを実現する」――それが、今回の「AWS re:Invent」でJassy氏が強調したポイントだった。
Jassy氏はAmazon EC2に関して、次のトピックを取り上げた。
- Nitroシステム
- M6g、R6g、C6gインスタンス
- Inf1インスタンス
どれも専用のチップやボードを導入してEC2インスタンスの性能向上や特定のワークロードに対する最適化が実施されている。
Nitroシステム
NitroシステムはAmazon EC2に導入された仮想化ハードウェアだ。これは、従来ハイパーバイザー・ソフトウェアが担ってきた役割の一部を肩代わりするハードウェアで、処理をハードウェアや専用のソフトウェアにオフロードすることで性能の向上を実現する。これまでのハイパーバイザーよりも軽量で高速、さらにセキュリティ機能が追加されるという特徴がある。
NitroシステムはすでにAmazon EC2に導入されており、今後提供される次世代のAmazon EC2インスタンスではデフォルトで採用されることになるという。AWSはAmazon EC2の根幹部分を支えるハイパーバイザー部分にこうした専用にチップおよびボードを導入することで、機材で利用できるインスタンス数の引き上げとパフォーマンスの向上を実現している。
M6g、R6g、C6gインスタンス
M6gインスタンス、R6gインスタンス、C6gインスタンスは「AWS Graviton2プロセッサ」によって提供される新しいインスタンスだ。AWS Graviton2プロセッサはARMプロセッサベースの新しいプロセッサで、x86ベースのインスタンスと比較して価格と性能の面で40%ほど優れていると言われている。どのサービスも正式なサービスとしてローンチする予定だ。
AWS Graviton2プロセッサを使ったこれらインスタンスの主な特徴は次のとおり。
- AWSが設計した7nmシリコンチップをベースとした64ビットコア
- 最大64仮想プロッサまでスケール
- 最大25Gbpsのネットワーク機能
- 最大18Gbps EBS通信帯域
- AWS Gravitonと比較して4倍以上のコンピュートコア、5倍のメモリアクセス速度、7倍のパフォーマンスを実現
- x86第5世代インスタンスと比較して性能および価格の面で40%の優位性を実現
ARMベースのプロセッサを利用したインスタンスは、消費電力や価格の面でx86ベースのインスタンスよりも優位性があると考えられている。ARMベースのインスタンスをうまく使うことは、高い費用対効果を実現する1つのカギとなる。
今のところ、AWS Graviton2プロセッサを採用したM6gインスタンス、R6gインスタンス、C6gインスタンスに対応するオペレーティングシステムは各種LinuxディストリビューションとFreeBSDとされている。
Inf1インスタンス
Inf1インスタンスは、AWSが提供するInferentiaチップを搭載したインスタンスだ。高いスループットと推論ベースのコストの低さが特徴となっている。機械学習を使ったサービスではトレーニングコストの高さが注目を集めがちだが、AWSは「機械学習を使ったサービスの運用まで含めると、その多くはトレーニングではなく推論にかかるコスト」と指摘しており、Inf1インスタンスは推論の用途において最速のインスタンスだという。
Inf1インスタンスの主な特徴は次のとおり。
- G4と比較して低いレイテンシに高いスループット、推論単位のコストを最大40%まで削減
- 1ミリセカンド以下のレイテンシで最大2,000 TOPSを実現
- TenforFlow、PyTorch、MXNetといった人気の高い機械学習フレームワークを統合
- Amazon EC2、Amazon EKS、Amazon SageMakerとの連動
AWSにはこのようにチップレベルで新しい機能を開発し、自社の製品に取り込むという特徴がある。需要に特化したチップおよびボードを開発してプロダクトに取り込むことで、汎用品のみを使ったシステムよりも高い費用対効果を実現する。これはAWSがこれまで取り組んできた最適化の手法であり、現在でもその取り組みが進められていることになる。
各種ストレージサービスの強化
Jassy氏の基調講演では、Amazon EC2インスタンスのほか、ストレージサービスやデータベースサービスの機能強化または新サービスの発表が行われた。EC2インスタンスの性能が向上しても、ストレージが遅ければその性能を発揮することができない。EC2の強化と同時にストレージやデータベースサービスの機能強化または新しいサービスの追加が発表されるのは当然といったところだ。