専用チップを使って強化されるAmazon EC2

12月3日(米国時間)、米Amazon Web Services(AWS)の年次イベント「AWS re:Invent」の基調講演で、CEOのAndy Jassy氏は、テーマの発表に続いて、インフラストラクチャの強化について発表した。

AWSの提供するサービスは多岐にわたるが、AWSを最初に開発者に印象づけたのはIaaSであるAmazon EC2だ。Amazon EC2は現在でも次々と新たなインスタンスが追加されている。それは単に「仮想CPUの数が増える」「メモリ容量が増える」「高速なストレージを追加する」といった取り組みだけではない。「新たなチップを採用することで、目的とするワークロードに適したインスタンスを実現する」――それが、今回の「AWS re:Invent」でJassy氏が強調したポイントだった。

Jassy氏はAmazon EC2に関して、次のトピックを取り上げた。

  • Nitroシステム
  • M6g、R6g、C6gインスタンス
  • Inf1インスタンス
  • Amazon EC2について実施された強化内容ほか

    Amazon EC2における強化

どれも専用のチップやボードを導入してEC2インスタンスの性能向上や特定のワークロードに対する最適化が実施されている。

Nitroシステム

NitroシステムはAmazon EC2に導入された仮想化ハードウェアだ。これは、従来ハイパーバイザー・ソフトウェアが担ってきた役割の一部を肩代わりするハードウェアで、処理をハードウェアや専用のソフトウェアにオフロードすることで性能の向上を実現する。これまでのハイパーバイザーよりも軽量で高速、さらにセキュリティ機能が追加されるという特徴がある。

  • Nitroシステム

    Nitroシステム

NitroシステムはすでにAmazon EC2に導入されており、今後提供される次世代のAmazon EC2インスタンスではデフォルトで採用されることになるという。AWSはAmazon EC2の根幹部分を支えるハイパーバイザー部分にこうした専用にチップおよびボードを導入することで、機材で利用できるインスタンス数の引き上げとパフォーマンスの向上を実現している。

M6g、R6g、C6gインスタンス

M6gインスタンス、R6gインスタンス、C6gインスタンスは「AWS Graviton2プロセッサ」によって提供される新しいインスタンスだ。AWS Graviton2プロセッサはARMプロセッサベースの新しいプロセッサで、x86ベースのインスタンスと比較して価格と性能の面で40%ほど優れていると言われている。どのサービスも正式なサービスとしてローンチする予定だ。

  • ARMベースのAWS Graviton2プロセッサが採用される新インスタンス

    ARMベースのAWS Graviton2プロセッサが採用される新インスタンス

AWS Graviton2プロセッサを使ったこれらインスタンスの主な特徴は次のとおり。

  • AWSが設計した7nmシリコンチップをベースとした64ビットコア
  • 最大64仮想プロッサまでスケール
  • 最大25Gbpsのネットワーク機能
  • 最大18Gbps EBS通信帯域
  • AWS Gravitonと比較して4倍以上のコンピュートコア、5倍のメモリアクセス速度、7倍のパフォーマンスを実現
  • x86第5世代インスタンスと比較して性能および価格の面で40%の優位性を実現

ARMベースのプロセッサを利用したインスタンスは、消費電力や価格の面でx86ベースのインスタンスよりも優位性があると考えられている。ARMベースのインスタンスをうまく使うことは、高い費用対効果を実現する1つのカギとなる。

今のところ、AWS Graviton2プロセッサを採用したM6gインスタンス、R6gインスタンス、C6gインスタンスに対応するオペレーティングシステムは各種LinuxディストリビューションとFreeBSDとされている。

Inf1インスタンス

Inf1インスタンスは、AWSが提供するInferentiaチップを搭載したインスタンスだ。高いスループットと推論ベースのコストの低さが特徴となっている。機械学習を使ったサービスではトレーニングコストの高さが注目を集めがちだが、AWSは「機械学習を使ったサービスの運用まで含めると、その多くはトレーニングではなく推論にかかるコスト」と指摘しており、Inf1インスタンスは推論の用途において最速のインスタンスだという。

  • 推論に特化したInf1インスタンス

    推論に特化したInf1インスタンス

Inf1インスタンスの主な特徴は次のとおり。

  • G4と比較して低いレイテンシに高いスループット、推論単位のコストを最大40%まで削減
  • 1ミリセカンド以下のレイテンシで最大2,000 TOPSを実現
  • TenforFlow、PyTorch、MXNetといった人気の高い機械学習フレームワークを統合
  • Amazon EC2、Amazon EKS、Amazon SageMakerとの連動

AWSにはこのようにチップレベルで新しい機能を開発し、自社の製品に取り込むという特徴がある。需要に特化したチップおよびボードを開発してプロダクトに取り込むことで、汎用品のみを使ったシステムよりも高い費用対効果を実現する。これはAWSがこれまで取り組んできた最適化の手法であり、現在でもその取り組みが進められていることになる。

各種ストレージサービスの強化

Jassy氏の基調講演では、Amazon EC2インスタンスのほか、ストレージサービスやデータベースサービスの機能強化または新サービスの発表が行われた。EC2インスタンスの性能が向上しても、ストレージが遅ければその性能を発揮することができない。EC2の強化と同時にストレージやデータベースサービスの機能強化または新しいサービスの追加が発表されるのは当然といったところだ。