Apple Watch Series 9とUltra 2には、S9という新しいSiP(System in Package)が搭載されました。A16 Bionicと同じ5nmプロセス(N4P)で製造されており、特にニューラルエンジンが2コアから4コアに増加したことで、デバイス上での音声認識など、機械学習処理を省電力性を損なわずに実行できる点が魅力となっています。
その象徴的な機能として新しく追加されたのが「ダブルタップ」という新しいジェスチャーです。このダブルタップについて、米AppleでApple Watchプロダクトマーケティングを担当するエリック・チャールズ氏と、watchOSソフトウェアエンジニアリングのデイビッド・クラーク氏にインタビューしました。
新しいジェスチャーを作った
「Apple Watchは、登場当初からさまざまなジェスチャーが搭載されてきた」と経緯を紹介するのは、エリック・チャールズ氏。その発展として、ダブルタップという新しいジェスチャーが作られた点を説明しました。
「腕を上げて画面が点灯する、画面を覆うと着信などがミュートする、など、Apple Watchにはこれまでさまざまなジェスチャーを搭載してきました。そうしたなかで、アクセシビリティ機能としてAssistiveTouchを盛り込み、その知見から、新しいジェスチャーとしてダブルタップを作ったのです」(チャールズ氏)
AssistiveTouchは、ディスプレイにタッチ操作ができない人向けに、選択操作や決定操作を伴うスワイプやポイント、タップといった操作を代替するジェスチャーのこと。Apple Watchには「ピンチ」「ダブルピンチ」「クレンチ(腕を握る)」「ダブルクレンチ」という4つのジェスチャーが備わっています。
このうち、ダブルピンチ(人差し指を親指に2回素早くタップする)に注目し、「ダブルタップ」という常時認識可能な、一般的な操作方法として取り入れることにしたそうです。
機械学習処理と高度な省電力性で実現
では、ダブルタップをどのように認識しているのか。デイビッド・クラーク氏に聞きました。
「S9チップの機械学習処理のパワー(Apple Neural Engine)によって実現しています。加速度センサー、重力センサー、そして心拍センサーを用いています。ダブルタップの動作とそれ以外の異なる動作で、これらのセンサーがどのように反応するのかを数千人分のデータをもとに学習し、検出する仕組みを作りました」(クラーク氏)
しかし、ふだんApple Watchを使っていると、この検出が非常に難しいことに気づかされます。というのも、そもそも着信や通知などで時計は振動しますし、常に腕に装着していれば振動やその他の動きなど、膨大なノイズとの戦いになることが分かるからです。
「S9 SiPによって、各センサーには15%もの認識精度向上が見られました。指が動き始める先行動作を検出してセンサーの認識を動作させるため、省電力性を保ちつつ、遅延のないリアルタイムな認識を実現しています。認識には、本体のバイブレーションなどのノイズを除去するサブシステムが用いられており、誤認識を極めて低いレベルに抑えました」(クラーク氏)
ダブルタップの意図以外では反応しない
実際に、筆者もデモ端末で、少し意地悪なテストをしてみました。例えば、お箸を握って、カチカチと先端を重ねる動作でダブルタップが反応するかどうかを試しましたが、結果としては反応しませんでした。ダブルタップと動作は似ていますが、親指と人差し指が同時に動いて箸を動かしているために認識されない、ということです。
もう一つ、Apple Pencil(第2世代)にも、軸を2度叩くとツールを切り替えられる、同じ名称のジェスチャー「ダブルタップ」があります。普通にペンを握ってダブルタップをすると、Apple Pencilのダブルタップは反応しましたが、Apple Watchのダブルタップは反応しませんでした。
今度は、時計の向きが異なっているからで、時計に向けてダブルタップを操作したのではない、と判断されたようです。腕を上げてから手首を返し、文字盤が自分に見えるようにした状態で、Apple Pencilを握りながらダブルタップをすると、今度はApple Watchのダブルタップが反応しました。
細かいようですが、人の意図をきちんと判断した認識が行われていることを物語っています。
使いどころは意外と多い
ダブルタップを何もない状態で行うと、watchOS 10に追加された小さなウィジェットがめくれる「スマートスタック」を表示し、ダブルタップを繰り返すごとにウィジェットを切り替えて見ることができます。
次の予定、再生中の音楽、天気、アクティビティの状況など、その時に必要な情報を次々に表示してくれるので便利だと感じました。スケジュールの確認がすぐにできるため、予定表示のコンプリケーションを文字盤に設定しなくてもよくなり、シンプルな文字盤の選択肢が広がります。
また、通話の着信があった時にもダブルタップで応答できるため、両手がふさがっている時に思わぬ着信に対応しなければならない時も焦らなくて済みます。
クラーク氏は「コーヒーを持っている時に着信があった場合、これまでは鼻先で画面をタップしていましたが、これからは鼻先でタップする必要がなくなります(笑)」と、鼻先やあごなどでタップしていた“Apple Watchあるある”の解消につながると解説しました。
また、ダブルタップは通知が届いた時に、その通知の主たるボタンを押す動作を代替できる仕組みがあります。これについて、チャールズ氏はこんな例を紹介してくれました。
「通知の一番大きなボタン(プライマリアクション)をタップする役割があります。もっともよく使うのは、自動的にワークアウトが検出された時に、ワークアウトをONにする緑のボタンを、ダブルタップで押すことができます」(チャールズ氏)
歩いている時に屋外ウォーキングの計測開始を設定するときはまだ余裕がありますが、自転車に乗っているときに屋外サイクリングの通知が届くと、両手のハンドルを離すことができず、いつまで経ってもワークアウトを開始できない状況でした。ダブルタップがあると、ハンドルを握りながらでもダブルタップは反応してくれるため、安全にワークアウトを開始できるというわけです。
意味のあるエンジニアリングを目指した
前述の通り、ダブルタップはAssistiveTouchを下敷きに、新たなジェスチャーの操作方法を実現しています。なぜこの動作を選んだのか尋ねると、クラーク氏は次のように答えました。
「ダブルタップという動作を選んだ理由は、簡単に使えることです。やったことがない人に簡単に説明でき、すぐに試せ、簡単に覚えてもらえる点が重要です。何より、正確に認識できることも重視しました」
クラーク氏は、人々の生活をより良くする「意味のあるエンジニアリング」を目指していると語り、より多くの人たちが、ダブルタップを使ってApple Watchをより便利に使ってもらうことに期待を寄せていました。