Amazon SageMaker Edge の機能

エッジデバイスで動作する機械学習 (ML) モデルを簡単に操作可能

SageMaker Edge のメリット

TensorFlow、PyTorch、XGBoost、TensorFlow Lite でトレーニングしたモデルを最適化し、あらゆるエッジデバイスにデプロイできるようにします
ファームウェアやアプリケーションのアップデートに依存しない、デバイス群全体でのモデルのデプロイ
モデル再トレーニングのためのスマートデータキャプチャで継続的なモデル改善を実現
エッジサーバーからスマートカメラ、IoTセンサーまで、あらゆるデバイス群に対応した自動MLOpsパイプラインの構築

Amazon SageMaker Edge の機能

Amazon SageMaker Edge の機能は、エッジデバイスのフリート全体で ML モデルの最適化、保護、監視、保守をサポートします。

モデルの作成

モデルの構築と改良

SageMaker Edge Agent は、設定したトリガーに基づいてデータやメタデータを取得し、既存のモデルを実際のデータで再トレーニングしたり、新しいモデルを構築することができます。また、これらのデータを利用して、モデルドリフト分析などの独自の分析を行うことができます。

動画を見る

選べるデプロイ方法

私たちは、3 つのデプロイの方法をご用意しています。GGv2 (およそサイズ 100 MB) は、完全に統合された AWS IoT のデプロイメカニズムです。デバイスの容量が限られているお客様向けに、SageMaker Edge 機能に小型のデプロイメカニズムを内蔵しています。好みのデプロイメカニズムをお持ちのお客様には、私たちのユーザーフローにプラグインできるサードパーティーのメカニズムをサポートしています。

動画を見る

ML モデルの最適化

Amazon SageMaker Edge Compiler は、多種多様なエッジデバイスにデプロイするために機械学習モデルを自動的に最適化します。SageMaker Edge Compiler は、トレーニングされたモデルを実行可能フォーマットにコンパイルします。実行可能フォーマットは、パフォーマンス最適化を適用し、ターゲットハードウェアでモデルを最大 25 倍高速に実行できるようにします。

動画を見る

スケールモデル

デバイスを監視するダッシュボード

Amazon SageMaker Edge Manager はダッシュボードを提供するため、フリート全体の各デバイスで実行されているモデルのパフォーマンスを把握できます。ダッシュボードは、フリート全体の状態を視覚的に理解し、コンソールのダッシュボードから問題のあるモデルを特定する際に役に立ちます。問題が特定されたら、モデルのデータを収集してデータにラベルを付け直し、モデルを再トレーニングして、モデルを再度デプロイすることができます。

セキュリティとコンプライアンスのサポート

Amazon SageMaker Edge は、お客様が提供するキーまたは AWS キーで署名して機械学習モデルをパッケージ化します。Edge Agent は署名を認証し、さらにモデルが改ざんされていないことを確認してからモデルをランタイムにロードします。

動画を見る

お客様

Levnovo 顧客ロゴ

世界一の PC メーカーである Lenovo™ は、最近、Amazon SageMaker を最新の予知保全製品に組み込みました。 

「新しい SageMaker Edge Manager は、デプロイ後にモデルを最適化、監視、継続的に改善するために必要な手作業を排除する場合に役に立ちます。これにより、他の同等の機械学習プラットフォームよりモデルの実行速度が速くなり、メモリの使用量が減少することが期待されます。SageMaker Edge Manager を使用すれば、エッジで自動的にデータをサンプリングしてクラウドへと安全に送信し、デプロイ後も継続的にデバイスごとに各モデルの品質を監視できます。これにより、世界中のエッジデバイスでモデルをリモートで監視、改善、更新できると同時に、私たちとお客様の時間とコストを節約できます」

Igor Bergman、Lenovo バイスプレジデント、PC およびスマートデバイスのクラウドおよびソフトウェア。

Basler 顧客ロゴ

Basler AG は、産業、医療、輸送、その他のさまざまな市場に向けて高品質デジタルカメラとアクセサリーを提供する大手メーカーです。

「Basler AG は、製造、医療、小売業のアプリケーションなど、さまざまな業界でインテリジェントなコンピュータビジョンにおけるソリューションを提供しています。Amazon SageMaker Edge Manager によって実現された新機能でソフトウェアの提供を拡張できることを嬉しく思います。機械学習ソリューションのパフォーマンスと信頼性を確保するには、エッジデバイスの機械学習モデルを継続的に監視、維持、改善できる、スケーラブルなエッジツークラウド MLOps ツールが必要です。SageMaker Edge Manager を使用すれば、エッジで自動的にデータをサンプリングしてクラウドへと安全に送信し、デプロイ後も継続的にデバイスごとに各モデルの品質を監視できます。これにより、世界中のエッジデバイスでモデルをリモートで監視、改善、更新できると同時に、私たちとお客様の時間とコストを節約できます」

Basler、ソフトウェアソリューション責任者、Mark Hebbel 氏。