なぜエッジAIなのか
製造現場でAI外観検査を運用する際、クラウドではなくエッジ（工場内のデバイス）で推論を完結させる選択には明確な理由があります。
⚡
低レイテンシ
クラウドへの画像送信→推論→結果返却のラウンドトリップが不要。リアルタイム判定が必須のラインで必須。
🔒
セキュリティ
製品画像が工場外のクラウドに送信されない。セキュリティポリシーが厳しい製造業では重要。
🌐
ネットワーク非依存
工場内ネットワークの障害やインターネット接続不良の影響を受けない。
Jetson AGX Orinの性能
NVIDIA Jetson AGX Orinは275 TOPSのAI演算性能を持つエッジAIデバイスです。TensorRTで最適化したモデルをデプロイすることで、外観検査に必要な推論速度を実現します。
TensorRT最適化のポイント
🔧
FP16/INT8量子化
精度を許容範囲に保ちながら推論速度を2〜4倍に高速化。検査要件に応じてFP16かINT8を選択。
📦
バッチ処理
複数カメラからの画像をバッチで推論し、スループットを最大化。
🔄
パイプライン化
画像取得→前処理→推論→後処理を並列パイプラインで実行。全体のレイテンシを最小化。
技術解説
VLM（Vision Language Model）による外観検査の仕組み