AI

Physical AI Control Room

Isaac Sim-to-Real VLA Lab

系統就緒 Demo API · connecting C4 SAFETY · CHECKING 30 FPS

Portfolio case study · NVIDIA Physical AI

從語言指令到安全的 Sim-to-Real 驗證流程

這是一個可操作的系統設計案例:將 VLA 任務、Domain Randomization、Isaac telemetry contract、SIL/HIL gate 與機器人安全邊界整合成可展示、可測試的工作流。

Live in this Space互動控制台、策略比較、壓力測試與瀏覽器模擬。
Integration contract ready遠端 Isaac worker、telemetry schema 與安全橋接介面。
Not connected publiclyPhysX/RTX、攝影機與實體機械手臂;需在受控主機執行。
Public Dataset · CC BY 4.0 100-frame SDG contract

80 positive + 20 hard-negative;81/10/9 split,0 個相同 annotation group 跨 split。

開啟 Dataset Viewer ↗
Public Model · MIT Tiny Vial CNN · 141k params

Safetensors + PyTorch checkpoint;held-out positive test mean IoU 0.893。

開啟 Model Card ↗
Evidence boundary Reproducible, not production

公開成果是 deterministic offline-contract baseline,不代表 Isaac RTX 或真機泛化成效。

查看 mock/real 系統邊界 ↓

Digital Twin / Real Cell · 同步驗證

Episode #024
Digital Twin · Isaac SimMac preview
USD STAGE · PHYSX READY
sim: blue vial
Real Cell · External CameraCONNECTING
VIAL 0.94 · RACK 0.98 Real cell blue vial detection feed
real: blue vial

即時任務指標

rolling 50 trials
Real success72%
+18 pts vs baseline
Sim-to-real drop11%
越低越好
Joint MAE3.8°
wrist dominant
Latency86 ms
action horizon 16

環境壓力測試

runtime conditions
低照度 / 曝光偏移
試管位置未見
背景材質改變
負載 +20 g
Domain Randomization
GapONet 補償

SAGE · 關節作動誤差

raw command

策略對照

mock benchmark

執行事件

latest first

Sim / Real 軌跡疊圖

normalized end-effector path

成功率趨勢

recent episodes

System Architecture · 從展示層到實體安全邊界

portfolio evidence
01 · INPUTLanguage Task UI

輸入任務、策略 checkpoint、SIL/HIL 模式與壓力條件。

02 · POLICYVLA Contract Layer

標準化 action request、Domain Randomization 與 episode state。

03 · SIMIsaac Worker

遠端 RTX 主機回傳 phase、latency、成功率與 joint error。

04 · SAFETYHost Safety Bridge

人工確認、allowlist、arm gate、E-STOP 與 watchdog。

05 · REALRobot Cell

SO-101/Arduino、外部攝影機與校正後的真實工作區。

AI Product / TPMSolution ArchitectureTechnical MarketingRobotics WorkflowSafety-first Prototyping
End-to-end contract

定義 UI、telemetry、Isaac worker 與硬體橋接之間的小型可測介面。

Demo without overclaiming

無 GPU 時使用 deterministic mock;介面明確標出預覽與真實執行邊界。

Measurable validation

以 success gap、joint MAE、latency 與 stress conditions 組成驗證敘事。

Defense in depth

把人為確認、E-STOP、watchdog 與實體控制從公開瀏覽器隔離。

05:00
Sim-to-Real 五分鐘導覽自動操作控制台,講者可依提示說明。