EBench Docs
Ejecutar evaluación
1. Iniciar el servidor
Sección titulada «1. Iniciar el servidor»python ray_eval_server.py --host 0.0.0.0 --port 8087O con una instalación local de Isaac Sim:
/isaac-sim/python.sh ray_eval_server.py --host 0.0.0.0 --port 80872. Enviar una tarea
Sección titulada «2. Enviar una tarea»Desde el entorno del cliente, envía un trabajo de evaluación:
gmp submit ebench/mobile_manip/test --run_id my_first_runConfiguraciones de tareas disponibles:
| Configuración de tarea | Descripción |
|---|---|
ebench/mobile_manip/<split> | Pick-and-place con base móvil |
ebench/table_top_manip/<split> | Tareas de manipulación precisa en mesa |
ebench/generalist/<split> | Tareas mixtas de distintas categorías |
Splits: val_train, val_unseen, test
Envía todas las tareas a la vez con gmp submit ebench --run_id full_run.
3. Conectar tu modelo
Sección titulada «3. Conectar tu modelo»Comprobación rápida de conectividad con el baseline integrado:
gmp eval -a r5a -g lift2 --worker_ids 0Para usar tu propio modelo, consulta Integrar tu modelo.
4. Ver resultados
Sección titulada «4. Ver resultados»gmp statusLos resultados se guardan en saved/eval_results/<task>/<run_id>/.
Cuando el servidor y el cliente se ejecutan en máquinas distintas, pasa
--host <ip> --port <port>a todos los comandosgmp. Consulta la referencia de GMP CLI para ver todas las opciones.