Попробуй в Renderer::RenderWorld вместо
float timeStep = 1.0f / 60.0f;
//if( g_fpsCounter.fps > 0 )
// timeStep = 1.0f / (float)g_fpsCounter.fps;
const int subSteps = 4;
g_dynamicsWorld->stepSimulation ( timeStep, subSteps );
написать
float timeStep = 1.0f / 60.0f;
//if( g_fpsCounter.fps > 0 )
// timeStep = 1.0f / (float)g_fpsCounter.fps;
const int subSteps = 4;
g_dynamicsWorld->stepSimulation ( timeStep, subSteps, 1.0f / 120.0f );
Если это не исправит проблему, значит она в другом.