http://www.red3d.com/cwr/steer/
Это про тип ИИ такой Steering Behaviors For Autonomous Characters называецца, вот в нем, есть такое же свойство: избегать столкновений. Ибо это ИИ, сделано довольно оптимизированно. Так что принцип именно оттула можно взять.