У меня не математика
я поставил пивот на место точки, припарентил его к прямоугольнику, повернул прямоугольник на ноль, просчитал попадание простыми вычитаниями, потом повернул прямоугольник как было.
Все средствами Блитц3д
Но это через анус.
Нужно формулами решить, ибо некрасиво.
(говорила мне мама - учись сынок. а я пиво, пиво... )