В стилях для модального окна выставляешь:
height:100%;
max-height:512px; - это например его постоянный размер.
overflow:hidden; - это сделает так чтобы ни скролл бара не появлялось, ни скроллить нельзя было.
Далее пишешь JS, где отлавливаешь touch евенты, и работаешь с ними.
Гугл полон этого, для примера одна из первых ссылок из гугла:
http://forrst.com/posts/jQuery_iPad_...ger_scroll-B30
Тут с использованием jQuery.