Экран очищается так:
SetColor(255,255,255);
FillRect(0,0,GetWidth?GetHeight);
Повернуть изображение можно с помощью
Lib_canvas
Для выгрузки ресурсов используется библиотека
Lib_memclean
На счет ошибки - иногда помогает установка совместимости с Win 98, однако в висте по-моему не помогает.