Как понял вопрос не в закрытии всплывающего окна, а в том что показывается основное окно.
Каким образом у вас вообще показывается всплывающее окно если приложение свернуто (минимизировано) ?
Для того чтобы увидеть показать всплывающее окно нужно развернуть приложение (в этом случае увидите и главную форму) либо показать типа так :
...
SetWindowPos(Form1.Handle, HWND_TOPMOST, 0, 0, 0, 0, SWP_NOSIZE or SWP_NOMOVE or SWP_NOACTIVATE);
Form1.Show;
...