Попробуйте остановить службу, проверить в диспетчере задач, не осталось ли незавершенных процессов server_64.exe и если остались - завершите их.
Полагаю, про обновление ИРБИС говорить бесполезно? Хотя это бы точно решило ряд проблем включая и эту.
В любом случае попробуйте выполнить следующее:
1. остановить службу, убить оставшиеся процессы server_64.exe
2. установить и настроить
ИРБИС-ПРОКСИ
3. вновь запустить службу irbis64_service