Определяем каким процессом занят порт. Делать это будем на Windows Server 2012 R2, но инструкция подходит и для других версий Windows.
Для начала определим PID процесса. Запускаем командную строку и выполняем:
netstat -ano
В списке находим требуемый порт, я смотрю кто занял порт 5900:
PID 2404, запоминаем. Запускаем диспетчер задач:
taskmgr
Переходим во вкладку Details, сортируем по колонке PID и находим процесс с PID 2404:
Это VNC Server, что логично для этого порта :)