Sí está abierto el programador de Quartus el otro programa (el programa jtagcon con el que se comunica el debugger) no puede comunicarse con la placa.
Sí cargas el sistema usando el Quartus, antes de cargar el programa desde el debugger se debe cerrar el programador de Quartus.