Reporter successivement au Petit Nord puis au Progrès du Nord à Lille, Duburcq abandonne pendant près de cinq ans le journalisme et mène, selon la police, «l’existence d’un désœuvré» à Maubeuge chez sa mère. En octobre 1886, il rejoint L’Avenir de Dunkerque , à la demande de son rédacteur en chef Tubert, «pour l’associer à la campagne qu’il vient d’entreprendre contre la réaction cléricale à Dunkerque».
