Fils de Floribert Adriensence, Gaston Régnier Auguste Adriensence n’a pas encore 10 ans lorsqu’il perd son père. A 18 ans, après ses études au collège de Maubeuge puis au lycée de Valenciennes, il est engagé conditionnel. Il est incorporé au 128e RI à Sedan où il passe successivement caporal en mai 1887 et sergent en novembre de la même année au moment de « passer dans la disponibilité de l’année active ». A 20 ans, il est promu sous-lieutenant de réserve. Revenu à la vie civile, il se forme, pendant deux ans, au métier d’imprimeur chez Robbe à Lille, puis il rejoint l’entreprise familiale gérée depuis 1882 par son beau-père Ernest De Cagny. Quelques années plus tard, il lui succède comme directeur et rédacteur en chef de La Frontière, « principal et l’on pourrait dire unique rédacteur » selon le sous-préfet qui lui reconnaît « un certain talent » .Très actif, Gaston Adriensence n’hésite pas à engager des polémiques avec ses confrères pour défendre ses idées.
Attentif aux autres, il fait partie des fondateurs de l’Association professionnelle des journalistes du Nord. En 1914, dès les premiers mois de la guerre, il crée l’office des prisonniers de Maubeuge. En novembre 1919, il se présente aux élections législatives comme candidat de la Fédération républicaine du Nord (tête de liste Louis Loucheur)
Terrassé par la maladie, il meurt le 9 avril 1920. Sa femme Eugénie Augustine Foulon prend sa succession à la tête de La Frontière.