André Leglay fit des études de médecine à Paris, et vint se fixer à Cambrai. Il abandonna peu à peu son métier pour se consacrer à sa passion, les recherches historiques. Il publia nombre de ses recherches dans les recueils de la Société d’émulation de Cambrai, dont il devint secrétaire, puis président. Après avoir occupé le poste de bibliothécaire municipal de Cambrai, Guizot le nomma conservateur des archives du Nord. Il fut également membre correspondant de l’Institut.
Il a publié de nombreux travaux historiques sur le Nord et Cambrai en particulier dans les Mémoires de la Société impériales des sciences, de l’agriculture et des arts de Lille , dans le Bulletin de la Commission historique du Nord , dans La Revue agricole et littéraire de Valenciennes , Le Messager des sciences de Gand , Les Archives littéraires du nord de la France et du midi de la Belgique , l’Annuaire statistique du Nord , La Gazette de Flandre et d’Artois , La Revue du Nord , et les bulletins des sociétés savantes de nombreuses villes (Cambrai, Dunkerque, Douai, etc.). Il est également l’auteur de nombreuses monographies. Il est chevalier de la Légion d’honneur (1838).