Peu après la naissance du Devoir en 1910, un Service de librairie fut mis sur pied afin de diffuser les brochures d'Henri Bourassa et d'autres collaborateurs du journal, que les lecteurs désiraient conserver.

Cette petite librairie, qui occupait un local dans l'immeuble de la rue Saint-Jacques puis dans celui de la rue Saint-Vincent, était dirigée par la secrétaire du gérant d'affaires, Jeanne Pampalon. En plus d'offrir les livres et brochures édités à l'imprimerie du Devoir, la librairie proposait essentiellement des livres religieux et des romans français à bon marché mais à la moralité irréprochable, édités par la Maison de la bonne presse, à Paris. Le Devoir les recevait un mois après leur parution en France. La majorité des livres étaient acheminés par courrier aux lecteurs de l'extérieur de Montréal qui les commandaient.

Selon Louis Dupire, auteur d'un reportage sur le Service de librairie publié dans Le Devoir du 23 février 1935, la Première Guerre mondiale vint paralyser ce service jusque-là florissant. On ne le ressuscita qu'après la guerre en demandant à Mlle Pampalon de repérer les soldes d'invendus, qui étaient rachetés par la librairie et écoulés grâce à une publicité «funambulesque» (dixit Louis Dupire) mais efficace dans Le Devoir. Bien sûr, n'y trouvaient place que les ouvrages religieux (de la Somme de saint Thomas d'Aquin à L'Histoire sainte de Franc-Nohain), de «bons livres» importés de France et quelques ouvrages canadiens, dont ceux publiés par Le Devoir.

Plus tard, dans l'édifice du Devoir de la rue Notre-Dame, la librairie eut droit à sa propre entrée indépendante du journal. L'une des deux portes, côté rue, donnait directement sur la librairie, qui occupait le rez-de-chaussée, alors que l'autre donnait accès à un escalier étroit qui menait à la rédaction, à l'imprimerie et aux autres services. À l'arrivée de Gérard Filion, en 1947, le Service de librairie, qui n'était plus suffisamment rentable au gré du nouveau directeur, subit le même sort que le Service des voyages et fut tout simplement démantelé.