Dès le mois d'août 1914, la Marine nationale propose au Ministère de la Guerre de lui céder les disponibilités d'artillerie et de personnels pour prendre part à la guerre terrestre. Elle crée un "Régiment de canonniers marins" formé de 2000 hommes venant des ports de Brest et de Lorient avec leurs pièces d'artillerie de 14 cm. La défense des secteurs nord et est de la capitale est confiée, à ce régiment car Paris est menacé par l'avancée des forces allemandes.

Fin septembre, après la victoire de la bataille de la Marne, sitôt la menace écartée, le régiment reçoit l'ordre de rallier les places fortes de Toul et de Verdun. Il comprend neuf batteries organiques, formant quatre groupes. Le 1^er groupe est positionné dans des forts de Verdun. Le 2^e groupe est positionné dans les forts de Toul. Le 3^e groupe est positionné dans les forts de Nancy.  Le 4^e groupe comprend deux batteries de canons de 19 cm et une batterie de canons de 27 cm, qui arment des trains pour former l'artillerie lourde sur voie ferrée (ALVF).

Début 1915 deux péniches sont modifiées pour recevoir chacune un canon de 16 cm. L'une est  positionnée en Champagne près de Reims, sur le canal de l'Aisne à la Marne. Elle prend part à l'offensive française du mois de septembre. La deuxième péniche est positionnée en mai 1915 sur les canaux de Belgique, pour contrebattre la pièce d'artillerie ennemie de 380 mm, positionnée à Clercken, près de Dixmude, et qui tire sur Dunkerque.

En septembre 1915, le régiment reçoit douze canonnières équipées d'un canon de 14 cm, formées en 3 groupes. Les groupes opèrent sur les canaux en Belgique, sur la Somme, sur l'Oise, sur l'Aisne et en Champagne. Les canonnières tirent plus de 40 500 coups.

En février 1916, le "Régiment de canonniers marins" est rattaché au général commandant "l'Artillerie lourde à grande puissance" (ALGP). Il prend part à la bataille de Verdun, et à l'offensive de la Somme. Les pièces d'artillerie de 14 cm de marine sont remplacées par des pièces de 16 cm, montées sur affûts mobiles. Elles sont destinées à exécuter des tirs sur les voies de communication, les points de rassemblement de l'ennemi et à contrebattre les batteries ennemis situées hors de portée de l'artillerie lourde.

En janvier 1917, "l'Artillerie lourde à grande puissance", englobée dans la "Réserve générale d'artillerie lourde" (RGAL) passe sous le commandement du contre-amiral Jehenne, commandant les "Canonniers marins". Les groupes de batteries participent ensuite à toutes les opérations menées en 1917 et 1918, dont la bataille de La Malmaison dans l'Aisne en octobre 1917.

A la fin des hostilités, le "Régiment de canonniers marins" totalise onze citations collectives. Il a tiré plus de 220 000 obus. Il déplore la perte de 20 officiers et 324 officiers mariniers et marins.

Dissous après la première guerre mondiale, le "Régiment de canonniers marins" est reconstitué en septembre 1943. Il est engagé au sein des "Forces françaises libres" dans les combats en Afrique du Nord, en Italie, puis pendant la campagne de libération de la France. Le régiment est cité une nouvelle fois à l'ordre de l'armée. Il est dissout en 1945.

Le drapeau des canonniers marins est remis en février 1918 par le président de la République au contre-amiral Jehenne, commandant la 3^e division de la "Réserve générale d'artillerie lourde", c'est à dire les "Canonniers marins". Ce drapeau porte au centre des quatre couronnes d'angle, les initiales CM. Sur la cravate sont fixées : la Médaille militaire, la Croix de guerre 1914 - 1918, et la Croix de guerre 1939 - 1945. Sur ses plis sont inscrits les noms des 5 grandes batailles auxquelles le régiment a pris part : Champagne 1915, Verdun 1916, Somme 1916, Malmaison 1917, Bataille de France 1918. Le drapeau est actuellement confié à la garde du "Centre d'instruction naval" de Saint-Mandrier (Var).