Joseph-Marie est le fils de Jean Marie Le Bourgès et de Thècle Le Gurun.

Le 22 mars 1882, alors âgé de 13 ans, Joseph embarque comme mousse à la pêche à Houat sur le canot "Fleur de Marie". Il est inscrit maritime au quartier de Belle-Île, sous le matricule n° 65. En octobre 1886, il embarque comme novice sur le canot "Manne du Ciel". Nommé matelot sur le même canot, il continue à naviguer à la pêche de décembre 1887 à avril 1889, sous le matricule n° 67.

Sur sa demande, il intègre la Marine nationale. Il est incorporé le 25 avril 1889 à la Division navale de Lorient, où il suit sa formation militaire et maritime. A l'issue d'un cours de spécialité à l'école des fusiliers, il est nommé matelot de 2^e classe, breveté fusilier. En juillet 1890, il embarque sur le croiseur "Sfax", basé à Brest, puis sur le cuirassé "Redoutable" en janvier 1891 en armement au Port de Lorient, puis sur le cuirassé "Formidable", basé à Toulon, bâtiment amiral de l’Escadre de la Méditerranée. Après 45 mois de service le matelot Le Bourgès est placé le 28 janvier 1893 dans la réserve de l’Armée de mer. Il se retire alors à Belle-Île, où il embarque dès le 7 février 1893 comme matelot à la pêche sur le canot "Manne du ciel". En mars 1894, il devient patron pêcheur sur ce même canot.

Joseph Le Bourgès se marie le 11 avril 1894 à l'Île de Houat, avec Marie Anne Le Fur. De cette union naissent deux enfants à Houat : Jean Marie, né en mai 1895, décédé en septembre 1898 à l'âge de 3 ans, et Marie Josèphe, née en mars 1897, décédée en décembre 1968 à Vannes. La mère Marie Anne Le Fur, est décédée en septembre 1897 à l'âge de 26 ans.

En octobre 1894, Joseph passe patron pêcheur sur le canot "Diamant de la couronne", qu’il commande, jusque 1898.

Joseph se remarie le 7 novembre 1898 à l'Île de Houat avec Marie Élisa Le Cam (1866-1952). De cette union naîtra à Houat un premier enfant anonyme mort-né en novembre 1899. La famille a ensuite convenu de s'installer sur le continent à Kerhostin, en Saint-Pierre-Quiberon d'où est native Élisa. C'est donc à Kerhostin que naît en 1901 le deuxième enfant Joseph Louis Marie Le Bourgès. Celui-ci, résistant au maquis de Saint-Marcel, prend part au combat contre l'occupant nazi du 18 juin 1944. Fait prisonnier, il est jugé par une cour martiale et fusillé le 6 juillet 1944 à Berné (Morbihan), mort pour la France.

En février 1900, Joseph effectue une période d’exercices dans la Marine nationale à "Marine Lorient".

En novembre 1900, il embarque au Croisic, comme matelot à la petite pêche sur le canot "René André". Le 14 avril 1902, il est admis à commander les bateaux à vapeur armés au bornage et à la petite pêche. En juin 1902, il embarque à Quiberon comme patron sur le canot "Saint-Anne d'Auray". En février 1903, il embarque à la petite pêche à Arcachon sur le canot "Alcyon", puis en juillet 1907, comme second sur le chalutier "Nord Caper", et mars 1908, comme patron sur le chalutier "Dauphin".

Le 14 avril 1910, Joseph est inscrit au quartier maritime d'Auray sous le matricule n° 4710 et embarque à Lorient à la pêche au large comme matelot d'abord, puis comme second et novembre 1913, comme patron sur le chalutier à vapeur "Saint-Corentin".

Le 2 août 1914, le chalutier "Saint-Corentin" est réquisitionné par l'Etat français pour être employé comme patrouilleur auxiliaire par la Marine nationale pour la durée de la guerre contre l'Allemagne. Le bâtiment, placé sous le commandement de l'enseigne de vaisseau de 1^re classe auxiliaire Le Buhé Olivier, rejoint le port de Brest pour subir des transformations qui consistent à installer une artillerie, réaliser des aménagements pour loger un effectif supplémentaire, et aménager des soutes à munitions.

Le 8 novembre 1914, le bâtiment, et son équipage composé de 19 hommes, rejoignent le port de Cherbourg, où ils intègrent la "Défense fixe".

Le bâtiment a pour mission d'effectuer des patrouilles de surveillance en Manche dans le secteur de Dunkerque, sous le commandement de l'enseigne de vaisseau Le Buhé.

Le 19 avril 1916, le chalutier "Saint-Corentin" effectuait une patrouille entre la bouée de Gravelines et les alentours du bateau feu Dick. A 18 h 30, le chalutier, qui se trouvait au milieu du chenal, est mis au poste de combat, et engage un tir d'artillerie contre un sous-marin ennemi cherchant à regagner le large par le nord du bateau feu après avoir largué des mines dans le chenal. A 19 h 15, en franchissant la passe nord du port de Dunkerque, alors que le poste de combat avait cessé, le bâtiment saute sur une mine qui provoque la perte du bâtiment qui a coulé en quelques secondes. L'explosion a entraîné la mort de 11 membres de l'équipage, dont le second maître Le Bourgès Joseph qui a été porté disparu.

Un jugement rendu le 21 septembre 1916 par le tribunal civil de Cherbourg, port d'armement du bâtiment, a déclaré constant le décès des 9 marins disparus. Le jugement a été transcrit à la mairie de la ville de Cherbourg le 29 septembre 1916.

Le second maître de manœuvre Le Bourgès Joseph-Marie a reçu, à titre posthume, la Médaille militaire. Il avait été cité à l'Ordre du corps d'armée qui comporte l'attribution de la croix de guerre avec étoile de vermeil.

Le nom de Bourgès Joseph est inscrit sur le monument aux morts de la commune de Saint-Pierre-de-Quiberon, (conflit 1914-1918), ainsi que celui de son fils Le Bourgès Joseph (conflit 1939-1945).