Né le 20 janvier 1876, Ernest Joseph Souben est le fils d'Ernest Léon Souben, quartier-maître mécanicien, et de Marie Nicolas, son épouse.

A l'âge de 15 ans,  il s'engage dans la Marine comme mousse le 6 janvier 1891 et est officiellement incorporé le 22 janvier de l'année suivante. Il embarque successivement sur les bâtiments "Austerlitz", puis la frégate - Ecole "Melpomène" à Brest. Le 27 septembre 1892, il est affecté sur le navire "Couronne" à Toulon en tant qu'apprenti-marin jusqu'en mars 1893. En qualité de matelot, il navigue successivement à bord du garde-côtes "Terrible", puis de l'aviso-torpilleur "Bombe" et enfin du croiseur de 2e classe "Milan", basés à Toulon.

En mars 1896, il revient à Brest et intègre l'équipage de l'aviso-torpilleur "Cassini", puis celui du cuirassé "Amiral Baudin" jusqu'en 1901. Il est promu quartier-maître de 2e classe en octobre 1899.

En avril 1901, il est désigné pour la base des sous-marins de Cherbourg jusqu'en 1902 ; il est promu au grade de second maître le 1er juillet de la même année.

Le 26 juillet 1902, il revient à Brest et embarque à bord du garde-côtes cuirassé "Tempête", puis du croiseur de 2e classe "Forbin" jusqu'au 14 juillet 1905. C'est sur ce dernier bâtiment qu'il reçoit sa première récompense : un témoignage officiel de satisfaction du ministre, le 19 mars 1904. Il est ensuite affecté sur le contre-torpilleur "Rapière" à Cherbourg.

Le 19 septembre 1906, il épouse Marie-Joséphine Prigent dont il aura deux enfants. Revenu à Brest, il embarque sur le transport "Vaucluse", puis le croiseur-cuirassé "Condé", l'aviso-transport "Saône", le croiseur-cuirassé "Amiral Aube" et enfin le cuirassé "Redoutable". Au cours de son affectation sur le croiseur-cuirassé "Amiral Aube", il reçoit la médaille du Maroc, en récompense de sa bonne conduite lors des troubles provoqués par la présence française au Maroc.

A l'issue d'une nouvelle affectation à bord de la cannonière "Comète" à Cherbourg, d'avril 1908 au 1er janvier 1909, il regagne l'Atelier central de la flotte à Toulon puis embarque sur le transport-hôpital "Tourville",  à bord duquel il est promu premier maître.

En mai 1913, il est muté sur un bâtiment de servitude à Lorient, jusqu'au 24 juin 1914, date à laquelle il est promu officier de 4e classe des équipages de la flotte.

Le 11 août 1914, il intègre le 2e bataillon de fusiliers-marins. Mais la guerre 1914-1918 a éclaté et Ernest Souben doit rapidement partir au front comme l'atteste le livre d'or de la ville de Brest.

"Ernest Souben, appelé à servir la France au front de guerre, n’eut que le temps de venir embrasser sa famille. Son second enfant n'avait que quelques jours à peine. Il le pressa sur son cœur et les larmes aux yeux le remit dans son berceau. Avait-il en ce moment quelque pressentiment de sa mort prochaine ? Peut-être. Il se garda bien d'ailleurs d'en faire part ; dominant même son émotion, il parut tout joyeux de partir. La cause qu'il allait défendre était si belle !"

Il tombe sous le feu de l'ennemi le 17 décembre 1914. Un de ses camarades de combat, Jean Lartigue, lieutenant de la 2e compagnie, relate les circonstances de sa mort dans une lettre adressée à son épouse :

"Hier, nous avons reçu dans la nuit, l’ordre de marcher pour attaquer au petit jour les lignes allemandes. Avant sept heures du matin, la compagnie déployée partait à l’assaut.
Notre capitaine, le lieutenant de vaisseau Benoît tombait dès les premiers pas. Monsieur Souben conduisant la moitié de la compagnie, l’enlevait héroïquement à l’assaut et prenait la 1re ligne de tranchées allemandes. Puis continuant son mouvement en avant, il entrait de haute lutte dans une redoute défendue par une section de mitrailleuses. J’avais pris moi-même cette redoute à revers pendant qu’il chargeait et je rencontrais mon camarade dans l’ouvrage ennemi, me félicitant de le retrouver sain et sauf après l’assaut.
 Un peu plus tard nous avons occupé un fossé au bord d’une route. J'étais à une cinquantaine de pas de lui, lorsque vers 10 heures on me cria qu’il venait d’être touché. Je me rendis aussitôt auprès de lui. Une balle l’avait frappé en plein front, au moment où il commandait un feu de salves. La mort avait été instantanée. ".

L’aumônier, après avoir vanté les qualités d’Ernest Souben, qui en faisaient un homme estimé de tous, informe son épouse qu'il est inhumé, avec ses valeureux camarades de combat, dans un petit cimetière sur la route de Reningle à Zuydschoote.

Il repose aujourd’hui au cimetière de Recouvrance à Brest, sa terre natale.