Fils de Jean-François Caroff, cultivateur, et de Jeanne Marhic, Raymond passe sa prime jeunesse au lieu-dit Kerguan à Hanvec qui était rattachée à l'époque à la commune de Daoulas (29). Il fréquente l'école primaire de Hanvec, puis travaille un temps sur l'exploitation familiale. Mais Raymond est le neuvième d'une fratrie qui comptera quatorze enfants et la ferme ne peut assurer l'avenir de tous. Il se rend à Brest le 5 novembre 1934 et s'engage dans la Marine nationale.

Après ses classes, il est désigné pour le cuirassé "Courbet", utilisé comme bâtiment école à Toulon, et y suit pendant 18 mois la formation de canonnier. A l'issue, le 2 juillet 1936, il est affecté sur l'aviso colonial "Bougainville" de la Division navale du Levant. Le bâtiment opère à partir de Beyrouth, le Liban étant alors sous protectorat français. Il débarque de l'aviso au bout de 25 mois, est placé un an à terre en disponibilité, puis, à partir du 25 août 1939, il effectue une courte affectation de 5 mois sur le contre-torpilleur "Léopard" dont la mission principale est l'escorte de convois en Manche et Mer du nord. Mais en début d'année 1940 on a besoin de nombreux canonniers pour servir sur le cuirassé "Richelieu" qui est entré en armement pour essais : Raymond rallie le bâtiment le 31 janvier 1940.

La guerre déclarée, et compte tenu de l'avance fulgurante de l'armée allemande, le "Richelieu" s'échappe de Brest en juin pour rallier Dakar et résister avec succès aux forces anglaises et FNFL lors de l'opération "Menace", en septembre de la même année. Raymond quitte le "Richelieu" le 17 mars 1942 pour un passage de 2 mois sur le transport pétrolier "Garonne" qui rallie Toulon. Il est ensuite dirigé vers l' Unité Marine Marseille pour être  démobilisé le 5 novembre 1942, en raison du sabordage de la flotte.

Rappelé sous les drapeaux à Brest le 22 janvier 1945, il est désigné pour la toute nouvelle Brigade légère marine d'Extrème-Orient (B.L.M.E.O.), force gérée à partir d'Arcachon et destinée à concourir au rétablissement de l'autorité de la France en Indochine. Raymond, qui vient d'être promu au grade de quartier-maître de 1re classe, intègre, dans cette brigade, la Compagnie Merlet. Son unité participe en octobre 1945 aux combats de My Tho, puis de Vinh Long, préludes à la reconquête de la partie sud de la Cochinchine, certes libérée des Japonais, mais désormais menacée par le Viêt-Minh.

Le 14 novembre 1945, il participe, avec dix-neuf autres camarades de son unité, à l'escorte d'un petit convoi composé d'embarcations dont le chargement est destiné au ravitaillement en vivres de Saïgon, et d'un bac. Le groupe chemine par les nombreuses rivières (rachs) qui irriguent la zone. Vers 19 h, le convoi, qui transite dans le Rach Bac Dao à environ 30 km à l'ouest de Saïgon, tombe dans une embuscade tendue par le Viêt- Minh près de Long Kien. Les marins ripostent avec leurs moyens ; les tirs sont particulièrement nourris, si bien que rapidement les munitions s'épuisent. Le moteur de la chaloupe des hommes de la Compagnie Merlet est touché et stoppe. Les marins français se regroupent sur le bac et partent à la dérive, mais en dépit de tous leurs efforts pour s'échapper à la faveur de l'obscurité, ils sont rejoints par les rebelles.

Les recherches entreprises plus-tard ne permettront pas de retrouver la dépouille du QM1 canonnier Caroff pas plus que celles de ses camarades. Seuls une carte-postale et quelques effets de marins ont pu être collectés auprès de certaines personnes de la région qui pensent que les militaires ont été massacrés.

Leurs noms sont gravés sur une stèle située à Arcachon, square du capitaine de frégate Jaubert, créateur de la B.L.M.E.O.