劉伯伯民國15年出生於山東青島小農村，和父親、哥哥一起務農，家境優渥讀過3年私塾。17歲時在陸軍擔任班長的姑丈邀請入伍，當時不想再務農的劉伯伯便展開從軍生涯。入伍初期對日抗戰軍興，服役單位為青島保安第一旅第一團游擊隊，並於膠縣、即墨、平度、高密等地區出入從事敵後游擊作戰任務，由於敵後游擊任務環境條件至為艱苦，深入敵後的游擊隊很難獲得國軍裝備正常撥補，他們僅能靠輕裝備或搶奪日軍的軍需以為作戰使用。自1942年至1945年中，游擊隊與日偽軍大型戰鬥80餘次，小型戰鬥200餘次，屢屢告捷。日軍為了拔除游擊隊嶗山根據地，也多次實施掃蕩作戰，企圖殲滅我敵後武力，長逾一周，短則三、四日，卻無
一成功。不僅如此，在嶗山遊擊隊的影響下，淪陷區的愛國人士不斷前來參軍，偽軍部隊也逐漸動搖並進而反正，甚至連日軍官兵也有投奔者，嚴重打擊了日軍士氣。偽軍的不斷反正，使遊擊隊的威名越來越大，甚至影響到了士氣日益消沉的日軍。從1943年到1945年為止，日軍前後向保安總隊投誠的有30餘人，他們的投誠無形中增強了中國軍隊抗戰到底的決心，也提升了官兵的作戰意志及激勵士氣，此外，也從投誠的日軍中獲得了很多準確的情報，打擊了青島日本守軍的士氣，進一步引發日軍內部的厭戰情緒，直至1945年對日抗戰勝利。抗戰勝利隨後劉伯伯編入國軍第54軍第8師第23團，當過2年的便衣憲兵 (期間父母遭鬥爭餓死)。隨著國共內戰爆
發，劉伯伯曾在山東膠濟線上的鐵路車站姚哥莊連續作戰三天三夜；也在馬丘河激戰五天五夜被小砲彈擊傷左側胸部；而水溝頭作戰則長達半個月，雙方在武力懸殊下進行殊死戰，最終共產黨取得勝利，國民黨則是退守台灣，劉伯伯隨著軍隊輾轉來到台灣。
劉伯伯來台後，於鳳山警備總部服役，後調任第二軍團通訊營第三連，擔任搖機兵發電報、開軍車等職務，期間至台灣省宜蘭縣金六結營區陸軍通信電子資訊訓練中心(簡稱通訓中心，後為通校，代號虎嶺部隊，隸屬於陸軍教準部)受訓後，調升當載波台台長約10幾年，民國60年以上士台長退伍。從抗戰到撤退台灣，為國家拼命達27年7個月，退伍後只拿了不到3萬塊的退伍金。很是節省的劉伯伯，雖然沒有家累，起初8年先自做自賣饅頭，一天約50元收入；後來友人介紹學做水泥工，從1天300元小工做到600元師傅級持續做了15年。那是民國60年代，算是高收入了，幾年當中身邊積蓄豐厚。個性保守而傳統的劉伯伯，仍然沒有考慮結婚，
心心念念就是大陸老家那裡的親人，積蓄再多並不能解其鄉愁，一直想著哪一天能讓他如願衣錦還鄉！
民國76年兩岸開放探親，劉伯伯自是歡天喜地，終於可以回家了，一切準備妥當，於是帶著那份豐厚的積蓄回山東青島，前前後後回去了二十幾趟，大陸住7個月，台灣住5個月，而且捐了二十幾萬人民幣在老家前馬連村蓋了一所敬老院，分享家鄉80幾位孤苦無依的老人，問他為什麼沒有把積蓄分送給親人，他說給錢只會讓親人因金錢多寡而吵架，因而產生不愉快，親情也就沒了，誠如留予子孫錢財，益損其志，或增其過，所以他才捐出去做善事，也為自己衣錦還鄉留一點值得紀念的功德，其心境之清明，確有讀書人的風範。