吕罗汉祖籍东平寿张，他的先祖在后赵时期迁居幽州。吕罗汉的祖父吕显，字子明。少年好学，性格廉洁正直，乡里有人发生纠纷都纷纷找他评理。后燕皇帝慕容垂任命他为河间太守。皇始初年，吕显举郡归降北魏，北魏道武帝拓跋珪很高兴，赐给他魏昌男的爵位，任命他为鉅鹿太守。吕显清廉奉公，务存赈恤，他的妻子儿女都忍受饑寒。老百姓歌颂他说：“时惟府君，克己清明。缉我荒土，民胥乐生。愿寿无疆，以享长龄。”吕显最终死于任上。

吕罗汉的父亲吕温，字晞阳。擅长书法，喜好施给，有文武才略。太武帝拓跋焘讨伐赫连昌，任命吕温为禁卫军将领。吕温每次作战都身先士卒，冲锋陷阵，每战必捷，因功被朝廷任命为宣威将军、奉车都尉。出任秦州司马，升任上党太守，善于劝民课税，颇有治绩。吕温死后，朝廷追赠他为平远将军、豫州刺史、野王侯，谥号敬。

吕罗汉仁义笃厚，谨慎细密，少年时代就以武才出名。父亲吕温佐治秦州，吕罗汉随侍其父。陇右氐人杨难当率领数万兵马侵犯上邽，秦地百姓多有回响。镇将元意头知道吕罗汉善于射击，便与他共登西城楼，让吕罗汉射杨难当队将以及兵士二十三人，全都应弦而倒。敌人势力越来越大，吕罗汉献计说：“如今如不出战，那便是在敌人面前示弱，等到我军众情崩溃，那就大势已去了。”元意头觉得他的话很对，便拨出千余骑兵让吕罗汉出城迎战。吕罗汉与众骑兵策马大呼，直冲杨难当阵中，敌人纷纷溃退。吕罗汉杀杨难当左右队骑八人，杨难当大惊失色。恰逢太武帝赐杨难当玺书，责备其跋扈，杨难当于是引兵还归仇池。元意头把这一情况上表朝廷，太武帝很是讚赏，徵召任命他为羽林中郎。

上邽人休官吕丰、屠各王飞廉（一作王飞鹿）等八千多家，据险叛逆，太武帝诏令吕罗汉率领骑兵一千人讨伐擒拿敌人。后吕罗汉随太武帝征伐悬瓠，与琅琊王司马楚之一起御驾前招慰叛众，降顺九千多户。等到了盱眙，频频破灭敌人，擒捉其将领顾俨、李观之等。因功升任羽林中郎、禁军将领，赐爵乌程子，加授建威将军。

正平二年（452年），南安王拓跋余即位，吕罗汉仍然掌管禁卫军。同年十月，拓跋余被杀，文成帝拓跋濬即位，吕罗汉出了大力。升任少卿，仍为禁卫将军，晋爵野王侯，加授龙骧将军。授任司卫监，升任散骑常侍、殿中尚书，晋爵山阳公，加授镇西将军。柔然侵犯边塞时，献文帝拓跋弘率军讨伐，吕罗汉与左僕射、南平公元目振为都督中外军事。

吕罗汉后来出任镇西将军，秦、益二州刺史。当时仇池氐羌反叛，攻逼骆谷，镇守将领吴保元逃到登百顷，在吕罗汉那里请求援助。吕罗汉率领骑兵、步兵跟随长孙观掩击氐羌，大破敌军，斩杀其主帅，敌人败退散去。皇帝下诏对吕罗汉说：“爱卿以劳勤获叙，才能致用，内总禁旅，外临方岳，褒奖宠幸之隆，可以说全有了。自己如果不尽节竭诚，将何以垂名竹帛？仇池接近边境，兵革之事屡屡兴起，既很辛劳士兵，又烦扰黎民百姓，这都是由于镇守将领不明，安抚震慑方法不当所导致。卿你应机赴击，灭此凶丑。陇右山水险恶，老百姓也十分强悍，如果不导之以恩德，齐之以刑罚，贼众无法宁息，老百姓无法安宁。朕垂心治道，为的是使远近清穆，卿你可召集豪贵，选择事宜，以利于民为先，有益于国为本，随其当地风俗，以施行威刑恩惠并举的政策。那里的安居乐业、奉公勤私的人，你要善加劝导监督，不要剥夺他们的农时物利。明相宣告，以使朕称心满意。”

泾州百姓张羌郎煽动陇东，聚众一千多人，州中军队前去讨伐却制服不了。吕罗汉率领骑兵、步兵一千人打击张羌郎，并将其擒获。仇池氐、羌人叛逆之风当时也很猖獗，所到之处如蜂起云涌，道路被其断绝。他们的头领蛩廉、符祈等人都受到南朝宋皇帝刘昱的官爵、铁券的恩赐。略阳公伏阿奴担任都将，与吕罗汉一起前去讨伐，所向披靡，活捉蛩廉、符祈等人。秦、益二州与京城距离遥远山川阻隔，南边连着仇池，西面接着赤水，诸羌人凭着天险，屡屡叛逆。自从吕罗汉为州长官，他以威势恩惠抚之州民，西部百姓都很驯服，羌地治安大为好转。孝文帝元宏下诏给吕罗汉说：“朕总摄万机，统治四海，思想着隆盛古时道义，光大显明教化风气，所以内委各个部门，外任州郡长官，眼下正是志士建立名节之秋，忠臣立功之际。但赤水羌民，远居边境，如不是卿的循循善诱，怎幺能够招顺他们呢？卿所得到的人口马匹，你上表以求贡奉朝廷，朕称讚你的忠诚，顺便就把这些赐给你吧。其马交付都牧，人口就赐给你了。”朝廷徵召任命他为内都大官，吕罗汉听讼察狱，多得狱情真相。太和六年（482年），吕罗汉卒于任上。孝文帝深为嗟悼叹惜，赐给命服一套，赠予本官，谥号庄公。

吕罗汉早年保卫秦州，抵御仇池杨难当的攻击而成名。后随拓跋焘南征，与司马楚之一同招抚降户，又在盱眙立下战功。此后，吕罗汉多次在关陇平定氐羌叛乱。

在诛杀拓跋余扶持拓跋濬继位时，吕罗汉也起到了重要作用。

魏收《魏书》：“韩茂、皮豹子、封敕文、吕罗汉、孔伯恭之为将也，皆以沉勇笃实，仁厚抚众。功成事立，不徒然矣。与夫苟要一战之利，侥倖暂胜之名，岂同年而语也！”

《魏书·卷五十一·列传第三十九》

《北史·卷三十七·列传第二十五》

祖父：吕显，初为后燕河间太守。归降北魏后，赐爵魏昌男，担任鉅鹿太守。

父亲：吕温，官至秦州司马、上党太守，死后追赠平远将军、豫州刺史、野王侯，谥号敬。

吕大檀，官至中散、恆农太守。

吕豹子，初为东莱镇将，后改镇为州，行光州事。

吕七宝，初为侍御中散，后迁任少卿、假节、龙骧将军、东雍州刺史。

吕兴祖，袭爵山阳公，后降爵为侯。景明元年（500年）去世。

吕伯庆，官至中散、鹹阳王元禧郎中令。

吕世兴，官至校书郎。