洛性明辨，不拘小節。正光末，以北邊賊起，遂率鄉親避地於并、肆，因從爾朱榮征討。及賀拔岳西征，洛與之鄉里，乃募從入關。破赤水蜀，以功拜中堅將軍、屯騎校尉、別將，封臨邑縣男，邑二百戶。又從岳獲賊帥尉遲菩薩於渭水，破侯伏侯元進於百里細川，擒万俟醜奴於長坑。洛每力戰，並有功。加龍驤將軍、都督，進爵安鄉縣子，累遷征北將軍、衛將軍。於平涼，以洛為右都督。
侯莫陳悅既害岳，欲并其眾。時初喪元帥，軍中惶擾，洛於諸將之中，最為舊齒，素為眾所信，乃收集將士，志在復讎，共相糾合，遂全眾而反。既至原州，眾咸推洛為盟主，統岳之眾。洛復自以非才，乃固辭，與趙貴等議迎太祖。魏帝以洛有全師之功，除武衛將軍。太祖至平涼，以洛為右大都督。從討侯莫陳悅，平之，拜涇州刺史。魏孝武西遷，進爵臨邑縣伯，邑五百戶。尋進位驃騎大將軍、儀同三司，進爵為公，增邑五百戶。
大統初，魏文帝詔曰：「往者侯莫陳悅遠同逆賊，潛害故清水公岳，志在兼并。當時造次，物情驚駭。使持節、驃騎大將軍、儀同三司、前涇州刺史、大都督、臨邑縣開國公寇洛，忠款自心，勳誠早立，遂能糾合義軍，以待大丞相。見危授命，推賢而奉，此而不賞，何以勸勵將來。可加開府，進爵京兆郡公。」封洛母宋氏為襄城郡君。又轉領軍將軍。三年，出為華州刺史，加侍中。與獨孤信復洛陽，移鎮弘農。四年，從太祖與東魏戰於河橋。軍還，洛率所部鎮東雍。五年，卒於鎮，時年五十三。贈使持節、侍中、都督雍華豳涇原三秦二岐十州諸軍事、太尉、尚書令、驃騎大將軍、雍州刺史，諡曰武。
弼少有大志，膂力過人。屬魏室喪亂，語所親曰：「丈夫生世，會須履鋒刃，平寇難，安社稷以取功名；安能碌碌依階資以求榮位乎。」魏永安元年，爾朱天光辟為別將，從天光西討，破赤水蜀。以功拜征虜將軍，封石門縣伯，邑五百戶。又與賀拔岳討万俟醜奴、万俟道洛、王慶雲，皆破之。弼恆先鋒陷陣，所向披靡，賊咸畏之，曰「莫當李將軍前也」。
天光赴洛，弼因隸侯莫陳悅，為大都督，加通直散騎常侍。太昌初，授清水郡守，恆州大中正。尋除南秦州刺史。隨悅征討，屢有剋捷。及悅害賀拔岳，軍停隴上。太祖自平涼進軍討悅。弼諫悅曰：「岳既無罪而公害之，又不能撫納其眾，使無所歸。宇文夏州收而用之，得其死力，咸云為主將報讎，其意固不小也。今宜解兵謝之，不然，恐必受禍。」悅惶惑，計無所出。弼知悅必敗，乃謂所親曰：「宇文夏州才略冠世，德義可宗。侯莫陳公智小謀大，豈能自保。吾等若不為計，恐與之同至族滅。」會太祖軍至，悅乃棄秦州南出，據險以自固。翌日，弼密通使太祖，許背悅來降。夜，弼乃勒所部云：「侯莫陳公欲還秦州，汝等何不束裝？」弼妻，悅之姨也，特為悅所親委，眾咸信之。人情驚擾，不可復定，皆散走，爭趣秦州。弼乃先馳據城門以慰輯之，遂擁眾以歸太祖。悅由此遂敗。太祖謂弼曰：「公與吾同心，天下不足平也。」破悅，得金寶奴婢，悉以好者賜之。仍令弼以本官鎮原州。尋拜秦州刺史。
太祖率兵東下，徵弼為大都督，領右軍，攻潼關及迴洛城，剋之。大統初，進位儀同三司、雍州刺史。尋又進位驃騎大將軍、開府儀同三司。從平竇泰，先鋒陷敵，斬獲居多。太祖以所乘騅馬及竇泰所著牟甲賜弼。又從平弘農。與齊神武戰於沙苑，弼率軍居右，而左軍為敵所乘。弼呼其麾下六十騎，身先士卒，橫截之，賊遂為二，因大破。以功拜特進，爵趙郡公，增邑一千戶。又與賀拔勝攻剋河東，略定汾、絳。四年，從太祖東討洛陽，弼為前驅。東魏將莫多婁貸文率眾數千，奄至穀城。弼倍道而前，遣軍士鼓噪，曳柴揚塵。貸文以為大軍至，遂遁走。弼追躡之，虜其眾，斬貸文，傳首大軍所。翌日，又從太祖與齊神武戰於河橋，每入深陷陣，身被七創，遂為所獲，圍守數重。弼佯若創重，殞絕於地。守者稍懈，弼睨其旁有馬，因躍上西馳，得免。五年，遷司空。六年，侯景據荊州，弼與獨孤信禦之，景乃退走。九年，從戰邙山，轉太尉。十三年，侯景率河南六州來附，東魏遣其將韓軌圍景於潁川。太祖遣弼率軍援景，諸將咸受弼節度。弼至，軌退。王思政又進據潁川，弼乃引還。十四年，北稽胡反，弼討平之。遷太保，加柱國大將軍。魏廢帝元年，賜姓徒河氏。太祖西巡，令弼居守，後事皆諮稟焉。六官建，拜太傅、大司徒。屬茹茹為突厥所逼，舉國請降，弼率前軍迎之。給前後部羽葆鼓吹，賜雜綵六千段。及晉公護執政，朝之大事，皆與于謹及弼等參議。孝閔帝踐阼，除太師，進封趙國公，邑萬戶。前後賞賜累巨萬。
弼每率兵征討，朝受令，夕便引路，不問私事，亦未嘗宿於家。其憂國忘身，類皆如此。兼復性沉雄，有深識，故能以功名終。元年十月，薨於位，年六十四。世宗即日舉哀，比葬，三臨其喪。發卒穿冢，給大輅、龍旂，陳軍至于墓所。諡曰武。尋追封魏國公，配食太祖廟庭。
輝大統中，起家員外散騎侍郎，賜爵義城郡公，歷撫軍將軍、大都督、鎮南將軍、散騎常侍。輝常臥疾期年，太祖憂之，日賜錢一千，供其藥石之費。及魏廢帝有異謀，太祖乃授輝武衛將軍，總宿衛事。尋而帝廢，除車騎大將軍、儀同三司。魏恭帝二年，加驃騎大將軍、儀同三司，出為岐州刺史。從太祖西巡，率公卿子弟，別為一軍。孝閔帝踐阼，除荊州刺史。尋襲爵趙國公，改魏國公。保定中年，加將軍。天和六年，進位柱國。建德元年，出為總管梁洋等十州諸軍事、梁州刺史。時渠、蓬二州生獠，積年侵暴，輝至州綏撫，並來歸附。璽書勞之。
耀既不得為嗣，朝廷以弼功重，乃封耀邢國公，位至開府。子寬，大象末，上大將軍蒲山郡公。輝弟衍，大象末，大將軍、真鄉郡公。衍弟綸，最知名，有文武才用。以功臣子，少居顯職，歷吏部、內史下大夫，並獲當官之譽。位至司會中大夫、開府儀同三司，封河陽郡公。為聘齊使主。早卒。子長雅嗣。綸弟晏，建德中，開府儀同三司、大將軍、趙郡公。從高祖平齊，歿於并州。子璟以晏死王事，即襲其爵。弼弟標。
標字靈傑。長不盈五尺，性果決，有膽氣。少事爾朱榮。魏永安元年，以兼別將從榮破元顥，拜討逆將軍。及榮被害，標從爾朱世隆奉榮妻奔河北。又隨爾朱兆入洛。賜爵淝城郡男，遷都督。普泰元年，元樹自梁入據譙城，標從行臺樊子鵠擊破之，遷右將軍。
魏孝武西遷，標從大都督元斌之與齊神武戰於成皋。兵敗，遂與斌之奔梁。梁主待以賓禮，後得逃歸。大統元年，授撫軍將軍，進封晉陽縣子，邑四百戶。尋為太祖帳內都督。從復弘農，破沙苑。標跨馬運矛，衝鋒陷陣，隱身鞍甲之中。敵人見之，皆曰「避此小兒」。不知標之形貌，正自如是。太祖初亦聞標驍悍，未見其能，至是方嗟歎之。謂標曰：「但使膽決如此，何必須要八尺之軀也。」以功進爵為公，增邑四百戶。尋從宇文貴與東魏將任祥、堯雄等戰於潁川，皆破之。徵為太子中庶子。九年，從戰邙山，遷持節、大都督。十三年，拜車騎大將軍、儀同三司。又從弼討稽胡，標功居多，除幽州刺史，增邑三百戶。十五年，拜驃騎大將軍、開府儀同三司。魏廢帝初，從趙貴征茹茹，論功為最，改封封山縣公，增邑并前二千一百戶。孝閔帝踐阼，進位大將軍。武成初，又從豆盧寧征稽胡，大獲而還。進爵汝南郡公。出為總管延綏丹三州諸軍事、延州刺史。四年，卒於鎮。贈恆朔等五州刺史。
及破六汗拔陵首亂北境，引茹茹為援，大行臺僕射元纂率眾討之。宿聞謹名，辟為鎧曹參軍事，從軍北伐。茹茹聞大軍之逼，遂逃出塞。纂令謹率二千騎追之，至郁對原，前後十七戰，盡降其眾。後率輕騎出塞覘賊，屬鐵勒數千騎奄至，謹以眾寡不敵，退必不免，乃散其眾騎，使匿叢薄之間，又遣人升山指麾，若分部軍眾者。賊望見，雖疑有伏兵，既恃其眾，不以為慮，乃進軍逼謹。謹以常乘駿馬一紫一騧，賊先所識，乃使二人各乘一馬，突陣而出。賊以為謹也，皆爭逐之。謹乃率餘軍擊之，其追騎遂奔走，因得入塞。
正光四年，行臺廣陽王元深治兵北伐，引謹為長流參軍，特相禮接。所有謀議，皆與謹參之。乃使其子佛陀拜焉，其見待如此。遂與廣陽王破賊主斛律野穀祿等。時魏末亂，群盜蜂起，謹乃從容謂廣陽王曰：「自正光以後，海內沸騰，郡國荒殘，農商廢業。今殿下奉義行誅，遠臨關塞，然醜類蟻聚，其徒實繁，若極武窮兵，恐非計之上者。謹願稟大王之威略，馳往喻之，必不勞兵甲，可致清蕩。」廣陽王然之。謹兼解諸國語，乃單騎入賊，示以恩信。於是西部鐵勒酋長乜列河等，領三萬餘戶並款附，相率南遷。廣陽王欲與謹至折敷嶺迎接之。謹曰：「破六汗拔陵兵眾不少，聞乜列河等歸附，必來要擊。彼若先據險要，則難與爭鋒。今以乜列河等餌之，當競來抄掠，然後設伏以待，必指掌破之。」廣陽然其計。拔陵果來要擊，破乜列河於嶺上，部眾皆沒。謹伏兵發，賊遂大敗，悉收得乜列河之眾。魏帝嘉之，除積射將軍。
孝昌元年，又隨廣陽王征鮮于脩禮。軍次白牛邏，會章武王為脩禮所害，遂停軍中山。侍中元晏宣言於靈太后曰：「廣陽王以宗室之重，受律專征，今乃盤桓不進，坐圖非望。又有于謹者，智略過人，為其謀主。風塵之隙，恐非陛下之純臣矣。」靈太后深納之。詔於尚書省門外立牓，募能獲謹者，許重賞。謹聞之，乃謂廣陽曰：「今女主臨朝，敢信讒佞，脫不明白殿下素心，便恐禍至無日。謹請束身詣闕，歸罪有司，披露腹心，自免殃禍。」廣陽許之。謹遂到牓下曰：「吾知此人。」眾人共詰之。謹曰：「我即是也。」有司以聞。靈太后引見之，大怒。謹備論廣陽忠款，兼陳停軍之狀。靈后意稍解，遂捨之。尋加別將。
二年，梁將曹義宗據守穰城，數為邊患。乃令謹與行臺尚書辛纂率兵討之。相持累年，經數十戰。進拜都督、宣威將軍、冗從僕射。孝莊帝即位，除鎮遠將軍，尋轉直寢。又隨太宰元天穆討葛榮，平邢杲，拜征虜將軍。從爾朱天光破万俟醜奴，封石城縣伯，邑五百戶。普泰元年，除征北大將軍、金紫光祿大夫、散騎常侍。又隨天光平宿勤明達，別討夏州賊賀遂有伐等，平之，授大都督。從天光與齊神武戰於韓陵山，天光既敗，謹遂入關。賀拔岳表謹留鎮，除衛將軍、咸陽郡守。
太祖臨夏州，以謹為防城大都督，兼夏州長史。及岳被害，太祖赴平涼。謹乃言於太祖曰：「魏祚陵遲，權臣擅命，群盜蜂起，黔首嗷然。明公仗超世之姿，懷濟時之略，四方遠近，咸所歸心。願早建良圖，以副眾望。」太祖曰：「何以言之？」謹對曰：「關右，秦漢舊都，古稱天府，將士驍勇，厥壤膏腴，西有巴蜀之饒，北有羊馬之利。今若據其要害，招集英雄，養卒勸農，足觀時變。且天子在洛，逼迫群兇，若陳明公之懇誠，算時事之利害，請都關右，帝必嘉而西遷。然後挾天子而令諸侯，奉王命以討暴亂，桓、文之業，千載一時也。」太祖大悅。會有敕追謹為閤內大都督，謹因進都關中之策，魏帝納之。
尋而齊神武逼洛陽，謹從魏帝西遷。仍從太祖征潼關，破迴洛城，授使持節、車騎大將軍、儀同三司、北雍州刺史，進爵藍田縣公，邑一千戶。大統元年，拜驃騎大將軍、開府儀同三司。其年，夏陽人王遊浪聚據楊氏壁謀逆，謹討擒之。是歲，大軍東伐，謹為前鋒。至盤豆，東魏將高叔禮守險不下，攻破之。拔虜其卒一千。因此拔弘農，擒東魏陝州刺史李徽伯。齊神武至沙苑，謹從太祖與諸將力戰，破之，進爵常山郡公，增邑一千戶。又從戰河橋。拜大丞相府長史，兼大行臺尚書。稽胡帥夏州刺史劉平叛，謹率眾討平之。除大都督、恆并燕肆雲五州諸軍事、大將軍、恆州刺史。入為太子太師。九年，復從太祖東征，別攻柏谷塢，拔之。邙山之戰，大軍不利，謹率其麾下偽降，立於路左。齊神武軍乘勝逐北，不以為虞。追騎過盡，謹乃自後擊之，敵人大駭。獨孤信又集兵士於後奮擊，齊神武軍遂亂，以此大軍得全。十二年，拜尚書左僕射，領司農卿。及侯景款附，請兵為援，太祖命李弼率兵應之。謹諫曰：「侯景少習兵權，情實難測。且宜厚其禮秩，以觀其變。即欲遣兵，良用未可。」太祖不聽。尋復兼大行臺尚書、丞相府長史，率兵鎮潼關，加授華州刺史，贈秬鬯一卣，圭瓚副焉。俄拜司空，增邑四百戶。十五年，進位柱國大將軍。齊氏稱帝，太祖征之，以謹為後軍大都督。別封一子鹽亭縣侯，邑一千戶。魏恭帝元年，除雍州刺史。
初，梁元帝平侯景之後，於江陵嗣位，密與齊氏通使，將謀侵軼。其兄子岳陽王察時為雍州刺史，以梁元帝殺其兄譽，遂結讎隙。據襄陽來附，仍請王師。乃令謹率眾出討。太祖餞於青泥谷。長孫儉問謹曰：「為蕭繹之計，將欲如何？」謹曰：「耀兵漢、沔，席卷渡江，直據丹陽，是其上策；移郭內居民，退保子城，峻其陴堞，以待援至，是其中策；若難於移動，據守羅郭，是其下策。」儉曰：「揣繹定出何策？」謹曰：「必用下策。」儉曰：「彼棄上而用下，何也？」對曰：「蕭氏保據江南，綿歷數紀。屬中原多故，未遑外略。又以我有齊氏之患，必謂力不能分。且繹懦而無謀，多疑少斷。愚民難與慮始，皆戀邑居，既惡遷移，當保羅郭。所以用下策也。」謹乃令中山公護及大將軍楊忠等，率精騎先據江津，斷其走路。梁人豎木柵於外城，廣輪六十里。尋而謹至，悉眾圍之。梁主屢遣兵於城南出戰，輒為謹所破。旬有六日，外城遂陷。梁主退保子城。翌日，率其太子以下，面縛出降，尋殺之。虜其男女十餘萬人，收其府庫珍寶。得宋渾天儀、梁日晷銅表、魏相風烏、銅蟠螭趺、大玉徑四尺圍七尺、及諸轝輦法物以獻，軍無私焉。立蕭察為梁主，振旅而旋。太祖親至其第，宴語極歡。賞謹奴婢一千口，及梁之寶物，并金石絲竹樂一部，別封新野郡公，邑二千戶。謹固辭，太祖不許。又令司樂作常山公平梁歌十首，使工人歌之。
及太祖崩，孝閔帝尚幼，中山公護雖受顧命，而名位素下，群公各圖執政，莫相率服。護深憂之，密訪於謹。謹曰：「夙蒙丞相殊睠，情深骨肉。今日之事，必以死爭之。若對眾定策，公必不得辭讓。」明日，群公會議。謹曰：「昔帝室傾危，人圖問鼎。丞相志在匡救，投袂荷戈，故得國祚中興，群生遂性。今上天降禍，奄棄庶寮。嗣子雖幼，而中山公親則猶子，兼受顧託，軍國之事，理須歸之。」辭色抗厲，眾皆悚動。護曰：「此是家事，素雖庸昧，何敢有辭。」謹既太祖等夷，護每申禮敬。至是，謹乃趨而言曰：「公若統理軍國，謹等便有所依。」遂再拜。群公迫於謹，亦再拜，因是眾議始定。
保定二年，謹以年老，上表乞骸骨。詔報曰：「昔師尚父年踰九十，召公奭幾將百歲，皆勤王家，自彊不息。今元惡未除，九州不一，將以公為舟烜，弘濟於艱難，豈容忘二公之雅操，而有斯請。朕用恧焉。公若更執謙沖，有司宜斷啟。」
三年四月，詔曰：「樹以元首，主乎教化，率民孝悌，置之仁壽。是以古先明后，咸若斯典，立三老五更，躬自袒割。朕以眇身，處茲南面，何敢遺此黃髮，不加尊敬。太傅、燕國公謹，執德淳固，為國元老，饋以乞言，朝野所屬。可為三老，有司具禮，擇日以聞。」謹上表固辭，詔答不許。又賜延年杖。高祖幸太學以食之。三老入門，皇帝迎拜門屏之間，三老答拜。有司設三老席於中楹，南向。太師、晉國公護升階，設几於席。三老升席，南面憑几而坐，以師道自居。大司寇、楚國公寧升階，正舄。皇帝升階，立於斧扆之前，西面。有司進饌，皇帝跪設醬豆，親自袒割。三老食訖，皇帝又親跪授爵以酳。有司撤訖。皇帝北面立而訪道。三老乃起立於席後。皇帝曰：「猥當天下重任，自惟不才，不知政治之要，公其誨之。」三老答曰：「木受繩則正，后從諫則聖。自古明王聖主，皆虛心納諫，以知得失，天下乃安。唯陛下念之。」又曰：「為國之本，在乎忠信。是以古人云去食去兵，信不可失。國家興廢，莫不由之。願陛下守而勿失。」又曰：「治國之道，必須有法。法者，國之綱紀。綱紀不可不正，所正在於賞罰。若有功必賞，有罪必罰，則有善者日益，為惡者日止。若有功不賞，有罪不罰，則天下善惡不分，下民無所措其手足矣。」又曰：「言行者立身之基，言出行隨，誠宜相顧。願陛下三思而言，九慮而行。若不思不慮，必有過失。天子之過，事無大小，如日月之蝕，莫不知者。願陛下慎之。」三老言畢，皇帝再拜受之，三老答拜焉。禮成而出。
及晉公護東伐，謹時老病，護以其宿將舊臣，猶請與同行，詢訪戎略。軍還，賜鐘磬一部。天和二年，又賜安車一乘。尋授雍州牧。三年，薨于位，年七十六。高祖親臨，詔譙王儉監護喪事，賜繒綵千段，粟麥五千斛，贈本官，加使持節、太師、雍恆等二十州諸軍事、雍州刺史，諡曰文。及葬，王公已下，咸送出郊外。配享於太祖廟庭。
謹有智謀，善於事上。名位雖重，愈存謙挹。每朝參往來，不過從兩三騎而已。朝廷凡有軍國之務，多與謹決之。謹亦竭其智能，弼諧帝室。故功臣之中，特見委信，始終若一，人無間言。每教訓諸子，務存靜退。加以年齒遐長，禮遇隆重，子孫繁衍，皆至顯達，當時莫與為比焉。子寔嗣。
寔字賓實，少和厚。年未弱冠，入太祖幕府，從征潼關及迴洛城。大統三年，又從復弘農，戰沙苑。以前後功，封萬年縣子，邑五百戶，授主衣都統。河橋之役，先鋒陷陣。軍還，寔又為內殿，除通直散騎常侍，轉太子右衛率，加都督。又從太祖戰於邙山。十一年，詔寔侍講東宮。侯景來附，遣寔與諸軍援之，平九曲城。進大都督，遷儀同三司，加散騎常侍。十四年，除尚書。是歲，太祖與魏太子西巡，寔時從。太祖刻石於隴山之上，錄功臣位，以次鐫勒，預以寔為開府儀同三司。至十五年，方授之。尋除滑州刺史，特給鼓吹一部，進爵為公，增邑二百戶。魏恭帝二年，羌東念姐率部落反，結連吐谷渾，每為邊患。遣大將軍豆盧寧討之，踰時不剋。又令寔往，遂破之。太祖手書勞問，賜奴婢一百口，馬一百疋。孝閔帝踐祚，授民部中大夫，進爵延壽郡公，邑二千戶。又進位大將軍，除勳州刺史，入為小司寇。天和二年，延州蒲川賊郝三郎等反，攻逼丹州。遣寔率眾討平之，斬三郎首，獲雜畜萬餘頭。乃除延州刺史。五年，襲爵燕國公，進位柱國，以罪免。尋復本官，除涼州總管。大象二年，加上柱國，拜大左輔。隋開皇元年，薨。贈司空，諡曰安。
寔弟翼，自有傳。翼弟義，上柱國、潼州總管、建平郡公。義弟禮，上大將軍、趙州刺史、安平郡公。禮弟智，初為開府，以受宣帝旨，告齊王憲反，遂封齊國公。尋拜柱國、涼州總管、大司空。智弟紹，上開府、綏州刺史、華陽郡公。紹弟弼，上儀同、平恩縣公。弼弟蘭，上儀同、襄陽縣公。蘭弟曠，上儀同，贈恆州刺史。
史臣曰：賀拔岳變起倉卒，侯莫陳悅意在兼并，于時將有離心，士無固志。洛撫緝散亂，抗禦仇讎。全師而還，敵人絕覬覦之望；度德而處，霸王建匡合之謀。此功故不細也。李弼、于謹懷佐時之略，逢啟聖之運，綢繆顧遇，締構艱難，帷幄盡其謨猷，方面宣其庸績，擬巨川之舟楫，為大廈之棟梁。非惟攀附成名，抑亦材謀自取。及謹以耆年碩德，譽重望高，禮備上庠，功歌司樂，常以滿盈為戒，覆折是憂。不有君子，何以能國。
