李林甫出身唐朝宗室郇王房，起家千牛直長，歷任太子中允、太子諭德、國子司業、御史中丞、刑部侍郎、吏部侍郎、黃門侍郎等職，開元二十三年以禮部尚書之職拜相，加授同中書門下三品，次年又代張九齡爲中書令，後封晉國公，兼尚書左僕射。他爲相十九年，是唐玄宗時期在位時間最長的宰相，但後期大權獨握，蔽塞言路，排斥賢才，使得朝綱紊亂，又建議重用胡將，使得安祿山勢力坐大，被認爲是使唐朝由盛轉衰的關鍵人物之一。
李林甫早年曾任千牛直長。他精通音律，深受舅父姜皎的寵愛，開元年間改任太子中允。侍中源乾曜與姜皎乃是姻親，其子源潔爲李林甫求取司門郎中之職。源乾曜笑道：“郎官應有才幹聲望，哥奴（李林甫小名）也能當郎官？”李林甫因此只被授爲太子諭德，後累遷至國子司業，一直是個不入流的小官。
他得知武惠妃寵冠後宮，而宦官高力士又權傾天下，就有意結交二人，希望他們能在李隆基面前爲自己美言，讓自己仕途順利。可怎奈官微言輕，根本就沒有結交他們的機會。後來他聽說裴光庭的夫人與兩人關係不簡單，就極盡巴結之能事，隔三差五總會提着厚禮登門拜訪。
俗話說“伸手不打笑臉人”，又何況是登門送禮的呢？這李林甫雖然也年過三十，但長的也一表人才，又極善於甜言蜜語和阿諛奉承，很快就討得了武慧兒的歡心，一來二去兩個人就偷偷好上了。這主要是因爲武慧兒本就生性風流，對於像丈夫裴光庭這種生性木訥的人本就不甚滿意。崔子陵雖然很有情趣，可以滿足她想要的一切，但無奈女人太多，根本不可能在她身上耗費太多精力。而這個李林甫雖然在某些方面不如崔子陵，但他在武慧兒面前表現的極其卑微，而且嘴巴也更甜，這讓武慧兒在他面前更像一個至高無上的女皇一樣，這武慧兒自然是有點離不開他了。但武慧兒知道自己與李林甫的事堅決不能讓崔子陵知道，所以也做的非常隱祕，並沒有什麼人知道。
開元十四年，李林甫得到宇文融的引薦，被授爲御史中丞，後歷任刑部侍郎、吏部侍郎。他生性陰柔，精於權謀，通過武慧兒與宮中的宦官、妃嬪交情深厚，對玄宗的舉動了如指掌，每逢奏對都能符合玄宗的意旨，深得賞識。當時，武惠妃寵冠後宮。唐玄宗非常寵愛她的兒子壽王李瑁，對太子李瑛則有所疏遠。李林甫通過武慧兒拜謁武惠妃時，表示願意盡力保護壽王。武惠妃心中非常感激，暗中對他進行幫助，進一步鞏固了他在朝中的地位。
雖然他從心裏一直都想徹底扳倒崔子陵，可每次兩人見面之時他仍然會笑臉相迎，極盡阿諛奉承之詞。但崔子陵早在歷史書上久聞他的大名，更知道他的爲人，不但不與他結交，更是告誡張九齡等人要小心提防他，這更增加了他對崔子陵的怨恨，發誓要將崔子陵徹底扳倒！