漢代匡家世代務(wù)農(nóng)，但匡衡卻十分好學(xué)，勤奮努力，由于家境貧寒，他不得不靠替人幫工以獲取讀書(shū)資用。他曾拜當(dāng)時(shí)的博士學(xué)習(xí)《詩(shī)經(jīng)》。由于勤奮學(xué)習(xí)，他對(duì)《詩(shī)》的理解十分獨(dú)特透徹，當(dāng)時(shí)儒學(xué)之士曾傳有“無(wú)說(shuō)《詩(shī)》，匡鼎來(lái)?？镎f(shuō)《詩(shī)》，解人頤”之語(yǔ)，是說(shuō)聽(tīng)匡衡解說(shuō)《詩(shī)經(jīng)》，能使人眉頭舒展，心情舒暢，可見(jiàn)匡衡對(duì)《詩(shī)經(jīng)》理解之深。但匡衡的仕途在一開(kāi)始卻并不平坦。根據(jù)漢朝規(guī)定，博士弟子掌握“六經(jīng)”中的一經(jīng)，即可通過(guò)考試獲得官職，考試得甲科者，可為郎中，得乙科者為太子舍人，得丙科者只能補(bǔ)文學(xué)掌故。匡衡九次考試，才中了丙科，被補(bǔ)為太原郡的文學(xué)卒史。但匡衡對(duì)《詩(shī)經(jīng)》理解之深，已為當(dāng)時(shí)經(jīng)學(xué)家們所推重，當(dāng)時(shí)身為太子的元帝也對(duì)其深有好感。
元帝即位后，任用匡衡為郎中，遷為博士，給事中。這時(shí)，京城長(zhǎng)安一帶發(fā)生日蝕、地震等災(zāi)變，匡衡乘機(jī)上書(shū)，引用《詩(shī)經(jīng)》表明上行而下效的道理，勸元帝“減宮室之度，省靡麗之飾，考制度，修內(nèi)外，近忠正，遠(yuǎn)巧佞，”“任溫良之人，退刻薄之吏，顯潔白之士，昭無(wú)欲之路”（《漢書(shū)·匡衡傳》，下引同），然后再在百姓中推廣道德教化，弘揚(yáng)禮讓仁和之風(fēng)。匡衡的奏書(shū)得到元帝的贊賞，匡衡因此遷為光祿大夫、太子少傅。今山東省臨沂市蒼山縣新興鎮(zhèn)的“太子堂'村即“太子少傅”之意。
       漢元帝分喜好儒術(shù)文辭，尤喜愛(ài)《詩(shī)經(jīng)》，曾多次親自聽(tīng)匡衡講《詩(shī)經(jīng)》，對(duì)匡衡的才學(xué)十分贊賞，因此任匡衡為御史大夫。建昭三年(公元前36年)丞相韋玄成病逝，匡衡又代為丞相，封樂(lè)安侯，輔佐皇帝，總理全國(guó)政務(wù)?？锖饪伤闶且蛎鹘?jīng)而位極人臣的典型了。
       匡衡任職期間，多次上疏陳述自己對(duì)朝廷政策的意見(jiàn)，陳述治國(guó)之道并經(jīng)常參與研究討論國(guó)家大事，按照經(jīng)典予以答對(duì)，言合法義，博得元帝信任。每當(dāng)朝廷大臣討論政務(wù)時(shí)，匡衡總是引《詩(shī)經(jīng)》為據(jù)，認(rèn)為“六經(jīng)者，圣人所以統(tǒng)天地之心，著善惡之歸，明吉兇之分，通人道之意，使不悖于其本性者也。故審六經(jīng)之指，則人天之望可得而和，草木昆蟲(chóng)可得而育，此永永不易之道也。”匡衡的主張得到元帝及成帝的支持，這與從漢朝中期就開(kāi)始興起的獨(dú)尊儒術(shù)，推重經(jīng)學(xué)，微言大義的社會(huì)風(fēng)尚是分不開(kāi)的，實(shí)際是漢朝統(tǒng)治者用以統(tǒng)治人民的一種手段。
       元帝后期時(shí)，宦官石顯為中書(shū)令，他結(jié)黨營(yíng)私，把持朝政，慫恿元帝加重賦役，剝削人民，但因有皇帝的寵幸，沒(méi)人敢觸犯他。成帝即位后，匡衡便上疏彈劾石顯，列舉其以前所犯罪惡，并糾舉他的黨羽，這是匡衡所做的最后一件鏟除奸佞，為漢朝廷盡忠的事情。不久，匡衡與同僚間漸有離隙，被人彈劾，貶為庶民，返回故里，不幾年，病死于家鄉(xiāng)    元帝封其為安樂(lè)侯，其侯國(guó)食封土地本為三十一萬(wàn)畝，匡衡利用郡圖之誤，非法擴(kuò)大食封土地四萬(wàn)多畝。成帝時(shí)，司隸校尉駿等告其“專(zhuān)地盜土”（指擴(kuò)大國(guó)界），被免為庶人。