馮玉年少時舉進士不中。馮贇為河東節度使，徵辟他為推官。馮玉入拜監察御史，遷至禮部郎中，為鹽鐵判官。晉出帝石重貴納馮玉姊為中宮皇后，馮玉受到恩寵甚厚，以馮皇后的外戚知制誥，拜中書舍人。馮玉不識書文，當時和殷鵬同為舍人，制誥常派殷鵬代作。之後，馮玉出為潁州團練使，歷任端明殿學士、戶部侍郎，遷樞密使、中書侍郎、同中書門下平章事。

當時，馮皇后掌權，軍國大務，決斷於馮玉。馮玉善於承迎帝意，於是更加有寵。一次有病在家，晉出帝對諸宰相說：「自刺史以上，等到馮玉病好任事，才能任命。」馮玉任命中書舍人盧價為工部侍郎，桑維翰以盧價資望淺，不同意，於是馮玉與桑維翰有隙，桑維翰於此罷相。馮玉為相，四方賄賂，積貲巨萬，因此朝政日壞。馮玉為樞密使，有朝使馬承翰有口才，一天持名刺來拜見馮玉，馮玉看看名刺開玩笑說：「馬既有汗，宜卸下鞍。」馬承翰應聲答道：「明公姓馮，可謂死囚逢獄。」馮玉自以失言，於是向馬承翰道歉。

契丹滅後晉，張彥澤先以兵入京師開封府，兵士爭先入馮玉家，家財巨萬，一夕被掠奪而盡。第二天馮玉見張彥澤，還是諂笑，自稱願持後晉玉璽獻給契丹，希望再得到遼太宗的恩獎重用。張彥澤不納。馮玉從晉出帝北遷，玉從入契丹，契丹命馮玉為太子太保。周太祖廣順二年，其子馮傑從幽州沒有告知父親亡歸後周，馮玉害怕受到譴責，於是在遼國鬱鬱而終。
  維基百科