字世美。 仕元为枢密知院。元亡，从走漠北。 洪武十八年，来归。从大军出塞，至捕鱼儿海，以功授济南卫副千户，迁安庆卫指挥佥事。又从征远顺、散毛诸洞。北逐元人之扰边者，至鸦寒山还，调燕山左护卫。从燕王出塞，至黑松林。又从征野人诸部。以骁果善谋画为王所亲任。 建文元年，成祖起兵。玉帅众夺北平九门，抚谕城内外，三日而定。师将南，玉献计，遣硃能东攻蓟州，杀马宣，降遵化。分兵下永平、密云，皆致其精甲以益师。擢都指挥佥事。是时朝廷遣大兵讨燕：都督徐凯军河间；潘忠、杨松军鄚州；长兴侯耿炳文以三十万众军真定。玉进说曰：“潘、杨勇而无谋，可袭而俘也。”成祖命玉将亲兵为前锋，抵楼桑。值中秋，南军方宴会。夜半，疾驰破雄县。忠、松来援，邀击于月漾桥，生擒之。遂克鄚州。自以轻骑觇炳文军。还言：“军无纪律，其上有败气，宜急击。”成祖遂引兵西，至无极，顾诸将谋所向。诸将以南军盛，请屯新乐。玉曰：“彼虽众，皆新集。我军乘胜径趋真定，破之必矣。”成祖喜曰：“吾倚玉足济大事！”明日抵真定，大破炳文军，获副将李坚、甯忠，都督顾成等，斩首三万。复败安陆侯吴杰军。燕兵由是大振。 江阴侯吴高以辽东兵围永平。曹国公李景隆引数十万众将攻北平。成祖与玉谋，先援永平。至则高遁走，玉追斩甚众。遂从间道袭大宁，拔其众而还，次会州。初立五军，以玉将中军。时李景隆已围北平，成祖旋师，大战于郑村坝，景隆败。成祖乘胜抵城下。城中兵鼓噪出，内外夹攻，南军大溃。 建文二年，从攻广昌、蔚州、大同。谍报景隆收溃卒，号百万，且复至。玉曰：“兵贵神速，请先据白沟河，以逸待劳。”驻河上三日，景隆至。以精骑驰击，复大败之。进拔德州，追奔至济南，围其城三月，解围还。寻再出，破沧州，擒徐凯。进攻东昌，与盛庸军遇。成祖以数十骑绕出其后。庸围之数重，成祖奋击得出。玉不知成祖所在，突入阵中力战，格杀数十人，被创死。年五十八。 建文四年六月，成祖称帝，赠玉都指挥同知。九月甲申，追赠荣国公，谥忠显。洪熙元年三月，加封河间王，改谥忠武，与东平王硃能、金乡侯王真、荣国公姚广孝并侑享成祖庙廷。