玉门关，始置于汉武帝开通西域道路、设置河西四郡之时，因西域输入玉石时取道于此而得名。汉时为通往西域各地的门户，故址在今甘肃敦煌西北小方盘城。元鼎或元封中（公元前116年—前105年）修筑酒泉至玉门间的长城，玉门关当随之设立。

据《汉书·地理志》，玉门关与另一重要关隘阳关，均位于敦煌郡龙勒县境，皆为都尉治所，为重要的屯兵之地。当时中原与西域交通莫不取道两关，曾是汉代时期重要的军事关隘和丝路交通要道。