今河北省张家口市怀来县小南辛堡镇大古城村（清史误将古上谷郡郡治认为在今河北省张家口市宣化区，故至今在宣化城中屹立有古上谷郡的牌坊），因建在大山谷上边而得名。
1、上谷郡始建于战国燕昭王姬平二十九年（公元前283年），今河北省张家口市怀来县小南辛堡镇大古城村（清史误将古上谷郡郡治认为在今河北省张家口市宣化区，故至今在宣化城中屹立有古上谷郡的牌坊），因建在大山谷上边而得名。当时，燕昭王派曾在东胡做人质归来的大将秦开击败东胡，使东胡北退千余里，将燕国的北部疆土拓展至辽东。其后，沿北部边界修筑长城，置上谷、渔阳（治今北京密云一带）、辽东（治今辽阳市）、辽西（治今辽宁义县西）、右北平（治今内蒙古宁城县）五郡，上谷郡是燕国北疆西部第一郡。
2、上谷郡为燕国北长城的起点。其地北以燕山屏障沙漠，南拥军都俯视中原，东扼居庸锁钥之险，西有小五台山与代郡毗邻，汇桑干、洋河、永定、妫河四河之水，踞桑洋盆地之川。所辖范围大致包括今张家口市怀来县、宣化区、涿鹿县、赤城县、沽源县以及北京延庆区等地。