邵陽行政建制歷史悠久。距今已有2500多年歷史，市境鴻古開啟，歷史代遠年長。早在新石器時代便有先民棲息屯居。城步西巖上朝園、武岡鄧元泰上頭園、隆回高坪小坳、邵陽縣塘田市水西、邵東牛馬司天子坪等多處文化遺址的發掘，較為系統地勾勒出先民們篳路藍縷開拓山林曠野的進程。

周朝其地屬荊州；春秋戰國時期屬楚，雄溪（今巫水）流域為南楚與百越相交之域。相傳春秋魯哀公時代（公元前494-477），楚王族白公善在今市西區地帶筑城防守，人稱白公城。秦代，今市境分屬長沙郡及黔中郡地。

西漢初，始設昭陵縣，屬于長沙國零陵郡。縣治設今市西區，為境內有縣級建制之始。三國初屬漢。222年地屬東吳，226年吳國置昭陵郡，隸荊洲。轄昭陵縣、昭陽縣、夫夷縣、都梁縣、高平縣、新城縣六縣。其后在資江流域，相繼建立都梁、夫夷、昭陽3個侯國。吳寶鼎元年（266），分零陵郡北部都尉置昭陵郡，治今市西區，境內建郡自此開始。西晉太康元年（280），武帝司馬炎因避其父司馬昭之諱，改昭陵郡為邵陵郡，改昭陵縣、昭陽縣為邵陵縣、邵陽縣。“邵陽”之名由此始。移郡治于資江北岸北塔灣。并把新城縣并入邵陽縣，分都梁為武岡縣、建興縣、都梁縣，加上邵陵、邵陽、夫夷、高平，于是邵陵郡所轄增為7個，改隸湘州。后相繼被改為建州(隋末)、南梁州(唐初)、邵州(唐太宗貞觀十年636)和敏州。境內西南部巫水流域，自漢至隋為“無陽五溪蠻”地，先后屬鐔城、舞陽、龍標縣。隋廢邵陵郡，一域之內單立邵陽一縣。唐代設邵州，轄邵陽、武岡2縣。武岡縣治今城步儒林鎮；邵州與邵陽縣自此在今市西區同城而治，歷千余年。宋初，武岡縣治從城步儒林鎮移今武岡城。崇寧五年（1106），置武岡軍。

南宋理宗趙昀當太子時，曾封為邵州防御使，他做皇帝后年號“寶慶”(1225年)，就把邵州升為寶慶府，用以紀念自己的潛龍之地，所以邵陽又有“寶慶”之稱。寶慶之名沿襲700余年。元代設寶慶、武岡2路。明初設寶慶、武岡2府，后降武岡為州，寶慶府領武岡、邵陽、新化、城步、新寧1州4縣，經清代沿襲至中華民國初年。