随州之“随”，其名最早源于远古的“随氏族”。据战国时史官撰写的《世本·作篇》记载：“随，作笙。长四寸，十三簧，像凤之身，正月之音也。”宋衷注：“随，女蜗氏之臣。”由此可见，“随人”不仅是远古时代创制笙簧、酷爱歌舞的氏族，而且还是“女皇”女蜗氏的“臣子”、“诸侯”或后裔，为女娲氏、神农氏、烈山氏同血缘关系的氏族部落。是时，“随人”先以“兕”为图腾（“兕”即“犀”之异名，“兕属雌，犀属雄”）后又演变为崇拜“豕”图腾，是生存、繁衍于南方大洪山的土著氏族，赖以渔猎为生计，后来扩展至桐柏山区。其中一支族“烈山氏之子曰柱”，“烈山泽而焚之”，开创了原始农业和饲养业，故又崇拜“牛”“豕”图腾，至今随州地区仍保留崇敬“独角兽”（即“兕”）“猪头插筷子”（即祭祀烈山之子柱）的习俗。
随氏族日渐发展壮大，其中一支族随为帝向北扩张。虞夏至商初，随人在中原建立“犀”方国。同时，从商代中期至战国末期，先后在随境有“厉”、“随”、“唐”三个诸候国建置都邑，西周初年，周武王封姬姓四十人，其中“随”、“唐”三个诸候国建置都邑，西周初年，周武王封姬姓四十人，其中“随”、“唐”封建随境。
从秦代至今的二千多年间，随州建置虽然变迁频繁，但大部分时期或设郡、州，或置专署，成为江汉、鄂北的政治、经济、军事、文化中心。
战国末，楚灭随建县，秦汉因之。晋设义阳郡，南北朝改设随阳郡，后又改为随郡、北随郡；北周设汉东、义阳二郡。西魏随升为州，辖郡、县。隋仍设州，后废州设汉东郡。唐改郡为随州。宋、元仍为随州。民国后废州为县，抗战时期，国民政府湖北省三专区公署设在随县。
随州地灵人杰，为历代兵家必争之地。秦始皇、汉武帝仰慕大洪山的天然灵气和秀丽山川，先后赴大洪山巡视，故有“祭尧舜于九嶷山（即大洪山）”之说；西汉末，平林（今随州古城畈）人陈牧、廖湛举兵起义，号“平林兵，击溃王莽军，建立东汉王朝；晋太康九年，武帝司马炎封司马迈为随郡王、置随国；太安二年，义阳（今随州北境）人张昌聚饥民起义，立刘泥（立沈）为帝恢复汉朝，建元“神凤”，宋时随州还涌现出孟宗政、李庭芝、边居谊等一批著名抗金抗元将领、民族英雄；元末，梅丘里（今曾都柳林古城畈人）人明玉珍率众起义，后加入红巾军，入川后自立为帝，建国大夏；明崇祯十年，农民义军张献忠、李自成部克随州，建立了随州历史上第一个革命政权，任汪鹭为随州牧；清咸丰五年，落湖里（今曾都区长岗镇）人赵邦壁举兵起义，克随州、德安等五个州府，建国后宋。随州人林翼支、方维、谢石钦、李亚楠、吴少伯等近千人参加武昌起义，并担任军政要职。
在革命战争年代，随州更加具有光荣的革命传统，大革命时期的工农青妇运动如火如荼；土地革命时期的随县“秋收暴动”成功，建立了三个苏维埃政权，湘鄂西、豫鄂皖两个中央分局扩大会议在随境召开，红四方面军从随南开始长征；中央鄂北特委机关设在随州高庙；抗日战争时期，随县是鄂豫边区抗战的指挥枢纽，中共鄂中省委、随枣地委、豫南地委、洪山地委均设在随州境内；鄂豫边区抗敌工作委员会、管辖十三县国共抗日联合政权在随县均川成立；新四军第五师在随南九口堰建军，随州境内建立了三个县级抗日民主政权；解放战争时期，江汉区党委、行署、军区和洪山地委、专署、军分区始终驻设随县。
1949年5月16日，随境随县、洪山县并列，分别隶属孝感、襄阳两专署。1955年4月30日，湖北省人民委员会13号命令，将洪山县制撤销，其辖区分别归并宜城、钟祥、枣阳和随县。
1979年11月，经国务院批准，以原随县城关镇和北郊公社为基础，设立随州市，与随县并存。
1983年8月19日，国务院164号文通知，撤销随县建制，其行政区域并入随州市。11月20日，县、市正式合署办公。
1991年8月26日，湖北省人民政府45号文决定，把随州市的发展列入全省统筹规划中，各项计划指标直接单列。
1994年11月4日，湖北省人民政府152号文件通知，随州市由省直管县级市。
2000年6月，国务院批准成立地级随州市，原县级随州市改名曾都区，隶属地级随州市；代管广水市。
2009年，国务院批准随州市重新设立随县，即在原随州市曾都区(市政府所在地)区划范围内，划出部分乡镇成立随县，曾都区继续保留；随州市管辖随县、曾都区，代管广水市。