公元前475年，巨野属宋国，至公元前286年，改属齐国。秦始皇二十七年(公元前220年)，设置昌邑县(治所在今大谢集镇前昌邑村)，属砀郡。西汉初期，巨野县境内有昌邑县；西汉中期增置巨野县和乘氏县。公元9年(新朝建兴帝王莽始建国元年)，撤销山阳郡，改为巨野郡，以巨野县城为治所。公元25年(汉光武帝刘秀建武元年)，撤销巨野郡，恢复山阳郡，治所在昌邑、巨野、昌邑两县兼属山阳郡和兖州。
公元606年(隋炀帝大业二年)撤销乘氏县，并入巨野县。公元619年(唐高祖武德二年)，巨野县属郓州东平郡。公元643年，巨野县改属河南道郓州。公元1150年，黄河大决、淹没巨野、撤销巨野县。公元1269年(蒙古至元六年)恢复巨野县，迁往任城的济州，还治巨野县。公元1368年(明朝洪武元年)，设济宁府于任城，巨野为属县，隶属于山东布政使司。清朝初年，巨野县属兖沂曹济道、兖州府、济宁州。公元1724年(清朝雍正二年)，改济宁州为济宁直隶州，巨野为属县。公元1912年(中华民国元年)，巨野县属山东省济宁道。
1949年8月20日，平原省人民政府成立。巨野县隶属平原省湖西专区。1953年7月20日，撤销湖西专区，巨野县改属山东省菏泽专署。
附： 【山东千年古县名录】
博兴县、蓬莱市、平度市、平原县、蒙阴县、费 县、肥城市、定陶区、 东平县、东昌府区、东阿县、宁阳县、泰山区、滕州市、历城区、历下区、临淄区、莱阳市、莱芜市(古县目录中为莱芜县)、 临朐县、乐陵市 、高密市 、广饶县、 高唐县 、莒 县、 巨野县、 鄄城县 、金乡县、 青州市 、新泰市、 邹平县、 邹城市 、周村区、 茌平县、 成武县、 寿光市 、单 县、 任城区、 峄城区、 兖州市、 阳信县、 安丘市、 平阴县 、牟平区、 德州市(如今级别为市，但的确在册)、 东明县、 郯城县、 莱州市 、临清市 、临邑县、 冠 县、 即墨市 、胶州市 曲阜市 、夏津县 、淄川区 、泗水县、 诸城市 、章丘市、 长清区 、莘 县、 商河县、 沂水县、 郓城县 、阳谷县、武城县、 文登市、 平邑县、 临沐县、 昌乐县 、昌邑市、 鱼台县、 禹城市 、无棣县
(人文齐鲁)
