徐州为古九州之一，建城史超过2600年，根据《春秋》记载，古彭城建城于公元前573年，比苏州阖闾城早59年，可以说是江苏省境内最古老的城市。
徐州是华夏九州之一，夏禹治水时，把全国疆域分为九州，徐州即位列其中。 原始社会末期，尧封彭祖于现在的市区所在地，为大彭氏国，从那时起徐州被称为彭城大彭国前后存约800年。
春秋战国时，彭城属宋，后归楚，秦统一后设彭城县。
楚汉时，西楚霸王建都彭城。
西汉设彭城郡，东汉设彭城国、建都彭城。
东汉时，州名。辖郡、国五，县六十二。治所郯县，在今山东郯城县。汉末移治下邳，在今江苏邳州东。
三国曹魏移治彭城，即今江苏徐州。辖境相当于今江苏长江以北及山东南部地区。 三国时，曹操迁徐州刺史部于彭城，彭城自始称徐州。
魏晋南北朝各代曾设彭城国或徐州，都城或治所多在彭城。
隋时设徐州，后改彭城增添郡，治彭城。 唐初，徐州与彭城郡名称多次互易，中后期为节度使驻地。五代时各朝置有徐州，治彭城，领7县。
宋、元两朝都置徐州，隶属和辖领变化较频。
明初徐州曾直隶京师，后属南京。
清初，徐州先后为江南省和江苏省所属直隶州，雍正末年升为徐州府，辖领1州7县。 民国初，府废，徐州府地附郭铜山县，后曾设徐海道，治所在铜山（徐州）。日伪时由铜山县析置徐州市，碃揣百废知肚版莎保极曾为伪淮海省省会。抗战胜利后，国民政府仍置徐州市。
