秦朝时在山东西北置济北郡。

汉元年（前206年），项羽封田安为济北王，立都博阳。汉高帝六年（前201年），分济北郡南部置博阳郡，治博阳。又立长子刘肥为齐王，以临淄、博阳、济北、胶东等七郡属齐国。后来博阳郡徙治于东平陵县（故城在今山东省章丘市龙山北），以其地在济水之南（济水，古代四渎之一），遂改名为济南郡。吕后二年（前186年），“立其兄子郦侯吕台为吕王，割齐之济南郡为吕王奉邑”，置吕国。济南之名始见于此。