上海地区供奉城隍由来已久。早在宋淳佑七年（1247），华亭即立城隍庙。上海在置县前，也供祀城隍于淡井庙，以作为华亭县城隍行殿，后人称老城隍。明朝开国后，于洪武二年（1369），诏封天下州县城隍府神为显佑伯。
相传上海的城隍神姓秦，名裕伯，字景容。为宋代尤图阁学士秦观八世孙。元时累官至福建行省郎中。元末避兵扬州，转徙上海。当时占据苏州的张士城派人前往招用，为其拒绝。吴元年及洪武初年，朱元璋几次淮备起用秦裕伯，秦均称疾不出。初定天下的朱元璋对于秦裕伯隐卧上海甚感不安，这位生性多疑的皇帝深虑由此“海邦不靖”，即下手渝：“海浜民好斗，裕伯智谋之士而居此地，坚守不起，恐有後悔。”手谕的意思十分明白，秦裕伯只得应召人朝，次年拜待制，旋为治书待御史。洪武三年，设科取士，与刘基同为京畿主考官。洪武六年（1373）病卒，葬于上海长寿里。为“释主疑，明民志，不惜一身之去就，为国人请命也”，因而，海滨之民怀着感激与敬重，奉祀其为城隍神。
永乐年间，上海知县张守钓将原位于县西北的霍光行祠改建成具城隍庙。据至元《嘉禾志》引《吴越备史》载，相传吴王孙皓病重时，有神附体一小黄门，对孙皓言道：“华亭谷东南有盐塘，风潮为害，非人为所能防。臣本汉霍光也，愿统部属镇之。”遂立庙祀汉博陆侯霍光，是为上海祀奉霍光之始。
上海的霍光行祠又常称为金山神庙。金山庙改成城隍府後，前殿仍奉祀金山神霍光坐像，後殿则供奉秦裕伯。改建之初，城隍庙规模尚小，以後历代都有所修葺。全盛时，包括有大殿、中殿、寝宫、星宿殿、阎王殿、财神殿、文昌殿等殿堂。清康熙四十八年（1709），在庙侧起造东园。乾隆时，由全县士商捐纳，购潘氏豫园故址，归城隍庙，称西园。重加兴修，所费资产累巨万，极泉石之美，以作娱神乐神之用。府基一度达70亩，称盛一时。其时，江南奉祀城隍“尤谨”，开堂皇崇，寝阁羽卫，“庙制辄拟古诸侯，又极池台园囿之观，吴越所在者皆然，而上海为尤盛”。与盛大的庙宇相一致，上海人对于城隍神有着特别虔城的奉祀：先是松江民俗，每重祷献，而于城隍庙尤甚，如祈病祈福，富室用全猪羊，贫者用三牲首，日元虚晷，佥云城隍有炅，能祸福人，别府铯无此事。除夕日，家家户户备牲醴，前往城隍庙瞻拜。牲醴香烛，源源而来，香火称旺一时。每年清明、中元、十月朔，城隍神出巡祭厉坛，迎送间，彩旗、灯幡、鼓乐、戏妓、烟火、舆马，备极豪华、隆重，“虽王侯不能拟，官府不能禁”。历经数世，在沪人的心目中，上海的城隍神“御灾捍患，素者威灵”，士民对其感恩戴德。清代曹一士曾应邑民之请，为城隍神作《颂序略》，其中记载了送样一则故事：顺治十年秋，一直在海上坚持抗清斗争的张名振引兵人吴淞。苏州总兵王璟时掌军务，督战上海，见对方旌旗蔽空，海艘鱼贯而入，一时竟不知所措。是役，清兵溃败。不久，江宁巡抚周国佐按临上海，王璟深恐其畏敌逃避之迹败露，遂先发友制人，诬告上海百姓犯通海之罪。周国佐信以为真，决定屠城，淮备从南浦至静安寺，承数烧杀。上海知县阎绍庆及乡绅曹垂灿等闻知，急忙赶赴抚台行营，长跪陈请，愿以全家百口性命为保。自朝至暮，再三恳求。周国佐仍一意孤行，下令鸡鸣时分纵戮。夜半，城隍神显形巡抚官廨，朱袍象简，赫立阶下，周国佐见之，心意稍动。稍顷，城隍神又显形，对着周国佐“直视摇首者数四”。于是，周国佐收回屠城之令，全城百姓终于免遭屠戮。这一传说，反映出上海的老百姓已将能保有家室、安享太平归功于城隍神之赐。
也有说城隍作为神，是由《礼记》中所渭“天子大蜡八”而来。天子要祭八种神，其中有“坊”与“水庸”，大略是对城堑、护城沟渠之祭，这是对城市守护神的祭札。明代人陆容《菽园杂记》卷五谈到了城隍之祀：城隍之在祀典，古无之。後世以高城深池，捍外卫内，必有神主之，始有祠事。惑于理者，衣冠而肖之，加以爵号，前代因袭，其来久矣。後世的城隍正是被赋予了城市守妒神的面目与功能，御灾难，安生聚，垂丰穰，庇百姓。城隍庙亦就因此成为一个城市不可或缺的祭典埸所。地方官府朔望进香，祈晴祷雨，并常藉以宣讲乡钓。士庶禳病祈福，牲醴香楮，祷献报赛。这也就难怪城隍庙庙宇崇闳，香火繁盛。
自清末以来，上海的城隍庙又多出一重功能。当时辟出西园的部分，租于商家。此例一开，园中广设商店，竟成集市，城隍庙各种土特产、美味食品的声名不胫而走。另外，东、西园园囿之胜号称一邑之冠，游赏者颇多。各种花会，如四月下旬兰花会，九月中旬菊花会等，常设于东、西园，各神庙会、灯会又常以城隍庙为盛。三月二十八日，传乃城隍夫人诞，上海街巷悬灯亦一如天后。
作为海滨城市，上海的城隍庙还兼有着护海功能。明初城隍庙改建之时，大门有坊，其额曰“保障海隅”。清同治时又加封“护海公”，匀天后神合力护庇南来北往的海舟，“上海地濒溟渤，华夷于兹互市，北达燕齐，南连闽粤，舳舻衔尾，鳞萃麕集，往往惊涛骇浪中，神之灵异与天后相佐佑”。进出黄浦的船艘，则必向天后官、城隍庙烧香祈祷。“惯驾沙船走北洋，船头四望白茫茫。得归庆幸团团会，天后城隍遍爇香。”每次城隍庙修葺，不仅上海商民踊跃捐赠，不恤财力以助，四方富商巨贾也皆“捆载辐辏而集”。上海城隍庙由此得以称盛兴旺。