旧时，福州城内里巷要冲处，多立一石碑，上刻“泰山石敢当”5字，一般人多不知其由来。据宋人王象之《舆地纪胜》载：庆历四年（1044年），闽省莆田县曾发现唐大历五年（770年）“石敢当”碑一块。又《舆地碑目》亦载：张纬庆历中为莆田令，在县衙发现此碑，文曰：“石敢当，镇百鬼、压灾殃。”可见“石敢当”在古代应为镇鬼祛邪之用。另西汉《急就章》中亦有“石敢当”3字，注云：“敢当、所向无敌也。”此风自汉时已有，历唐、宋不改。

至清代，则演变成为“泰山石敢当”5字。民间传说：原为江西龙虎山张天师所书，意思谓以泰山之神力能抵住一切凶神恶煞。清人俞曲园《茶香室丛抄》卷十亦云：“齐鲁之俗，多于村落巷口立石，刻‘泰山石敢当’5字，能暮夜主人家治病。”福州人立此碑，当受北方人影响。