老北京的一些老字号也起源于小胡同，如便宜坊老店在鲜鱼口，全聚德在肉市，均不在前门大街。广和居在宣外北半截胡同，清代这里是京城最大的饮宴场所之一，曾产生过许多风流轶事，一直营业到1917年才关门大吉。
明清到民国时期，北京大大小小的会馆有500余家（有的统计有900余家），其中绝大多数设在胡同而不设在大街上。胡同幽幽，庭院深深，宜于做学问搞创作，鲁迅的《阿Q正传》就是在胡同里的会馆写出来的，谭嗣同、康有为、梁启超诸人也是在胡同里的会馆策划“公车上书”，搞得“戊戌变法”轰轰烈烈。至于梨园界的前辈，无论是“四大青衣”还是“四大须生”，他们在舞台上唱念做打，展现艺术光辉，但他们的旧居、故居都在小胡同里。至于历史上设在胡同里的王府、衙门及各种名人故居和大宅门大四合院，为小胡同增色不少，但它不是北京胡同的标配，远不如那些水井、寺庙和小铺儿有胡同气息、有影响、有趣味。
