清朝时，在安徽桐城有个一个著名的家族，父子两代为相，权势显赫，这就是张英、张廷玉父子。
清康熙年间，张英在朝廷当文华殿大学士、礼部尚书。老家桐城的老宅与吴家（当时官拜安庆州知府，钦定五品）为邻，两家府邸之间有个空地，供双方来往交通使用。后来邻居吴家建房，要占用这个通道，张家不同意，双方将官司打倒县衙门。县官考虑纠纷双方都是官位显赫、名门望族，一个是朝庭一品大员，一个是他的顶头上司——州知府，都不能得罪，不敢轻易了断，甚至想辞官不做，以免带来杀身之祸。
在这期间，张家人写了一封信，让人捎给在北京当京官的张英，要求张英出面，干涉此事。张英收到信件后，认为应该谦让邻里，给家里回信中写了四句话：
千里来书只为墙，
让他三尺又何妨？
万里长城今犹在，
不见当年秦始皇。
遂交给来人，命速带回老家。家里人一见书信回来，喜不自禁，以为张英一定有一个强硬的办法，或者有一条锦囊妙计，但家人看到的是一首打油诗，败兴得很。后来一合计，确实也只有“让”才是惟一的办法，房地产是很可贵的家产，但争之不来，不如让三尺看看。于是立即动员将垣墙拆让三尺，大家交口称赞张英和他家人的旷达态度。
宰相一家的忍让行为，感动得邻居一家人热泪盈眶， “他家宰相肚里能撑船，咱们也不能太落后。”全家一致同意也把围墙向后退三尺。
两家人的争端很快平息了，两家之间，空了一条巷子，有六尺宽，有张家的一半，也有吴家的一半，这条几十丈长的巷子虽短，留给人们的思索却很长。于是两家的院墙之间有一条宽六尺的巷子。两家礼让之举和张家不仗势压人的做法传为美谈。六尺巷由此而来。