先秦诸子百家中，影响最大的自然要数儒、墨、道、法四家。但自秦汉大一统帝国形成之后，它们的命运开始分化：儒家成了中华文化的正统和主流；法家虽在舆论上不大受好评，但实际上主宰了两千年来专制朝廷的庙堂政治；与法家相反，道家则占据了民间社会的广阔天地，成为幽人隐士的精神家园。
只有墨家，在刹那辉煌之后，无论是作为一种学说，还是作为一种组织，都烟消云散，湮没在历史的长河中。虽然我们现在还能从文本上大致了解墨家的思想体系，但它已经只是一块思想化石，它在现实生活中已完全没有影响力。——甚至即便是文本上的《墨子》，《汉书·艺文志》记载尚有七十一篇，但现在只留下五十三篇，而且这五十三篇亦是幸亏葛洪把墨子写进《神仙传》，使《墨子》得以托庇于《道藏》而留存于世。
为什么墨家下场如此悲凉？是墨家思想不够高明么？应该不是。墨家思想体系充满了伟大的人道主义色彩与科学精神，即便以现在的眼光看，它依然是那么熠熠生辉。可见，历史留下的未必尽是精华，淘汰的也未必尽是垃圾。历史的逻辑未必是合理的，但不合理的又未必是不能解释的。作为一个长期而普遍的历史事实，墨家的消亡大概也并非偶然的命运安排。只是，原因是什么？
墨家与儒、道、法三家有一点差别，那就是它不仅有一套学说，还有自己的组织。这方面它与晚起的作为宗教的道教和东汉以后传入中国的佛教相类，胡适先生甚至直接把墨家视为一种宗教，所以我们不妨拿墨家与释道二教来做比较。就外因看，百家既罢、儒术独尊的历史环境可能是墨家消亡的重要原因，但同样不能居庙堂之高的道教（个别时期除外）却没有像墨家一样消亡，反而在民间发扬光大，并深深影响了中华民族的底层民俗文化。
除开外因，墨家消亡大约有其内在的因由：一个人要想成为墨家的忠实信徒，就必须有强烈的牺牲精神和献身精神，“以绳墨自矫，而备世之急”；必须能忍受生活上的艰苦，“以裘褐为衣，以跂蹻为服，日夜不休，以自苦为极”，而不能像孔夫子那样“食不厌精，脍不厌细”；必须怀有对众人的博爱之心，而不能讲私人感情……墨家希望每个人都能成为高尚的人、纯粹的人。
所以，《庄子·天下》批评墨家说：“其生也勤，其死也薄，其道大觳；使人忧，使人悲，其行难为也。恐其不可以为圣人之道，反天下之心，天下不堪。墨子虽独能任，奈天下何！离于天下，其去王也远矣！”不过，即便如此，《庄子·天下》还是感叹说：“墨子真天下之好也。”相比之下，做道教门徒似乎要幸福得多。道教的修行目标不是来世往生极乐世界，而是今世就要长生不老，成为仙人。所以，道教，尤其是历史悠久的正一道，并没有太多禁欲方面的规定，房中术甚至还是一种仙家秘术。
苦行僧式的生活方式固然是墨家不易为人接受的重要原因，但这一点尚不足以解释一切，因为在禁欲主义方面比墨家有过之而无不及的佛教，自传入中华以后，一直香火不绝，至今依然是中国的第一大宗教，所谓“天下名山僧占多”。
为什么墨家、佛教同样主张禁欲，而两者命运迥异？这可以从两者的不同之处找到答案：墨家只是一种世俗学说，而佛教是一种出世的宗教。作为出世的宗教，佛教能为信徒提供一套灵魂救赎的法门，让他们在禁欲的同时能享受心灵的满足，从而把所有的苦难都视为通往幸福彼岸的舟筏。正由于有这种“心灵鸡汤”，虔诚的佛门弟子可以忽略形而下的艰苦，去追求形而上的禅悦。
而墨家的理论体系本质上是世俗化的：兼爱、非攻、尚贤、尚同、非命、非乐、节用、节葬……这些都是纯粹俗世的学说。墨家思想中唯一带有神秘主义色彩的观点是相信鬼神并以此劝善，但这不足以改变整个墨家思想体系的高度世俗化色彩，不足以成为墨家门徒灵魂信仰的基础。而如果不以坚定的信仰为基础，禁欲的生活、无私的行为就不会有普遍而长久的吸引力。
总而言之，一种学问要想成为广被接受的显学，总得有某种足以吸引信徒的东西，这种东西可以是形而下的物质动机，也可以是形而上的精神慰藉。而墨家恰好这两方面的东西都无法提供，最后只能“言之无文，行而不远”。墨家如要长存，必得把世俗主义与禁欲主义二者舍去其一，以世俗主义搭配功利主义（如同大多数世俗学说），或以禁欲主义搭配神秘主义（如同大多数宗教学说），庶几方可免于沦亡。
除此之外，墨家还有一个不得不消亡的理由：在大一统的专制君主治下，一个内部有着严明纪律的世俗化组织必然会让朝廷产生极大的戒心。虽然墨家可能只有一腔热血，没有政治野心，但专制君主最怕的恰恰不是贪婪的小人，而是有政治动员能力的圣贤君子。所以，汉高祖坐稳了江山后，丞相萧何的门客劝萧“多买田地，贱贳貣以自污”，这样皇上才会安心。萧何听了劝告，于是低价强买老百姓的房子田地，结果高祖果然龙颜大悦。假如萧丞相像墨子一样想着“摩顶放踵利天下”，说不定未央宫里又要多一个无头之鬼。
对于君主而言，可怕的不是有造反的野心，而是有造反的能力。所以宋太祖要“杯酒释兵权”，让老部下都去做富家翁。专制君主对一切世俗组织都必然心怀警惕，“结党营私”之所以是一个很重的罪名，关键不在于“营私”而在于“结党”。“结党营私”固然不可，“结党营公”就更加显得别有用心。
所以，作为组织的墨家必然只能存在于列国时代，那时还没有形成四海为家的大一统，列国君主面临的最大危险是身边的敌国，对自己治下的百姓自要松弛许多。而且，像墨子这类人可以周游列国，亦不致成为某一国君主的忌讳。一旦“六王毕，四海一”，君主就势必以臣民为敌，不但墨家这类的组织不可能继续存在，甚至秉承了一些墨家思想，以除暴安良为己任的游侠亦因“以武犯禁”而为朝廷所不容。
而释、道二教虽有组织，但因其强烈的出世倾向而稍可见容于世。释、道二教不似基督教，它们一方面有遁世色彩，另一方面却又教人顺从世俗政权，即便世俗统治残暴无道，臣民也应逆来顺受。而且，在传教上，“不依国主，则法事难立”，这使释、道二教高度依赖世俗政权的支持。正由于释、道二教没有什么威胁性，反而在一定程度上有利于安邦定国，所以才不致像墨家一样过早衰亡。