大迦叶是佛陀十大弟子之首，尊者少欲知足、常修苦行，故被称为“头陀第一”。
尊者出生于摩竭陀国，生下来便具足三十二相，聪明颖悟，无人能敌。八岁起便依婆罗门教的规定学习五明、四吠陀，对逻辑学、语言学、天文、地理、数学、文学、绘画、雕塑、祭祀、歌舞无所不通，但却性格奇异，常离群索居，不喜合群玩耍。
长大成人后，父母多次催他择偶娶妻，他只是一味不睬，后来实在无奈，便随意指着一尊黄金铸成的美女像对父母说：“若没有这样的金色女子，我就终生不娶。”他本以为这样就可以终身不娶，不想父母真的为他找到了一位叫跋陀伽毗罗尼的迦毗罗女。这位女子生得与黄金女子一般无二，迦叶尊者无奈只好听命于父母。
新婚之夜，新娘愁眉不展，经再三询问，才知道这位女子对于嫁人毫无兴趣，只乐修行。尊者一听，喜出望外。两个人决定互不干扰，各修梵行，轮流睡眠：一人睡时，另一个经行或坐禅，就这样度过了十二年。父母相继谢世后，迦叶尊者自己除去须发、披上法衣，对跋陀伽毗罗尼说：“我出家修行，决心在世间寻找觉悟的圣者。如果找不到这样一位圣人，便自己独立思考，走独觉成佛的路。”遂将家产全部布施，离家而去。两人分手时，大地被他们的出离功德威力所震动。
佛陀察觉到大地的这次震动，知道那意味着有杰出的弟子要来找他。在未通知任何比丘的情况下，他独自上路，走了五里路去见未来的学生——这个慈悲的举动，后来一直被受赞颂。在王舍城与那烂陀之间的路上，佛陀坐在榕树下，等待未来的弟子到达。他并未像普通沙门一样坐在那里，而是展现出一切庄严的佛光。他放光照亮了方圆八十公尺，整片树林呈现一片光明。他示现三十二种大丈夫相，庄严相好。当迦叶尊者到达时，看见佛陀坐在那里，充满觉者之光，心想：“这一定就是我要寻找的老师!”他走向佛陀，匍匐在他的脚下，大声说道：“世尊!佛陀是我的老师，我是他的弟子!”这样重复说了三次，世尊说：“如是，迦叶，我是你的老师，你是我的弟子。”并为他开示五蕴之苦和四圣谛法，随后说：“善哉迦叶，快哉迦叶!你将以苦行第一著称于世，为佛教在人间的流传作出巨大的贡献，是故今后当称你为摩诃迦叶。”摩诃迦叶跟随世尊服侍左右，将自己珍贵的帛衣垫在世尊的足下，祈求世尊接受他的供养。世尊慈悲接受了帛衣，把自己的粪扫衣赐给摩诃迦叶，以激励他苦行。从此以后，尊者终生都坚持严格的苦行，甚至一直到老年，仍持守年轻时许下的誓愿。仅仅七天，他就证得了究竟的阿罗汉果，内心解脱一切烦恼。
尊者见世尊赞叹阿兰若法，于是长跪合掌请世尊慈悲垂示。世尊慈悲地教诲他：“比丘在阿兰若处修行，应远离我、法二执，身心清净，行头陀规范。此法有十二个要点：一者，阿兰若，就是远离家人的闲静处，寂静的山野、树林皆可。二者，常行乞食。三者，头陀比丘应不着于色，以平等心哀怜一切众生，不分贫富，依次乞食，不得有所选择。四者，只受一餐。五者，应节量食。六者，控制自己的饮食欲望。七者，应拾取别人抛弃的衣服，洗净后补穿用。八者，少欲知足，只备三衣一钵。九者，冢间住。十者，树下坐法。十一者，于树下坐时，不应对树生贪着。十二者，常坐不卧。要注意系心一处，不要散乱，再进一步深入思维，认识到五蕴本空，灭除诸相。再发菩提心，即可回小向大，修菩萨十地。”迦叶尊者听完非常欢喜，立即付诸实践。他常常在寂静的深山中独自修行，他不顾雨淋日晒，勤苦不倦。或是露天静坐，或是冢间观尸，昼夜正念修习无常、苦、空、无我、不净观，勇猛精进。迦叶尊者一生苦行，直至年老也未曾有丝毫懈怠。世尊劝言：“你今已老，粪扫衣重，可改穿坏色轻衣。”迦叶白世尊言：“世尊，修行苦行使我现在安宁快乐，也可为未来众生照亮前途作出表率。未来世众生想到我修行苦行，会这样想：‘过去有上座六神通，出家日久，梵行纯熟，为世尊所叹，为智慧梵行者之所奉事。他于长夜在寂静处修习，赞叹寂静处，赞叹粪扫衣、乞食法。’凡是知道我苦行的人，都会以清净心随喜，并将由此得到安乐。”世尊很高兴，赞赏他的头陀苦行说：“将来正法的毁灭，不在天魔外道的破坏，而正在僧团的腐化与崩溃!大迦叶的话说得很对，要弘扬佛法，让真理之光永照世间，则必先要巩固僧团。要巩固僧团，就必须过严肃的生活，我的正法，如大迦叶尊者就能负责住持!”并将坐垫让出一半来，当众对大迦叶说：“善哉!大迦叶过来，请坐在我的垫子上。”说着，大千世界为之震动。
有一次，天界之王在灵鹫山上向佛陀敬献金色波罗花，请佛说法，世尊拈花示众，微笑不语。当时座下所有的弟子都不明白，只有大迦叶微笑着，因为他了悟了佛陀的心。佛陀说：“正道大法是无法用眼睛看出来的，只有涅槃寂静的心才能领会。实在的法相其实是没有法相，这是一门微妙玄通的法门，不立文字，是用特殊的教法传授的，我就将这些嘱托给摩诃迦叶。”这就是以心传心，即所谓灵山会上正法眼藏付嘱的拈花微笑，也是禅宗最初的典故。
在佛陀八十岁于拘尸那迦示现涅槃时，尊者正在北方的铎叉那耆国领着五百比丘教化度众，他得知消息后非常伤心，星夜率比丘众来到拘尸那迦。佛陀的弟子们有的愁眉不展，有的伏地痛哭。众生失去了人天导师、失去了皈依，异常悲伤。尊者觉得有必要结集佛陀的教法，于是担起正法流传的重任，在佛陀灭度后的九十日，开始结集三藏，将世尊的法教流传于世。
结集三藏后的大约二三十年，大迦叶忽然想提早入灭。当时，大迦叶的年龄已超过百岁。他即刻走到阿难陀住的地方，付嘱佛陀所说的教法，让阿难陀继续传承下去，然后跃身虚空，到佛陀的八塔一一供养礼拜。回到王舍城，他前去向阿阇世王告辞，守卫说国王在睡觉，他就迳往离王舍城西南的鸡足山走去。当尊者到达此山时，三峰裂开，自然形成他的禅座。他即刻席地而坐，并且说道：“我今将以神通力来保持这个身体，用粪扫衣来盖覆它，等弥勒菩萨降生成佛，我再去拜见他，协助他教化众生!”说完后，鸡足三峰就合起来，隐藏了他的身体。
阿阇世王知道大迦叶尊者入灭的消息，悲伤无比!马上往见阿难陀尊者，要他同登鸡足山一看，当阿难陀尊者和阿阇世王到达鸡足山时，鸡足三峰自然裂开，他们看到大迦叶尊者端然的入灭尽定，身上还覆盖了美丽的天花。他两人供养礼拜退出后，山峰又自然地合起来。
大迦叶尊者以他一生严格的苦行，赢得了僧团的尊重，对佛法的流传有极大的功劳，是僧团之父。
