Ngài dòng Bà-la-môn, ở nước Ma-kiệt-đà, cha tên Ẩm Trạch, mẹ tên Hương Chí. Thuở bé, Ngài dung nghi trang nhã, toàn thân phát sáng màu vàng, chiếu rất xa. Thầy tướng xem tướng Ngài nói: “Đứa bé này đời trước có phước đức thù thắng, lẽ ưng xuất gia.” Cha mẹ Ngài nghe nói lo sợ, cùng nhau thầm bàn “sẽ cưới vợ đẹp để làm nhụt chí của nó.”

Vừa lớn lên, cha mẹ liền lo chọn người lập gia thất cho Ngài, nhưng Ngài một bề từ chối. Sau cùng, bất đắc dĩ Ngài phải nói: “Có người con gái nào thân đồng màu sắc như con, con mới ưng cưới.” Cha mẹ Ngài bèn đúc một tượng vàng, đẩy đi khắp trong nước, tìm người nữ nào giống màu sắc ấy, cưới cho Ngài. Quả nhiên, gặp được một cô con gái giống hệt như Ngài. Thế là Ngài phải lập gia đình.

Bởi đời đức Phật Tỳ-bà-thi, sau khi Phật Niết-bàn, chúng xây tháp thờ Xá-lợi, trong tháp có an trí một pho tượng Phật phết vàng. Lâu ngày pho tượng trên mặt bị lở khuyết. Khi ấy, Ngài Ca-diếp là thợ đúc vàng. Có cô gái nhà nghèo, vì thấy mặt Phật hư khuyết, cô còn một đồng tiền vàng, đem đến nhờ Ngài nấu ra để phết lại tượng Phật. Thấy cô phát tâm tu bổ tượng Phật, Ngài rất hoan hỷ đứng ra làm chu tất việc này. Nhân đó, hai người cùng nguyện đời đời sẽ làm vợ chồng, mà coi như đôi tri kỷ, chớ không vì tình dục.

Do phước báo đó nên 91 kiếp thân thể hai vị đều toàn một màu vàng. Sau, sanh cõi Phạm Thiên, hết phước cõi Phạm Thiên chết, sanh về cõi này trong nhà Bà-la-môn giàu có hiện tại.

Tuy hiện nay hai vị làm vợ chồng, mà sống như tình tri kỷ, không có ý dâm dục. Đến sau, cả hai đều xin cha mẹ xuất gia. Cha mẹ bằng lòng, Ngài liền xuất gia làm Sa-môn, vào núi tu hạnh Đầu-đà.

Một hôm, nhân nghe trong hư không có tiếng bảo: “Phật đã ra đời, nên đến đó thọ giáo”, Ngài liền tìm đến tinh xá Trúc Lâm, chí thành đảnh lễ Phật. Phật bảo: “Lành thay! Tỳ-kheo đến đây, hãy cạo bỏ râu tóc đi!” Ngài liền cạo bỏ râu tóc, thọ giới Tỳ-kheo, mặc y cà-sa. Từ đây, Ngài theo Phật hiểu sâu giáo pháp, tinh tấn tu hành không lúc nào lơi lỏng, cho đến chứng quả A-la-hán.

Có lần, Ngài từ xa đến ra mắt Phật. Các chúng Tỳ-kheo ngồi vây quanh Phật, trông thấy Ngài mặc y bằng vải rách, thân hình tiều tụy, có ý thầm khi. Phật biết, bèn bảo: “Ca-diếp đến đây! Ta nhường nửa tòa cho ngươi.” Ngài vẫn không dám ngồi. Phật bảo các Tỳ-kheo: “Ta có đại từ đại bi, các thiền định tam-muội và vô lượng công đức để tự trang nghiêm. Tỳ-kheo Ca-diếp này cũng như thế. Do đó, ta nhường nửa tòa cho Ca-diếp ngồi.” Chúng Tỳ-kheo đều dứt tâm ngạo mạn, cúi đầu cung kính Ngài.

Hôm nọ, Phật ở trong hội Linh sơn, tay cầm cành hoa sen đưa lên, cả hội chúng đều ngơ ngác. Chỉ có Ngài đắc ý chúm chím cười (niêm hoa vi tiếu). Phật bảo: “Ta có Chánh pháp nhãn tạng, Niết-bàn diệu tâm, pháp môn mầu nhiệm, chẳng lập văn tự, ngoài giáo lý truyền riêng, nay giao phó cho ngươi. Ngươi khéo gìn giữ chánh pháp này, truyền trao mãi đừng cho dứt, đến sau sẽ truyền cho A-nan.”

Thế Tôn đến trước tháp Đa Tử gọi  Ma-ha Ca-diếp đến chia nửa tòa cho ngồi, lấy y Tăng-già-lê quấn vào mình Ca-diếp, rồi nói kệ phó pháp:

Pháp bản pháp vô pháp,

Vô pháp pháp diệc pháp.

Kim phó vô pháp thời,

Pháp pháp hà tằng pháp.

Dịch:

Pháp gốc pháp không pháp,

Pháp không pháp cũng pháp.

Nay khi trao không pháp,

Mỗi pháp đâu từng pháp.

Ngài già yếu, Phật nhiều lần khuyên: “Ca-diếp tuổi đã già, nên ở một chỗ nhận những thức cúng dường của thí chủ, chớ đi khất thực nhọc nhằn.” Ngài bạch Phật: “Con tuy già yếu, song không dám ở một chỗ thọ sự cúng dường của thí chủ. Vì sợ e sau này, các Tỳ-kheo đời sau sẽ nói: ‘Đệ tử lớn của Phật trước kia vẫn ở một chỗ thọ sự cúng dường’, rồi họ sanh phóng túng.”

Lúc Phật Niết-bàn tại thành Câu-thi-na trong rừng Sa-la, thì Ngài đang ở trong động Tất-bát-la trên núi Kỳ-xà-quật. Nghe tin Phật Niết-bàn, Ngài và 500 đệ tử vội vã hướng về thành Câu-thi-na. Đến nơi, đã để Phật vào kim quan, Ngài buồn bã. Thầy trò đi nhiễu kim quan ba vòng, rồi đảnh lễ Phật. Khi ấy, hai bàn chân Phật duỗi ra ngoài kim quan để an ủi Ngài. Ngài vuốt ve hai bàn chân Phật, lòng rất bi thảm.

Sau khi thiêu thân Phật xong, Ngài tuyên bố với chúng Tỳ-kheo: “Xá-lợi của Phật giao cho trời người xây tháp thờ làm ruộng phước, còn trách nhiệm Tỳ-kheo chúng ta phải lo kiết tập kinh điển để lưu lại đời sau.”

Ngài bèn nói kệ:

Như Lai đệ tử,

Thả mạc Niết-bàn.

Đắc thần thông giả,

Đương phó kiết tập.

Dịch:

Đệ tử Như Lai,

Chớ vội Niết-bàn.

Người được thần thông,

Nên đến kiết tập.

Thế là, sau Phật Niết-bàn ba tháng, Ngài triệu tập 500 vị đại A-la-hán tụ họp tại núi Kỳ-xà-quật, trong động Tất-bát-la kiết tập. Chỉ có Tôn giả A-nan không được dự hội, vì chưa sạch các lậu. Tôn giả A-nan buồn bã, suốt đêm chuyên tâm thiền định, đến gần sáng liền chứng ngộ, các lậu dứt sạch, được quả A-la-hán. Sau đó, Tôn giả được mời dự hội.

Ngài thưa toàn chúng: “Tỳ-kheo A-nan nhớ giỏi bậc nhất, thường theo hầu hạ Như Lai, nghe pháp Phật nói ghi nhớ không sót, như nước rót vào bình không rơi ra ngoài một giọt, nên mời kiết tập tạng Kinh và tạng Luận. Mời Tỳ-kheo Ưu-ba-ly kiết tập tạng Luật.” Toàn chúng đều hoan hỷ chấp thuận. Hội kiết tập này, Ngài là chủ tịch.

Sau cuộc kiết tập đã viên mãn, nhân duyên độ sanh đã xong xuôi, Ngài thấy tuổi đã quá già yếu, bèn gọi Tôn giả A-nan đến bảo: “Khi Như Lai sắp vào Niết-bàn, có dặn ta đem chánh pháp nhãn tạng giao phó cho ông. Nay ta sắp ẩn, đúng lúc giao phó cho ông, ông phải khéo gìn giữ, chớ để đoạn dứt.”

Ngài nhớ lời Phật dặn giữ gìn y bát của Phật, đợi đến Phật Di Lặc ra đời sẽ trao lại, nên dự bị vào núi Kê Túc nhập định. Liền đó, Ngài đi từ giã vua A-xà-thế và những người thân thuộc, rồi vào núi Kê Túc trải tòa cỏ ngồi, an nhiên nhập định.