La tradition Karma Kagyu fut formellement établie par le Premier Karmapa, Dusum Khyenpa, qui fut disciple de Gampopa. Né au Kham, dans l'année du Tigre de Fer (1110) il fonda 3 centres principaux de la tradition Karma Kagyu : Tolung Tsurphu qui contient le mandala de l'esprit des Karmapas, Karma Gon contenant celui de la Parole et Kampo Nenang celui du Corps des Karmapas. Des trois, le monastère de Tsurphu devint la résidence principale des Karmapas.

Après avoir atteint l'Eveil total sa réalisation spirituelle le fit surnommer "Celui qui possède l'Activité Eveillée des Bouddhas" ou Karmapa, dont la venue avait été prédite par le Bouddha Sakyamuni dans le Samadhivajasutra.

Selon la tradition, les dakinis lui offrirent une couronne vajra tissée de centaines de milliers de leurs cheveux. Cette couronne ne pouvait être vue sur la tête des Karmapas que par les pratiquants ayant une dévotion totale.

Il reçut plusieurs enseignements de Rechungpa, disciple de Milarepa et d'autres maîtres, notamment les instructions orales concernant le Mahamûdra de Gampopa. Dusum Khyenpa atteignit l'illumination complète après de longs mois de méditations solitaires dans les Himalayas. He réalisa l'identité essentielle des apparences comme le jour et la nuit, les rêves et l'état de veille, la méditation et l'état ordinaire de veille. Gampopa reconnut la grande qualité de réalisation de son disciple et posant une main sur la tête de Dusum Khyenpa, il déclara : " mon fils, tu t'es détaché du monde des phénomènes et désormais c'est ton devoir de transmettre la réalisation de la nature de ton esprit aux autres!".

A l'aube de ses 70 ans, Dusum Khyenpa fonda le monastère de Tsurphu dans le Tibet central, qui fut le siège des Karmapas depuis le 12ème siècle. Le premier Karmapa y passa le reste de sa vie jusqu'à sa mort en 1193. A l'âge de 84 ans Dusum Khyenpa confia Tsurphu aux mains de son disciple Drogon Rechen, en même temps que la lettre prédisant les circonstances de sa renaissance.

La tradition des tulkus ou Lamas réincarnés dans le Bouddhisme tibétain fut établie quand Dusum Khyenpa prédit que 10 ans après sa mort, il renaîtrait sous le nom de "Karma Pakshi". Quand Karma Pakshi prit naissance sous des signes auspicieux et doté de qualités miraculeuses il devint vite renommé pour être le premier Lama réincarné en toute conscience du Tibet.

Le 2ème Karmapa fut Karma Pakshi (1203-1283). Son maître fut Pomdrakpa, principal disciple de Drogon Rechen. Pomdrakpa le reconnut comme le second Karmapa en se basant sur les indications contenues dans la lettre de prophétie et les visions qu'il eut concernant la jeune incarnation. Dans l'une d'entre elles, Dusum Khyenpa apparut à Pomdrakpa qui identifia le jeune disciple comme sa réincarnation.

Karma Pakshi passa de nombreuses années en Chine à la cour du Khan mongol de Kublai , qui fut fortement impressionnépar ses démonstrations de magie. Même Marco Polo a mentionnné les capacités étonnantes du second Karmapa dans sa biographie. Karma Pakshi passa le plus clair de son temps à voyager au Tibet et en Chine, pour diffuser le Dharma ou enseignements du Bouddha. Plus tard, avec les richesses considérables provenant des dons re&ccdil;us de Chine, il fut capable de reconstruire le monastère de Tsurphu, détruit par des guerres locales.

Selon la légende, Karma Pakshi jeta les nombreux cadeaux qu'il avait re&ccdil;us dans une source près de Shang Tu, avant de quitter la Chine. A son retour à Tsurphu 2 ans plus tard, les cadeaux furent tous miraculeusement repêchés d'un étang proche.

Les incroyables capacités spirituelles de Karma Pakshi servirent également à asseoir le pouvoir politique des Kagyupas jusqu'à l'installation du 5ème Dalai Lama par les Mongols en 1642. Avant sa mort en 1283, Karma Pakshi prédit que sa prochaine incarnation proviendrait de l'Ouest. Il laissa les rênes de la lignée à Ugyenpa.

Le 3ème Karmapa Rangjung Dorje(1284-1339) visita aussi la cour de Chine et même installa l'un des empereurs chinois, Taghon Temur (1333-1368)] qui fut l'un des disciples les plus proches du 3ème Karmapa. Rangjung Dorje passa la majeure partie de sa vie à méditer dans des grottes, particulièrement celle de Pema Chodzang (surnommée aussi la grotte de Karma Pakshi) dans les hauteurs au dessus de Tsurphu.

Il eut de nombreuses visions et pendant ses méditations il vit les planètes et les étoiles se dissoudre en lui-même. Sa renommée est basée sur un traité d'astrologie plus tard connu comme le "système Tsurphu" encore en usage de nos jours. Après plusieurs années il composa un second livre appelé "le sens intérieur caché "(Zabmo Nangdon). Lors de la mort de Rangjung Dorje durant son second voyage en Chine son visage put être vu dans le ciel à la pleine lune.

Il réunit les enseignements Kagyu sur le Mahamûdra et ceux Nyingma sur Maha Ati. Il mourut en 1339 en Chine.