Podle legendy dal severní klášter Shao-Lin (Šaolin) vybudovat v horském masívu Sung, provincie Henan (Chenan), císař Xiao Weng (Šiao Weng) z dynastie severní Wej. Okolo roku 527 navštívil tento klášter mnich Bódhidharma (Da-Mo) a údajně zde strávil více než devět let. Během této doby předával ostatním mnichům znalost tělesných a dechových cvičení, která měla zlepšit jejich schopnosti a dovednosti nutné pro buddhistickou meditaci. Všechna cvičení měla mimo jiné i sebeobranný aspekt a údajně dala základ dnešnímu kungfu (Kung-Fu / Gong-Fu). Podle legend tato cvičení přejímala pohyby odpozorované od zvířat v okolní přírodě (tygr, drak, had, levhart, jeřáb a další), čímž dala základ stylu pěti zvířat. Každý mistr boje v klášteře Šaolin se specializoval na jednu techniku, ale žáci si museli osvojit znalosti a dovednosti všech technik. Časem byla do tohoto systému začleněna výuka boje se zbraněmi a při nácviku technik se začaly využívat jednoduché pomůcky a další důmyslná zařízení, jako dřevěný panák apod.
Během své dlouhé historie byl klášter Šaolin několikrát vypálen a znovu vystavěn. Bohužel z těchto důvodů se nedochovaly žádné písemné záznamy, které by mohly sloužit jako zdroj věrohodných či doložených informací. Skutečná historie kláštera Šaolin se tak dochovala pouze v malých zlomcích pod velkou vrstvou mýtů a legend. Samotná čínská vláda se již několikrát pokusila potvrdit či vyvrátit pravdu o vzniku bojových uměních z Henanského kláštera. V roce 1928 byl vytvořen v Nankingu Centrální vládní institut pro bojová umění. Jeden ze členů tohoto institutu napsal knihu o pravdě a legendách z Šaolinu a Wu Tangu (další místo, kde se psaly dějiny čínského kungfu). Tato kniha rozbila mnoho přetrvávajících mýtů a polopravd o těchto dvou známých místech čínské historie bojových umění. Avšak nebylo by proto správné říkat že všechna čínská bojová umění, která známe, mají svůj původ pouze v Šaolinu (či Wu Tangu).
Šaolinské kungfu, se do povědomí západního světa dostalo především po veleúspěšném filmu z roku 1977 - 36. komnata Šaolinu (The 36th chamber of Shao-lin) a následně dalším filmem Šaolinský klášter s budoucím mistrem bojových scén Jet-li, z roku 1982.