Kempo powstało w Indiach około 3000 lat p.n.e. Było ono spośród wszelkich systemów walki najbardziej zbliżone i podobne do karate. Wybitnym ekspertem kempo był książę Botama, który praktykował je na równi z buddyzmem przez całe swoje życie. Kempo uprawiali przede wszystkim buddyści, którym służyło za formę samodoskonalenia psychofizycznego jak i samoobrony.
Kiedy w II wieku p.n.e. do Chin dotarły zwiastuny nowej religii - buddyzmu, pojawiły się także pierwsze wiadomości o kempo. Nowa religia ogranęła najpierw elity a póżniej szerokie masy społeczeństwa chińskiego. Działo to się w okresie od IV do VII wieku n.e. 
Główne zasługi w krzewieniu buddyzmu w Chinach przypisuje się człowiekowi o nazwisku Bodhidharma (w Chinach zwanego Tamo lub Damo, w Japonii - Daruma Taishi), który ok. 525 roku n.e. przebył drogę z Indii do Chin celem nauczania nowej odmiany buddyzmu tzw. Zen. Z osobą Bodhidahrmy wiąże się wszelkie początki sztuk walki. Jako, że na dworze cesarskim nie znalazł posłuchania osiedlił się z nieliczną grupą zwolenników w zbudowanym w 495 roku klasztorze Shaolin (młody las) zwanym po japońsku Shorinji, położonym w prowincji Hunan. Sekta Zen, która tam powstała propaguje osiągnięcie nirwany (satori - jap.), czyli duchowego "oświecenia" lub "przebudzenia" na drodze medytacji. Bodhidharma widząc zasypiających podczas wielogodzinnego skupienia mnichów oraz ich słabą tężyznę fizyczną opracował zestaw ćwiczeń fizycznych, które opisał w I-chin-ching (Księga przemiany mięśni), tak aby zgodnie z jej wskazówkami mnisi mogli osiągnąć doskonałość i wewnętrzną harmonię na drodze medytacji duchowej  oraz treningu fizycznego. 

Bodhidharma

Po śmierci Bodhidharmy Shaolin Kempo zaczęło się rozprzestrzeniać w całych Chinach. Z czasem pojawił się nowe odmiany tej sztuki walki. Około roku 842 okoliczni możnowładcy i książęta doszli do wniosku, że klasztor Shaolin stanowi zagrożenie dla ich interesów . Zorganizowano zbrojny najazd. Pomimo zaciekłego oporu stawianego przez garstkę mnichów, klasztor zniszczono. Rozproszeni po różnych obszarach Pańswa Środka mnichowie rozpoczęli nauczanie kempo, przyczyniając się do jego rozwoju już jako kung-fu.
Kolejnym trudnym okresem dla tej sztuki walki stanowiły lata panowania dynastii Sung (960-1279). Jej przedstawiciele szczególnie nienawidzili ekspertów kung-fu, widząc w nich dawnych eks-mnichów propagujących buddyzm Zen.

Shaolin współcześnie

Kiedy w latach 1644-1912 Mandżurowie ustanowili dynastię Ching najechali na Chiny. Klasztor Shaolin jako ostoja oporu w prowincji Fukien został ponownie zniszczony, zaś mnichowie jak wcześniej ulegli rozproszeniu. Spowodowało to gwałtowny wzrost zainteresowania sztukami walki, które w oczach Chińczyków stały się jedyną drogą do osiągnięcia wyzwolenia. W wielu ośrodkach potajemnie szkolono kempoków do walki powstańczej z najeźdźcą. W okresie tym powstają także nowe szkoły: Pakua oraz Tai-chi.