Während der Feudalzeit entwickelten sich in Japan innerhalb der Samurai-Schicht (Kriegerklasse) eine Vielzahl von Kriegeskünsten. So z.B. das Bogenschiessen die Schwertkunst, die Reitkunst, der Gebrauch der Naginata (Hellebarde) und vieles andere mehr. Alle diese Formen waren auch in den meisten europäischen Nationen mehr oder weniger bekannt. Praktisch alle Kriegskünste sind in der westlichen Welt ebenso geübt worden wie in Japan. Allerdings waren die Formen und die Methoden der Ausführung teilweise recht unterschiedlich. Die ausgeprägte Form der Kultivierung des persönlichen Zweikampfes im feudalen Japan scheint weltweit einzigartig zu sein.
Obgleich der exakte Ursprung des Ju-Jitsu nicht klar ist und kein festgelegtes Datum seines ersten Auftretens ermittelt werden konnte, gibt es keinen Zweifel, dass es eine rein japanische Kunst ist. Mit grösster Wahrscheinlichkeit ist es nicht direkt von den alten chinesischen Kampfkünsten abgeleitet worden, wie es einige Kampfkunst-Experten immer wieder vermutet haben.
Von verschiedenen Forschern wird angenommen, dass ein chinesischer Priester namens Chin Genpin, die Kampfkunst Kempo („Kunst des Schlagens und Tretens“) ca. 1659 von China nach Japan brachte. Während seiner Lehrtätigkeit als Kampfkunstmeister in einem Tempel in Tokyo, unterrichtete Chin Genpin die drei Ronin (herrenlose Samurai) Fukuno, lsogai und Miura. Nach intensivem Studium bei Chin Genpin, gründeten die Samurai drei eigenständige Ju-Jitsu-Schulen bzw. Stile (sog. „Ryu“). Es ist aber sehr unwahrscheinlich, dass Kinn Genpin Ju-Jitsu zum ersten Mal in Japan einführte. Das von ihm nach Japan gebrachte chinesische Kempo unterscheidet sich ziemlich deutlich von allen bekannten Ju-Jitsu-Stilen. Zudem können bestimmte Entwicklungen weit vor die Zeit von Chin Genpin zurück verfolgt werden.
Ein Hinweis daurauf, dass das Ju-Jitsu in Japan eine sehr viel längere Geschichte hat, findet sich in einer Begebenheit, die sich im Jahre 24 v. Chr. zugetragen hat. Zu dieser Zeit bestellte der Kaiser Suinin zwei bekannte Kämpfer (Nomino Sukune und Taimano Kuehaya) zu einem Ringkampf in seiner Gegenwart. Er wollte die Stärke und den Mut dieser zwei Riesen prüfen. In diesem Kampf der zur Hauptsache mit Tritt- und Schlagtechniken geführt wurde brach Sukune seinem Gegener Kuehaya mehrere Rippen und verletzte diesen so schwer, dass er verstarb. Obgleich dieses Ereignis im Allgemeinen als Ursprung des Sumo-Ringens gilt, scheint es aufgrund der genauen Aufzeichnungen des Kampfgeschehens, dass dieser Kampf viel mehr mit Ju-Jitsu ähnlichen Techniken geführt wurde.
Sumo ist der unumstrittene Nationalsport von Japan. Aber es ist nicht die einzige Kampfkunst, deren Ursprung auf die alte Ringertradition am Hofe von Nara zurückgeht. Als das Ringen durch ein Edikt im Jahre 1175 verboten wurde, entstand unter dem Einfluss der herrschenden Samurai-Klasse ein kreativer Nährboden für die Entwicklung verschiedenster waffenloser Kampfsysteme. Diese Entwicklungsperiode, dauerte einige Jahrhunderte und wurde auch nach dem Eintreffen der portugiesischen Entdecker im Jahre 1543 fortgesetzt. Schlussendlich existierten in Japan nicht weniger als 725 dokumentierte Kampfsysteme oder Ryu. In all diesen Schulen wurde hauptsächlich der Kampf ohne „grosse“ Waffen (Katana, Naginata, etc.) geübt. All diese Systeme zusammen wurden Ju-Jitsu genannt.
Da es nicht möglich ist, alle unterschiedlichen Stilrichtungen (Ryu) des Ju-Jitsu zu beschreiben, seien hier einige der ersten und für die weitere Entwicklung des Ju-Jitsu wichtigsten Ryu erwähnt. Eine sehr alte Ju-Jitsu Stil-Richtung ist der von Takenouchi Hisamori im Jahre 1532 gegründete Takenouchi-Ryu. In dieser Stilrichtung wurden die sehr speziellen Techniken des „Kogusoku“ oder die „Kunst des Festklemmens“ unterrichtet. Diese Techniken unterscheiden sich noch ziemlich stark von denen der üblichen Ju-Jitsu Stile.
Fukuno Masakatsu Shichiroemon von Temba entwickelte ein aus dem 14. Jh. stammendes System, den Kito-Ryu, als dessen zweiter Grossmeister, in wesentlichen Punkten weiter. Die in dieser Schule intensiv geübte „Kunst des Werfens“ (Nage-waza) und die „Praxis der Form“ (Kata) verhalf dem Kito-Ryu zu Prestige und Popularität. Später gründete Fukuno eine eigene Stilrichtung den Fukuno-Ryu.
Terada Kanemon seinerseits ebenfalls Grossmeister des Kito-Ryu erschuf den Stil Jikishin-Ryu. Dies war offensichtlich die erste Schule Japans, die nur Techniken der „leeren Hand“ lehrte. Terada Kanemon bezeichnete bereits alle Techniken die nicht zum Töten verwendet wurden als JUDO. Jigoro Kano studierte den Jikishin-Ryu mehrere Jahre. Dieser Stil gilt heute als Vorläufer des Kodokan-Judo.
Weitere wichtige Stile waren der Yoshin-Ryu, der Kushin-Ryu, der Sekiguchi-Ryu, der Shibukawa-Ryu, der Shin no Shindo-Ryu, der Shitsu-Ryu, der Tenshin Shinyo-Ryu und der Yagu Shingan-Ryu.