Das Hauptkonzept des Ju-Jitsu ist das jū, wortwörtlich die „Flexibilität“, das heißt den Angriff zu vermeiden und ihn ohne Kraftgegensatz zu kontrollieren. Durch diese Technik, Ju yoku go o sei suru: das Zarte besiegt das Harte.

Die bekannten Kampfmethoden wie jutsu sind mindestens 1.500 Jahren alt. Der Beginn des jutsu kann auf die turbulente Periode in Japan zurückgeführt werden welche sich zwischen dem VIII  und dem XVI Jahrhundert ausbreitete. Diese Periode weisten in Japan unaufhörliche Bürgerkriege auf und die klassischen Rüstungssysteme wurden entwickelt und wurden auf den Schlachtfeldern geprüft. Die Techniken des Nahkampfes waren wesentlicher Bestandteil dieser Systeme um den Gegner die Waffen und Rüstung trugen wirksam zu bekämpfen.

Die Entstehung des jutsu fällt wahrscheinlich mit dem Ursprung der Klasse der Samouraïs zusammen die ins Jahr 792 datiert wird. Die Armee wurde zu dieser Zeit aus Soldaten gebildet welche zu Fuß unterwegs waren und mit Speeren bewaffnet waren. Die Offiziere wurden unter den jungen Söhnen der großen Familien rekrutiert und wurden an der Handhabung des Bogens, am Befehl der Truppen und ebenfalls am Kampf ohne Waffen ausgebildet. Der Kaiser Kammu baute Butokuden, eine formelle Schule für diese Offiziere die man unter dem Namen Samouraïs kennt.

Zum Schluß des XIII Jahrhundert versuchen die Mongolen in Japan einzudringen und die Samouraïs verteidigen sich während Jahren in schrecklichen Kämpfen. Im XV Jahrhundert stellten die Waffenmeister Schulen auf um ihren Stil kenjutsu, die Kunst des Schwertes zu lehren. Zwischen 1467 und 1477 wütete der Krieg von Ōnin, diese Periode steht für den Niedergang der Macht der shoguns und den Beginn Sengoku Jidai, das „Zeitalter des Landes in Krieg“, welches hundert fünfzig Jahre dauern wird.

Das erste anerkannte jutsu ryu wurde 1532 durch Takenouchie Hisamori  gebildet und bestand sowohl in Techniken des Katana (Säbel), vom bō (Stab) und vom tanto (Messer-Säbel) als auch vom Kampf an nackten Händen.
Die Sprünge und die Hiebe mit den Füssen wurden wenig oder gar nicht im jutsu gelehrt da die Techniken oft für Soldaten bestimmt waren die eine Rüstung trugen, und weil diese Techniken gewagt sind und schwierig zu gebrauchen in einer Straßensituation (schlecht angepaßte Kleidung, Risiko zu rutschen und zu fallen, sich das Bein greifen zu lassen…). Der Begriff jūjutsu begann gegen 1600 benutzt zu werden.

Zu Beginn des XX Jahrhundert haben sich Personen über das Verschwinden dieses Wissens beunruhigt das auf die Modernisierung der Armee zurückzuführen ist und haben die Techniken verschiedener Ju-Jitsu Schulen (ryu) gesammelt um davon eine der neuen Gesellschaft angepaßte, moderne Praxis zu machen; so wurde das Judo, das aïkido oder ,kürzlich, das brasilianische jiu-jitsu geboren. Dadurch kommt es oft dazu daß ju-jitsu als „Mutter-Kunst“ bezeichnet wird.