Die genaue Herkunft dieser Kampfsportart ist unbekannt, es gibt nur unklare und zahlreiche Legenden. Dies ist darauf zurück zuführen, dass verschiedene Japanische Familien ihre Beteiligung an der Mitentwicklung gerne weitgehend ausschmücken.

Gesicherte Erkenntnisse stammen erst aus der Zeit der sogenannten Edo- Periode, also nach 1603. Es waren die japanischen Samurai, die in unterschiedlichen Schulen sich in den unterschiedlichen Kampfkünsten üben mussten: mit dem Schwert, dem Speer, dem Stock, dem Bogen, oder auch nicht zuletzt waffenlos. Diese Kunst war als Jiu Jitsu (sanfte Kunst) bekannt. Die Samurai lernten Schläge und Tritte, Würfe, Hebel und Würgen, sich gegen Angriffe jeweils im Stand und im Boden zu verteidigen.

Im Jahre 1650 soll nach anderen Berichten ein in Japan lebender Chinese namens Gembin, der die Kunst der waffenlosen Selbstverteidigung beherrschte, die als Jiu Jitsu bezeichnet wurde. Diese Technik gab er weiter an drei Samurais, damit diese ohne Waffen ihre Gegner überwältigen konnten. Demnach wäre Jiu Jitsu chinesischen Ursprungs, wurde aber von den Japanern perfektioniert.

Diese waffenlose Selbstverteidigung geriet über die Jahrhunderte aber in Vergessenheit und nur noch wenige Personen trainierten die Techniken weiterhin.

1885 entdeckte der deutsche Professor Dr. Belz die in Vergessenheit geratene Kampfkunst aufs neue und setzte sich dafür ein, dass Jiu Jitsu an den Universitäten gelehrt wurde.

Matrosen verbreiteten die japanische Kampfkunst schließlich um die Jahrhundertwende zum 20. Jahrhunderts in Europa. So wurde das Jiu Jitsu mit europäischen Ring- und Boxtechniken vermischte und bildete so ein europäisches Jiu Jitsu System. In Deutschland wurde durch Erich Rahn 1906 die erste und 1922 durch Alfred Rhode in Frankfurt und Otto Schmelzeisen in Wiesbaden weitere Jiu Jitsu Schulen etabliert.

1925 allerdings entstanden zwei Auffassungen, wie das Jiu Jitsu anzusehen sei. Auf der einen Seite traditionell nach den japanischen Prinzipen, auf der anderen Seite eben als eine europäische Form der Selbstverteidigung, sowohl mit japanischen als auch europäischen Einflüssen.

So geschah es, dass unter Hilfe mehrer Japaner, vor allen Jigoro Kano, in Europa das Judo (sanfter Weg) als Sport etabliert wurde und das Jiu Jitsu allmählich verdrängte.

Auf die Initiative des Deutschen Judo Bundes Ende der sechziger Jahre gab es eine Wiederauferstehung, diesmal als neues System unter dem Namen Ju-Jutsu.

Mit dem Gedanken, Ju- Jutsu könnte ein System sein, in dem sich die wirksamsten Techniken aller Systeme verbinden lassen könnten, entwickelten einige hohe Danträger des Jiu Jitsu, Judo, Karate, und Aikido eine moderne Selbstverteidigungsform. Zwei dieser Väter waren die Vereinskameraden des JCWs Werner Heim (derzeit Ehrenvorsitzender des Hessischen JJ-Verbandes) und Franz Josef Gresch. Des weiteren sind zu nennen Otto Brief und R. Unterberger. 1969 wurde Ju-Jutsu im Deutschen Judo Bund aufgenommen.

Schnell erkannten Polizei und Bundesgrenzschutz die enormen Vorteile dieses neuen Systems, und es wurde in das Ausbildungsprogramm fest aufgenommen. Durch den täglichen Einsatz in der Praxis wurde und wird noch immer das Ju-Jutsu ständig modernisiert. So kamen im Laufe der Jahre auch Techniken anderer Systeme (Taekwon- Do, Kickboxen, Boxen u. a.) mit in das Ausbildungsprogramm.

Mitte der achtziger Jahre begann man auch ein Wettkampfsystem zu entwickeln, wonach heute sogar bis zu Europa- und Weltmeisterschaften gekämpft werden.

1990 wurde dann ein eigener Verband, der Deutsche Ju-Jutsu-Verband gegründet, der dem Deutschen Sportbund angehört.

Die Vorteile liegen im wesentlichen darin, dass eben durch die Vielfältigkeit eine breite Allgemeingültigkeit vorherrscht, jeder, ob nun jung oder alt, dick oder dünn, groß oder klein, kann im Ju-Jutsu seinen eigenen persönlichen Stil finden, und trainiert hauptsächlich jene Techniken, die ihm besser liegen, also z.B. nur Kicks, mehr Würfe oder Spezialisierung auf Hebel. Es gilt das Prinzip "anything goes!"

Durch eine ständige Weiterentwicklung und durch neue Techniken aus anderen Bereichen ist und bleibt das Ju-Jutsu eine moderne Kampfsportart.