Nascido na cidade de Mönchengladbach, na Alemanha, em 1883, seu pai era um premiado ginasta, e sua mãe trabalhou como naturopata. A família originalmente escrita do modo grego como "Pilatu", mas mudou para "Pilates em meados de 1883.
Pilates foi uma criança doente e sofria de asma, raquitismo e febre reumática, e dedicou toda a sua vida para melhorar a sua força física. Pilates passou a acreditar que o "moderno" estilo de vida, má postura e respiração ineficiente estava na raiz da saúde. Ele finalmente criou uma série de exercícios e treinamento de técnicas de engenharia e todos os equipamentos, especificações e ajuste necessário para ensinar seus métodos corretamente.
Joseph tornou-se autodidata e aprofundou seus conhecimentos em anatomia, física, biologia, fisiologia e medicina tradicional chinesa. Neste período, em função de sua prática esportiva (kung fu provavelmente o que hoje chamamos de qigong, luta greco-romana, yoga, boxe, esqui e mergulho), Joseph Pilates possuía um corpo tão desenvolvido que chegou a posar para um atlas de anatomia. Em 1912, ele tornou-se boxeador profissional e começou a lecionar autodefesa para detetives da Scotland Yard. No período da I Guerra, no ano de 1914, ele foi exilado, mandado para uma ilha inglesa onde trabalhou num hospital com exilados e mutilados.Lá ele iniciou o uso de molas no tratamento médico, o que seria a base para mais tarde o ajudar no desenvolvimento de um sistema de exercícios e equipamentos. Alguns anos depois ele retornou à Alemanha, onde permaneceu pouco tempo.
Em 1923, Pilates mudou-se para Nova Iorque e abriu seu primeiro Studio de Pilates. Seu trabalho, porém, só teve repercussão a partir dos anos 40, principalmente entre os dançarinos, tais como Ruth St. Denis, Ted Shawn, Martha Graham, George Balanchine e Jerome Robbins.
Joseph Hubertus Pilates morreu aos 87 anos. Clara Pilates, sua esposa, assumiu então a direção do studio, dando continuidade ao trabalho do marido. Muitos estudantes de Joseph e Clara Pilates abriram seus próprios studios, difundindo o método, sua técnica e fazendo importantes contribuições para o desenvolvimento e aprimoramento do método Pilates.
Segundo Pilates, os exercícios de seu método devem obedecer seis princípios: concentração, controle, centralização de força, fluidez, precisão e respiração.