Și-a început ucenicia în arhitectură în Olanda și Franța, fiind trimis în România pentru diverse lucrări de arhitectură industrială, între 1870-1875 lucrând la căile ferate.
Lucrarea care l-a făcut celebru pe tânărul arhitect a fost vila Florescu-Știrbey din Sinaia, construită între 1874-1875.
După 1875 a proiectat diverse clădiri din Sinaia (Hotelul Caraiman, Stabilimentul Băilor) și în București (Spitalul Colțea, Maternitatea, Clădirea Eforiei Spitalelor Civile), ori a coordonat lucrări de construcție.
S-a căsătorit în 1881 cu Olga E. Kesler din Câmpina și a devenit cetățean român în 1885, fiind decorat în același an cu ordinul „Coroana României” în grad de cavaler. Numele său a fost restrâns la „Schiffelers” în decretul de obținere a cetățeniei române, semnat de Carol I.
Relația lui Josef Jacob Schieffeleers cu diplomația se leagă de proiectarea și construcția clădirii Legației Franței la București din Amzei, proiectată în 1887 și realizată în perioada anilor 1889-1890.
Această alegere a fost oarecum neobișnuită într-o perioadă în care arhitecții francezi erau o prezență obișnuită în București însă Josef Schieffeleers și-a îndeplinit într-un mod exemplar angajamentele, aflăm de pe pagina de facebook a Arhivelor Diplomatice ale MAE.
Clădirea sa inspirată de arhitectura castelelor de pe Valea Loarei a îmbogățit peisajul arhitectonic din București și dăinuiește și astăzi, fiind reședința ambasadorilor Republicii Franceze în România.
Între 1893-1903 a fost (sub)-director la „Societatea Română de Construcțiuni și Lucrări Publice”, coordonând lucrările la Palatul Poștelor și Telefoanelor (arh. Alexandru Săvulescu), Ministerul Domeniilor (arh.Louis Blanc), Palatul de la Cotroceni (arh. Paul Gottereau), Institutul Anatomic, Antrepozitele comunei și ale căilor ferate.
A avut patru urmași, dintre care Aurel (m. 1927), comandor, și pe Gerard (m.1913), care a devenit tot arhitect.
Josef Jacob Schieffeleers a încetat din viață în 1919.
