С 1888 г. работал органистом и регентом в церкви Святого Луки в Берлине, но уже в 1891 г. уехал в США, где жил и работал преимущественно в Чикаго. Вплоть до 1928 г. служил органистом в различных чикагских храмах. Одновременно Миддельшульте широко концертировал (сосредотачивая внимание, прежде всего, на музыке Иоганна Себастьяна Баха), а с 1899 г. ещё и преподавал в органных классах Чикагской и Детройтской консерваторий, других учебных заведений США; некоторое время Миддельшульте был директором Висконсинской консерватории в Милуоки. Среди учеников Миддельшульте был, в частности, Вирджил Фокс. Получил большое признание в Америке как органист-виртуоз, был прозван «чикагским готиком». С 1919 г. Миддельшульте имел гражданство США. Однако с приближением Второй мировой войны Миддельшульте почувствовал себя в Америке неуютно и в июне 1939 г. вместе со своей второй женой, органисткой Флоренс Нокс Майкл, уехал в Европу, обосновавшись в Сорренто. В 1942 г. жена-американка была выслана в США, а Миддельшульте вернулся в Германию и умер в Дортмунде.
Композиторское наследие Миддельшульте невелико и исчерпывается сочинениями для органа. Интересно, что ему как наиболее выдающемуся контрапунктисту этого времени посвятил свою «Fantasia contrappuntistica» Ферруччо Бузони, познакомившийся с Миддельшульте во время своего американского турне 1910 года.