Родился в 1879 году, образование получил в Ярославской военной школе и Казанском пехотном юнкерском училище, из которого выпущен в 1898 году подпрапорщиком в 26-й пехотный Могилёвский полк. В 1899 году произведён в подпоручики, а в 1903 году — в поручики.
23 января 1904 года, за три дня до начала войны с Японией, Костюшко-Валюжинич был назначен в формировавшийся для усиления 5-го Восточно-Сибирского стрелкового полка батальон, с которым и прибыл на Цзиньчжоускую позицию в марте того же года. В составе своего полка Костюшко-Валюжинич участвовал в сражениях на Цзиньчжоу и Юпилазе и в обороне порт-артурских высот Длинной, Дивизионной, Плоской и Высокой.
Отличаясь храбростью, он в то же время умел сохранить во время боя полное самообладание и способность верно оценивать обстановку. При обороне горы Юпилазы Костюшко-Валюжинич совершил 14 июля 1904 года особенно выдающийся подвиг, произведя по собственной инициативе вылазку с охотничьей командой, начальником которой он состоял, против японцев, укрепившихся так близко от русских позиций, что дальнейшее удержание русскими войсками горы Юпилазы было невозможно. Выбрав для вылазки 20 человек, Костюшко-Валюжинич пробрался вперед, атаковал японский окоп и взял его, причём сам был тяжело ранен осколками снарядов в лицо, левую руку, спину, пулей в грудь навылет, штыком в левое бедро и контужен в область темени.
28 июля 1907 года Костюшко-Валюжинич был награждён орденом св. Георгия 4-й степени