Автор 16 опер, из которых наибольший успех имела поставленная в 1842 г. в Вильне и в Варшаве опера «Вечный жид» (польск. ?yd Wieczny Tu?acz). Путешествие Кажинского за границу с композитором А. Ф. Львовым описано им в книге «Заметки из музыкального путешествия по Германии в 1844 году» (польск. Notatki z podr??y muzykalnej po Niemczech odbytej w roku 1844), изданной в 1845 и выдержавшей несколько изданий. С 1845 Кажинский был капельмейстером Александринского театра в Петербурге. Писал увертюры, антракты, хоры, песни, фортепианные пьесы и пр.