В 1935 году окончил физический факультет МГУ. До июня 1941 года руководил рентгеноструктурной лабораторией ВИЭМа. В 1936—1937 годах — доцент МИНХа. В 1938—1940 годах читал курс теоретической физики в Московском городском педагогическом институте.
В 1942—1944 годах Китайгородский — заведующий кафедрой в филиале Московского нефтяного института (МНИ); читал курс общей физики в Башкирском медицинском институте. В эти же годы работал в Уфе начальником физического отдела крупного оборонного предприятия. С 1944 года — руководитель рентгеноструктурными исследованиями в Институте органической химии АН СССР.
В 1954—1985 годах — заведующий лабораторией структурного анализа Института элементоорганических соединений АН СССР. В 1958—1985 годах — профессор Коломенского педагогического института. Лауреат премии им. Д. И. Менделеева (1949) и премии им. Е. С. Федорова (1967).
Стал создателем нового направления в науке — структурной кристаллографии, а также автором метода атом-атомных потенциалов и принципа плотной упаковки в молекулярных кристаллах. Написал основополагающие книги в области рентгеноструктурного метода («Рентгеноструктурный анализ», «Рентгеноструктурный анализ мелкокристаллических и аморфных тел», «Теория рентгеноструктурного анализа» и др.), переведенные на многие другие языки.
Был талантливым популяризатором науки, его выступления перед широкой аудиторией слушателей часто проходили в переполненных залах и заканчивались бурными дискуссиями. Написанные им научно-популярных книги быстро исчезали с книжных прилавков («Физика — моя профессия», «Реникса», «Физика для всех» и др.).
Среди учеников Китайгородского — два академика, более 10 докторов и 40 кандидатов наук. Одним из учеников является Ю. Т. Стручков.