Пережил вместе с родными первую зиму ленинградской блокады, затем был эвакуирован. В 1943—1947 гг. жил в Казахстане у отца, высланного туда в 1937 г., затем вернулся в Ленинград. Недолгое время учился на востоковедческом факультете Ленинградского университета и в политехническом институте. Из-за тяжелой формы туберкулеза нигде не работал, в последние годы почти не выходил из дома.
Мандельштам — ярко выраженный поэт-одиночка, в жизни и творчестве следовавший поздним романтикам (и отчасти акмеистам: так, сквозной для поэзии Мандельштама образ трамвая унаследован им от Николая Гумилёва). Поэзия Мандельштама не чужда стилизации (в частности, жанр некоторых его стихотворений обозначен средневековыми названиями: альбы, сирвенты) — наследие романтизма и более ранних поэтических эпох используется им как для отталкивания от современной официальной поэзии, так и для придания новой глубины окружающей действительности. Постоянная тема Роальда Мандельштама — его родной город, предстающий в его стихах в мрачно-мистическом свете согласно устойчивой традиции, восходящей к русской классике XIX века, от «Медного всадника» Пушкина до прозы Достоевского:
Акцент на пейзаже, на внешней изобразительности во многих стихах Мандельштама отчасти вызван его прочными и интенсивными творческими связями с кругом ленинградских художников-нонконформистов 1950-60-х гг. — Александром Арефьевым, Рихардом Васми, Шоломом Шварцем и др.
При жизни автора не было опубликовано ничего из написанного им. Первые публикации стихов Роальда Мандельштама состоялись в самиздате и за границей на рубеже 1970-80-х гг., первая полиграфическая публикация в России — в 1991 г.