Таро Хираи родился в 1894 году в городке Набари префектуры Миэ. С 1912 по 1916 годы обучался на экономическом отделении Университета Васэда. После учёбы работал в качестве торгового агента, клерка, редактора журнала и корреспондента газеты.
В юности он являлся большим поклонником Эдгара По, поэтому его псевдоним Эдогава Рампо является созвучным с именем известного американского писателя.
В 1923 году Хираи написал свой первый рассказ — «Медная монета» (Nisen D?ka, ????), который позднее был опубликован под псевдонимом Эдогавы Рампо. Главным действующим лицом многих его произведений стал детектив Когоро Акэти.
В 1926 году Эдогава напечатал свой первый роман, а в 1931 году выпустил своё первое собрание сочинений. В 1947 году он стал одним из основателей «Клуба японских детективных писателей», а в 1954 году учредил литературную премию за лучшее произведение в детективном жанре.
Скончался Эдогава Рампо в 1965 году от инсульта.