Родился в Полтавской губернии, учился в полтавской гимназии и в Ленинградском педагогическом институте им. А. И. Герцена. Работал в этом институте с 1929, где темой его работы (в сотрудничестве с Л. С. Выготским) были проблемы детской игры. После разгрома педологии c 1937 работал учителем начальных классов в одной из ленинградских школ, преподавал в педагогическом институте, создавал школьные учебники по русскому языку для народностей Крайнего Севера. В 1940 защитил кандидатскую диссертацию, посвящённую развитию речи школьников.
По окончании войны (которую он провёл на фронте, был награждён орденами и медалями) Д. Б. Эльконин, хотя и очень хотел этого, не был демобилизован. Он получил назначение на преподавательскую работу в Московский областной военно-педагогический институт Советской Армии, где не только преподавал психологию, но и разработал основные принципы построения курса советской военной психологии. Однако в 1952 г. началась волна репрессий под видом борьбы с космополитизмом.
Заседание комиссии, посвященное «разбору и обсуждению допускаемых подполковником Элькониным ошибок космополитического характера», было назначено на 5 марта 1953 г., но умер Сталин, и оно было отложено, а затем отменено. Подполковник Д. Б. Эльконин был уволен в запас.
В сентябре 1953 г. Д. Б. Эльконин стал штатным сотрудником Института психологии АПН РСФСР (ныне Психологический институт РАО), где и проработал до конца своей жизни. В институте он заведовал несколькими лабораториями, в 1962 защитил докторскую диссертацию, а в 1968 был избран членом-корреспондентом АПН СССР. Многие годы он преподавал на факультете психологии МГУ, образованном в 1966.
Работы Д. Б. Эльконина стали одним из краеугольных камней теории деятельности.
Свои исследования по детской психологии он проводил совместно с учениками Л. С. Выготского: А. Н. Леонтьевым, А. Р. Лурией, А. В. Запорожцем, Л. И. Божович, П. Я. Гальпериным