Родился в семье рабочего. Еврей. Член КПСС с 1930. Окончил 7 классов. Работал помощником машиниста на мельнице. В РККА с 1929. Окончил военно-политическое училище в 1937. Участник боёв на р. Халхин-Гол в 1939.
На фронтах Великой Отечественной войны с июня 1941. Окончил Высшие военно-политические курсы в 1943, КУОС при Военной академии бронетанковых и механизированных войск Красной Армии в 1944. Умело организовал боевые действия бригады 15—28.4.45 в ходе Берлинской операции. Был ранен, но остался в строю. За этот период танкисты бригады уничтожили 194 орудия противника и захватили 23 орудия, 9 танков. Убит 29 апреля 1945 года. Об обстоятельствах гибели Абрама Темника написал в своих мемуарах свидетель событий подполковник Вениамин Миндлин.
Указом Президиума Верховного Совета СССР от 31 мая 1945 года за образцовое командование танковой бригадой в ходе Берлинской операции и проявленные при этом личное мужество и героизм гвардии полковнику Абраму Матвеевичу Темнику посмертно присвоено звание Героя Советского Союза.
Награждён орденом Ленина, тремя орденами Красного Знамени, орденом Богдана Хмельницкого 2-й степени, двумя орденами Красной Звезды, медалями.
В селе Черниговка Запорожской области — средняя школа имени Героя Советского Союза А. М. Темника. В городе Копейске Челябинской области (где в эвакуации и после войны проживали родители А. М. Темника) есть улица, названная его именем.
У Мемориала павшим советским воинам в Тиргартене (Берлин), где похоронен А.М. Темник, стоит плита с его именем.