Александр Потебня родился в 1835 году на хуторе Манев, близ села Гавриловка Роменского уезда Полтавской губернии в дворянской семье. Начальное образование получал в польской гимназии города Радом. В 1851 году он поступил на юридический факультет Харьковского университета, с которого через год перевёлся на историко-филологический. Его преподавателями были братья Пётр и Николай Лавровские и профессор Амвросий Метлинский. Под влиянием Метлинского и студента Неговского, собирателя песен, Потебня увлёкся этнографией, стал изучать «малорусское наречие» и собирать народные песни. Он окончил Университет в 1856 году, недолгое время проработал учителем словесности в харьковской гимназии, а затем, в 1861 году защитил магистерскую диссертацию «О некоторых символах в славянской народной поэзии» и начал читать лекции в Харьковском университете. В 1862 году Потебнёй был выпущен труд «Мысль и язык», и в этом же году он отправился в заграничную командировку. Он посещал лекции в Берлинском университете, изучал санскрит и побывал в нескольких славянских странах. В 1874 году он защитил докторскую диссертацию «Из записок по русской грамматике», а в 1875 году стал профессором Харьковского университета.
Член-корреспондент Императорской санкт-петербургской академии наук c 5 декабря 1875 по Отделению русского языка и словесности. В 1877 году избран действительным членом Общества любителей российской словесности при Московском университете. В этом же году он получил Ломоносовскую премию, а в 1878 и 1879 годах был награждён Уваровскими золотыми медалями. Кроме того, Потебня состоял председателем Харьковского историко-филологического общества (1878—1890) и членом Чешского научного общества.
Брат Александра Афанасьевича, Андрей, был офицером, участвовал в польском восстании 1863 г. и во время него погиб в бою.
Скончался 29 ноября (11 декабря) 1891 года в Харькове.
Потебня находился под сильным влиянием идей Вильгельма фон Гумбольдта, однако переосмыслил их в психологическом духе. Много занимался изучением соотношения мышления и языка, в том числе в историческом аспекте, выявляя, прежде всего на русском и славянском материале, исторические изменения в мышлении народа. Занимаясь вопросами лексикологии и морфологии, ввел в русскую грамматическую традицию ряд терминов и понятийных противопоставлений. В частности, он предложил различать «дальнейшее» (связанное, с одной стороны, с энциклопедическими знаниями, а с другой — с персональными психологическими ассоциациями, и в обоих случаях индивидуальное) и «ближайшее» (общее для всех носителей языка, «народное», или, как чаще говорят теперь в русской лингвистике, «наивное») значение слова. В языках с развитой морфологией ближайшее значение делится на вещественное и грамматическое.
Потебня известен также своей теорией внутренней формы слова, в которой конкретизировал идеи В. фон Гумбольдта. Внутренняя форма слова — это его «ближайшее этимологическое значение», осознаваемое носителями языка (например, у слова стол сохраняется образная связь со стлать); благодаря внутренней форме слово может приобретать новые значения через метафору. Именно в трактовке Потебни «внутренняя форма» стала общеупотребительным термином в русской грамматической традиции.
Одним из первых в России Потебня изучал проблемы поэтического языка в связи с мышлением, ставил вопрос об искусстве как особом способе познания мира.
Потебня изучал украинские говоры (объединявшиеся в то время в лингвистике в «малорусское наречие») и фольклор, стал автором ряда основополагающих работ по этой тематике.
Потебня являлся горячим патриотом своей родины — Малоросии, но скептически относился к идее о самостоятельности украинского языка и к разработке его как литературного. Он рассматривал русский язык как единое целое — совокупность великорусских и малорусского наречий, и общерусский литературный язык считал достоянием не только великороссов, но и белорусов и малороссов в равной степени; это отвечало его взглядам на политическое и культурное единство восточных славян — «панрусизму». Его ученик, Д. Н. Овсянико-Куликовский вспоминал:
Создал научную школу, известную как «харьковская лингвистическая школа»; к ней принадлежали Дмитрий Овсянико-Куликовский (1853—1920) и ряд других учёных. Идеи Потебни оказали большое влияние на многих русских лингвистов второй половины XIX века и первой половины XX века.
10 сентября 2010 года, в день его рождения, Укрпочтой была выпущена почтовая марка номиналом 1 гривну № 1055 «Александр Потебня» тиражом 158 000 экземпляров, а также произведено два гашение первого дня - на его родине, в Ромнах, и на главпочтамте Киева.