Ольховский — первый россиянин, игравший в финале турнира Большого шлема (Ролан Гаррос-1992 в мужском парном разряде) и первый россиянин, победивший на турнире Большого шлема (Ролан Гаррос-1994 в смешанном парном разряде вместе с россиянкой Евгенией Манюковой). Кроме того, он первый россиянин, победивший на открытом чемпионате Австралии (в 1994 году в смешанном парном разряде) и первый россиянин, игравший в финале Уимблдонского турнира (в 1997 году в смешанном парном разряде).
В третьем круге Уимблдонского турнира 1992 года, победив Джима Курье со счётом 6-4 4-6 6-4 6-4, установил рекорд для турниров «Большого шлема», как самый низкостоящий в рейтинге теннисист, победивший первую ракетку мира: Ольховский на тот момент занимал 193-е место в мировом рейтинге.
На турнирах Большого Шлема Андрей 5 раз играл в финалах парного разряда и микста в 1992-97 и выиграл 2 титула:
Двукратный финалист Кубка Дэвиса (1994 и 1995) в составе сборной России.
В одиночном разряде выиграл 2 турнира ATP и ещё дважды играл в финале.
В парном разряде выиграл 20 турниров (в том числе 1 турнир серии Мастерс).
Участник летних Олимпийских игр 1988 и 1996 годов.