Павел Карганов родился 4 марта 1883. По окончании в 1904 году Одесской театральной школы под руководством актрисы М. И. Морской поступил на профессиональную сцену (первая роль — Незнамов). Работал в театрах Одессы, Кишинёва, Ростова-на-Дону, Баку, Астрахани и других городов.
Участвовал в гастрольных спектаклях Н. П. Россова, братьев Адельгейм. Некоторое время играл в оперетте (1910—1912 гг., Одесса, Баку). С 1928 года Павел Александрович становится актёром Саратовского драматического театра.
Карганов умел точно передать историческую и социальную сущность характера своего героя.
Выступал также как режиссёр (пьеса «Беспокойная старость» Рахманова поставлена в 1938 году). Вел педагогическую работу в Саратовском театральном училище с 1929 года, среди его учеников Борис Фёдорович Андреев, Людмила Степановна Муратова, Тамара Акимовна Лученкова, Ливия Васильевна Шутова.
Умер Павел Александрович Карганов 4 мая 1961 года. Похоронен Павел Карганов на Саратовском городском кладбище. Его могила включена в перечень памятников истории и культуры Российской Федерации.