Али-Ага Шихлинский родился 23 апреля (3 марта) 1865 года в небольшом селении Казахлы Казахского уезда Елизаветпольской губернии (ныне село Ашагы Салахлы Казахского района Азербайджана) в семье помещика. Происходил из древнего дворянского рода, первое упоминание о котором относится к 1537 году. Мать Шах-Йемен ханум была внучкой известного поэта Молла Вели Видади.
В августе 1876 года поступил в военную гимназию в Тифлисе (ныне Тбилиси), впоследствии переименованную в Кадетский корпус, который окончил в 1883 году. Военную службу начал 1 сентября 1883 года юнкером Михайловского артиллерийского училища в Санкт-Петербурге. По окончании училища по первому разряду, 11 августа 1886 года высочайшим приказом Али Ага Шихлинский был произведен в подпоручики и получил назначение в 39-ю артиллерийскую бригаду, дислоцированную на Кавказе в городе Александрополе (ныне Гюмри). Службу начал в 5-й, затем во 2-й батарее, а в конце октября был назначен преподавателем бригадной учебной команды, готовившей фейерверкёров, то есть унтер-офицеров. 23 ноября 1887 года был произведен в поручики, а в апреле 1891 года получил свою первую награду — орден Св. Станислава 3-й степени.
15 июля 1894 года А. Шихлинский был произведен в штабс-капитаны и в сентябре был назначен заведующим бригадной учебной командой. С 1 февраля 1895 года старший офицер 1-й батареи. В феврале 1896 года награждён орденом Св. Анны 3-й степени. С 19 июля 1898 года А. Шихлинский капитан. С июня 1899 года по февраль 1900 года временно исполнял обязанности командира 1-й батареи.
В начале 1900 года Али Ага решает перевестись служить в Восточную Сибирь. 17 февраля последовал высочайший приказ о переводе капитана А. Шихлинского в Отдельный Забайкальский артиллерийский дивизион. Отправившись к новому месту службы 14 марта 1900 года, Шихлинский прибыл в дивизион 17 мая и был назначен старшим офицером 1-й батареи. Отдельный Забайкальский артиллерийский дивизион состоял из двух батарей: 1-й батареей командовал полковник В. И. Энгельман, 2-й — подполковник Самедбек Мехмандаров. В связи с нехваткой офицеров во 2-м Восточно-Сибирском летучем артиллерийском парке (тыловое подразделение, имевшее запасы боеприпасов) Шихлинский некоторое время исполнял обязанности командира парка. В составе Отдельного Забайкальского артиллерийского дивизиона принял участие в китайском походе. За отличие в делах против китайцев 1 мая 1901 года А. Шихлинский был награждён орденом Св. Станислава 2-й степени с мечами.
С мая 1901 года по март 1902 года А. Шихлинский исполнял обязанности командира 1-й батареи и командира дивизиона. В мае-июне 1902 года временно командует 2-й батареей, а в июле назначается старшим офицером этой батареи. С августа того же года по октябрь 1903 года командует 2-й батареей, заменяя убывшего в шестимесячный отпуск и на учёбу в Санкт-Петербург полковника С. Мехмандарова.
Русско-японскую войну А. Шихлинский встретил в должности старшего офицера батареи. После назначения в феврале 1904 года полковника С. Мехмандарова командиром 7-го Восточно-Сибирского стрелкового артиллерийского дивизиона капитан Шихлинский был временно назначен командиром батареи. Принимал участие в боях на Цзиньжоуском перешейке и Волчьих горах. Однако остановить японцев на этих рубежах не удалось, понеся значительные потери и не получив подкрепления части 4-й Восточно-Сибирской стрелковой дивизии и поддерживающей её 4-й Восточно-Сибирской стрелковой артиллерийской бригады, в состав которой к этому времени вошёл Отдельный Забайкальский артиллерийский дивизион, вынуждены были отойти к Порт-Артуру. 17 июля 1904 года все части дивизии отошли в район крепости Порт-Артур. Началась осада крепости японской армией.
Высочайшим приказом 28 сентября 1905 года Али-Ага Шихлинский был удостоен ордена Святого Георгия 4-й степени, как сказано в наградных документах,
13 ноября 1904 года во время четвёртого штурма японцев Али Ага был тяжело ранен шрапнельной пулей в ногу. Из дневника сотрудника порт-артурской газеты «Новый край» П. Н. Ларенко:
Капитуляция Порт-Артура застала Шихлинского в госпитале. Стало известно, что царь разрешил офицерам, дав подписку японцам о неучастии в войне, вернуться в Россию. Многие, дав подписку, вернулись на Родину. Некоторые, и в их числе А. Шихлинский, отказались от подписки, считая её унизительной. Однако, вскоре, он был признан смешанной русско-японской комиссией негодным к военной службе вследствие тяжелого ранения. Весной 1905 года А. Шихлинский был эвакуирован в Россию, без всякого обязательства относительно участия в продолжавшейся войне.
За русско-японскую войну Али Ага Шихлинский был удостоен следующих наград: ордена Св. Георгия Победоносца 4-й степени, золотого оружия с надписью «За храбрость», золотых мечей к имевшемуся у него ордену Св. Анны 2-й степени, Св. Владимира 4-й степени с мечами и бантом, Св. Анны 4-й степени с надписью «За храбрость».
25 мая 1905 года Шихлинский был переведен во 2-й дивизион 15-й артиллерийской бригады, дислоцированной в Одессе. 26 ноября 1905 года, в день Георгиевского праздника, Али Ага Шихлинский был произведен в подполковники и в тот же день в числе других георгиевских кавалеров был приглашен на прием в Царскосельский дворец, где представился императору.
По чину подполковника А. Шихлинскому полагалось быть командиром батареи, но вакансий не было. В связи с этим он обратился с рапортом к генерал-инспектору артиллерии направить его в переменный состав Офицерской артиллерийской школы в Санкт-Петербурге. В конце января 1906 года подполковник Шихлинский был зачислен в школу, полный курс которой он закончил с оценкой «отлично» в августе того же года. 22 января 1907 года был прикомандирован к Офицерской артиллерийской школе в качестве руководителя (преподавателя). За отлично-усердную службу 13 мая 1907 года Шихлинскому было объявлено «Высочайшее благоволение». В этот период пребывания в школе им был разработан оригинальный прием целеуказания, вошедший затем в учебники, и получивший название «треугольник Шихлинского». 22 сентября был назначен старшим офицером 7-й батареи 15-й артиллерийской бригады, а 9 декабря командиром 5-й батареи 29-й артиллерийской бригады, дислоцированной в Риге.
14 февраля 1908 года подполковник Шихлинский был командирован в постоянный состав Офицерской артиллерийской школы, где занял должность руководителя. С 29 февраля и.д. штаб-офицера, заведующего обучающимися в школе офицерами. 26 ноября 1908 года, ровно через три года после производства в подполковники, за отличие по службе Али Ага Шихлинский был произведен в полковники, с утверждением в настоящей должности.
С 4 августа 1910 года командир 1-го дивизиона 21-й артиллерийской бригады дислоцированной во Владикавказе. С 30 января 1912 года прикомандирован был к Офицерской артиллерийской школе в качестве и.д.старшего руководителя офицеров переменного состава школы. 18 августа утвержден в этой должности. С 2 января 1913 года и.д. помощника (заместителя) начальника Офицерской артиллерийской школы. 14 апреля Шихлинский был произведен в генерал-майоры с утверждением в должности помощника начальника Офицерской артиллерийской школы. За время пребывания в школе А. Шихлинский подготовил и издал «Инструкцию для организации артиллерийских маневров в составе дивизиона», конспект своих лекций прочитанных в Офицерской артиллерийской школе под названием «Употребление полевой артиллерии в бою» и статью «О стрельбе артиллерии через голову своих войск». Эти труды получили широкое распространение и оказали большое влияние на развитие артиллерийской науки. За время службы в Офицерской артиллерийской школе он был награждён орденом Св. Владимира 3-й ст. и французскими Офицерским и Командорским крестами ордена Почетного легиона. 26 августа 1914 года приказом начальника Главного артиллерийского управления генерал-майор Шихлинский был назначен исполняющим должность начальника Офицерской артиллерийской школы.
С началом Первой мировой войны А. Шихлинский, исполнявший в то время обязанности начальника школы, приказом начальника Главного артиллерийского управления был назначен начальником артиллерийской обороны Петрограда на случай высадки десанта немцев на Балтийское побережье. Одновременно он продолжал командовать оставшейся после убытия в действующую армию преподавательского и строевого состава частью Офицерской артиллерийской школы. Уже в первые месяцы войны стало очевидно, что имеются серьёзные недочеты в организации высшего управления артиллерией. С целью изучения этого вопроса, в октябре 1914 года на Юго-Западный фронт был командирован генерал-майор Шихлинский. По итогам командировки А. Шихлинский докладывал, что
В отчете о командировке генерал Шихлинский указал на необходимость иметь авторитетных артиллеристов при штабе Верховного главнокомандующего и при штабах главнокомандующих фронтами для установления однообразного характера требований от артиллерии.
В январе 1915 года генерал-майор А. Шихлинский был назначен в распоряжение главнокомандующего армиями Северо-Западного фронта генерала от инфантерии Н. В. Рузского. Ему было поручено руководство тяжелой артиллерией. Шихлинский постоянно выезжает в расположение армий и корпусов фронта и лично руководит постановкой на позиции батарей тяжелой артиллерии, а также её боевой работой. В мае того же года приказом нового главкома армиями Северо-Западного фронта генерала от инфантерии М. В. Алексеева генерал-майор Шихлинский был назначен на вновь учрежденную должность генерала для поручений по артиллерийской части при главкоме. В августе Шихлинским был подготовлен проект создания тяжелых полевых артиллерийских бригад, вооружённых крепостными орудиями старого типа.
23 августа 1915 года Император Николай II встал во главе Русской армии, сместив с поста Верховного главнокомандующего великого князя Николая Николаевича. Начальником штаба Верховного главнокомандующего вместо генерала от инфантерии Н. Янушкевича был назначен генерал М. В. Алексеев. 14 сентября А. Шихлинский по приказу генерала М. Алексеева был командирован в Ставку в штаб Верховного главнокомандующего, а 31 октября был назначен на вновь учрежденную должность генерала для поручений по артиллерийской части при Верховном главнокомандующем с правами начальника дивизии и штатной категорией генерал-лейтенанта. Руководил созданием тяжелых артиллерийских дивизионов и бригад. А. Шихлинским были подготовлены проекты о командном составе формируемых частей тяжелой артиллерии с приложением списка штаб-офицеров, выдвигаемых из полевой артиллерии на эти должности, с обстоятельной аттестацией каждого офицера. Одновременно с января 1916 года он тесно сотрудничал с Управлением полевого инспектора артиллерии, которое возглавлял генерал от артиллерии великий князь Сергей Михайлович, хорошо знавший и высоко ценивший А. Шихлинского.
С 11 апреля 1916 года А. Шихлинский исполнял должность инспектора артиллерии армий Западного фронта. Со 2 апреля 1917 года инспектор артиллерии армий Западного фронта. На этом посту особенно ярко проявился военный талант Шихлинского. Он непосредственно руководил разработкой, подготовкой и выполнением в артиллерийском отношении операций армий Западного фронта. На посту инспектора артиллерии армий Западного фронта А. Шихлинский приложил также много сил и для разработки вопросов взаимодействия артиллерии с авиацией. В сентябре 1916 года при штабе Западного фронта было решено создать школу для совместного обучения артиллеристов и лётчиков. Организация школы была поручена генералу Шихлинскому. В течение года школа произвела 5 выпусков.
Заслуги А. Шихлинского были высоко оценены. 2 апреля 1917 года за отличие по службе А. Шихлинский был произведен в генерал-лейтенанты. 9 сентября 1917 года приказом Верховного главнокомандующего генерал-лейтенант Шихлинский был назначен командующим 10-й армией. Это назначение явилось признанием его полководческого таланта и высокой оценкой ратного труда. В своем последнем приказе Управлению 12 сентября он отмечал:
Генерал Шихлинский вступал в командование армией в очень сложное время. После падения самодержавия армия превратилась в арену жестоких политических столкновений различных классов и партий, что не могло не вызвать крайне негативных последствий. Уровень падения дисциплины приобретал катастрофический характер: резко возросло дезертирство, участились случаи насильственного отстранения от должностей начальствующих лиц, оскорблений, избиений, а нередко и убийств офицеров. Армия по существу разваливалась. Из приказа командующего 10-ой армией Западного фронта от 22 сентября:
Однако командовать армией Шихлинскому пришлось недолго. Старые раны, частые посещения окопов, наполненных водой, вызывали у него сильные подагрические боли. Убедившись, что дальнейшее его пребывание на фронте по состоянию здоровья невозможно, Шихлинский подал рапорт об увольнении в резерв Кавказского округа для лечения. В рапорте он подчеркивал, что
Просьба Шихлинского была удовлетворена. 2 декабря последовал приказ об увольнении генерал-лейтенанта А. Шихлинского в резерв. Известный российский и советский военачальник А. А. Самойло, возглавлявший в то время штаб 10-й армии, писал в своих мемуарах:
Ратный труд Шихлинского в годы первой мировой войны был отмечен орденами Св. Станислава 1-й степени, Св. Анны 1-й степени с мечами, Св. Владимира 2-й степени с мечами и чином генерал-лейтенанта.
В конце 1917 года Али-Ага Шихлинский прибыл в Тифлис, где узнал, что решением Особого Закавказского Комитета он назначен командиром вновь формировавшегося Мусульманского (Азербайджанского) корпуса. Корпус в общих чертах был сформирован к концу апреля — началу мая 1918 года. После провозглашения 28 мая 1918 года Азербайджанской Демократической Республики 4 июня 1918 года был заключен договор о дружбе и сотрудничестве между Азербайджанской Республикой и Османской империей, согласно которому Османская империя обязывалась «оказывать помощь вооружённой силой правительству Азербайджанской Республики, буде таковая потребуется для обеспечения порядка и безопасности в стране».
26 июня постановлением Совета Министров Азербайджанской Республики Мусульманский корпус был переименован в Отдельный Азербайджанский корпус. В начале июля 1918 года корпус был расформирован и его части вместе с прибывшими 5-й Кавказской и 15-й Чанахгалинской турецкими дивизиями вошли в состав вновь сформированной Кавказской исламской армии Нури-паши. Генерал Шихлинский был назначен в распоряжение командующего армией. В боях под Геокчаем 27 июня — 1 июля 1918 года части Кавказской исламской армии разбили так называемый 1-й Кавказский корпус Красной армии. В ночь с 14 на 15 сентября частями Кавказской исламской армии был взят Баку.
С 29 декабря 1918 года по 28 апреля 1920 года, до прихода к власти в Азербайджане большевиков, Али Ага Шихлинский служил в армии Азербайджанской Демократической Республики в должности помощника военного министра генерала от артиллерии Самедбека Мехмандарова. 28 июня 1919 года приказом правительства Азербайджанской Республики помощник военного министра генерал-лейтенант Али Ага Шихлинский за отличия по службе был произведен в генералы от артиллерии.
После создания Азербайджанской ССР Шихлинский был назначен 30 апреля 1920 года помощником наркома по Военным и Морским делам республики, исполнял обязанности военного руководителя наркомата.
После жестокого подавления антисоветского восстания в Гяндже в конце мая 1920 года практически все офицеры азербайджанской национальной армии были арестованы, в числе арестованных были С. Мехмандаров и А. Шихлинский. От репрессий их спасло только вмешательство тогдашнего руководителя Совнаркома Азербайджана Наримана Нариманова, который отправил генералов в Москву с сопроводительным письмом на имя В. И. Ленина следующего содержания:
В начале августа 1920 года Шихлинский прибыл в Москву, где участвовал в работе Управления инспектора артиллерии РККА, Уставной артиллерийской комиссии, преподавал в Высшей артиллерийской школе командного состава РККА. 18 июля 1921 года вновь был переведен в Азербайджан, где находился в распоряжении наркома по Военным и Морским делам. 1 декабря того же года был назначен для выполнения особых поручений при наркоме и одновременно преподавателем Азербайджанской сводной школы комсостава, одновременно с 1922 года являлся заместителем председателя военно-научного общества гарнизона Баку. С 15 октября 1924 года помощник начальника Азербайджанской объединённой военной школы комсостава. С 6 февраля 1924 года занимал также должность председателя Военной редакционной издательской коллегии Азербайджанской ССР при Революционном Военном Совете Краснознаменной Кавказской армии. Подготовил и опубликовал первый «Краткий русско-тюркский (азербайджанский) военный словарь» (1926). За этот труд, 23 февраля 1928 года Али Ага Шихлинский был награждён Почетной грамотой Революционного Военного Совета СССР. С 1929 года персональный пенсионер.
Али Ага Шихлинский умер 18 августа 1943 года в Баку и был похоронен на Ясамальском кладбище в Баку.
Незадолго до смерти А. Шихлинский написал книгу «Мои воспоминания», которая была издана уже после смерти автора и встречена с большим интересом. В мае 1944 года автор предисловия к воспоминаниям, генерал-майор артиллерии, доктор военных наук, автор фундаментальных трудов по истории русской артиллерии Евгений Захарович Барсуков в своем письме заместителю председателя президиума Азербайджанского филиала Академии наук СССР академику Г. Н. Гусейнову писал:
Именем генерала Шихлинского назван танкер Азербайджанского Государственного Каспийского Морского Пароходства 1980 года выпуска, улицы в городах Казах и Баку. О Шихлинском написаны книги и статьи, в частности, он является одним из персонажей романов А. Н. Степанова «Порт-Артур» и «Семья Звонаревых». В 1996 году потомком прославленного военачальника, кинорежиссёром Зией Шихлинским был снят короткометражный документальный фильм «Считался богом артиллерии», показ которого состоялся 16 ноября 2006 года в Баку на вечере памяти А. Шихлинского, организованном при содействии Посольства Российской Федерации в Азербайджане и приуроченном к отмечаемому в России памятному Дню ракетных войск и артиллерии.
Известный российский и советский военный специалист, доктор военных наук Е. З. Барсуков писал:
27 октября 1909 года полковник Али Ага Шихлинский вступил в брак со старшей дочерью Закавказского муфтия Гусейн Эфенди Гаибова — Нигяр-ханум, вдовой Дервиш-бека Палавандова. Из воспоминаний А. Шихлинского: