Исмаил Шихлы родился 22 марта 1919 года в селе Икинджи Шихлы Казахского уезда Елизаветпольской губернии (ныне Казахский район Азербайджана) в семье учителя. В 1941 году он окончил литературный факультет Азербайджанского педагогического университета. Во время Второй мировой войны отслужил рядовым на передовых линиях Кавказского, 3-го Белорусского и Восточного фронтов. По окончании войны проработал заведующим учебной частью средней школы села Косалар Казахского района. В 1946—1949 годах аспирант, преподаватель, старший преподаватель, а затем заведующий кафедрой литературы зарубежных стран Азербайджанского педагогического университета. Член Союза писателей Азербайджана с 1949 года.
В последующие годы был редактором журнала «Азербайджан», первым секретарём Союза писателей Азербайджана, секретарём Союза Писателей СССР.
Автор романов «Пути расходятся» (1957), «Буйная Кура» (1968), автор многочисленных киносценариев. Роман «Буйная Кура» признается многими литераторами переломным в азербайджанской прозе и положившим начало новому направлению, неореализму.
Именем Исмаила Шихлы назван сухогрузный теплоход.