Алтынсарин положил начало светскому образованию казахского народа. Автор первых казахских учебников: «Казахская хрестоматия» (1879; 2 изд., 1906) и «Начальное руководство к обучению казахов русскому языку» (1879), автор басен и рассказов, а также переводов Л. Н. Толстого, И. А. Крылова.
Создавал варианты алфавита на основе русской графики для записи казахских текстов.
Открыл четыре двухклассных центральных русско—казахских училища, одно ремесленное училище, одно женское училище, пять волостных школ, два училища для детей русских поселян. А также учительскую школу в Троицке, немного позже она была переведена в Оренбург.
Родился 13 октября (1 ноября, по китайскому стилю) 2 ноября 1841 года в Аракарагайской волости Николаевского уезда Тургайской области.
Рано лишившись отца, воспитывался в семье деда известного бия Балгожи Жанбуршина.
В 1850 году был определён в школу — интернат при Оренбургской пограничной комиссии. Окончил её в 1857 году с золотой медалью. Затем в течение трёх лет работал писарем у своего деда Балгожи — управляющего Узунским родом племени кипчаков, войскового старшины Оренбургской комиссии.
Некоторое время Алтынсарин работал переводчиком в Оренбургском областном правлении, где познакомился с Ильминским Н. Н.
В 1860 году областное правление поручило ему открыть школу для казахских детей в городе Тургай, в которой он назначался учителем русского языка.
В 1861 году он получил назначение на должность учителя Тургайской школы.
В 1864 открыл первую народную школу.
Некоторое время И. Алтынсарин работал также в Тургайском уездном управлении в качестве делопроизводителя, исполнял обязанности старшего помощника уездного начальника, временно — уездного судьи.
С 1879 и до конца жизни — инспектор казахских школ в Тургайской области.
В 1883 году Алтынсарин переехал в Николаевский (Кустанайский) уезд. Он построил дом в трёх километрах от города Кустаная, на сгибе реки Тобол, на островке, где имелось небольшое озеро, получившее впоследствии название «Инспекторское». Там Ибрай Алтынсарин жил и работал до самой смерти.
Алтынсарину было присвоено звание статского советника.
Умер 17 июля (29 июля) 1889 года, похоронен недалеко от своего дома на берегу Тобола рядом с могилой отца.
В честь выдающегося педагога в 2007 году Министерством образования и науки Республики Казахстан была учреждена ведомственная награда — Нагрудный знак «Ибрай Алтынсарин».