Родился в семье мелких шляхтичей (отец — земельный агент) отдалённо немецкого происхождения. Собираясь стать инженером, окончил реальное училище в Варшаве, потом политехнический институт в Риге. Однако сразу по его окончании был призван в русскую армию (1913), и по окончании офицерской кавалерийской школы, уже после начала Первой мировой войны, в чине поручика направлен в 3-й драгунский полк. В боях проявил большую храбрость и способности, вскоре уже командовал эскадроном, имел три ранения (всего в своей жизни он был ранен 8 раз), несколько боевых орденов (в том числе орден Св. Георгия IV степени). Как отличившийся офицер, был направлен в Академию Генерального Штаба в Петрограде, где прошёл ускоренный курс; её он окончил буквально накануне революции (в середине февраля 1917), получив диплом из рук Николая II и чин капитана генерального штаба.
Февральскую революцию Андерс, по собственным словам, встретил, как и все поляки, «с энтузиазмом». Вскоре он был направлен в формировавшийся Временным правительством национальный польский корпус (1-й Польский корпус генерал-майора Юзефа Довбор-Мусницкого) и вступает в 1-й Креховецкий уланский полк; момент, когда он приколол к своей форме польского орла, был, по его словам, одним из самых счастливых в его жизни. Осенью Андерс назначается начальником штаба 7-й Польской стрелковой дивизии; на этом посту застаёт его Октябрьская революция 1917 года в России. 12 января 1918 Довбор-Мусницкий объявляет войну большевистскому правительству; на следующий день части Андерса берут Рогачёв. Однако 31 января дивизия была выбита из Рогачёва подразделениями 1-го Даугавривского и 4-го Видземского латышских стрелковых полков и сводным отрядом матросов Балтийского флота. Общее руководство осуществлял Иоаким Вацетис. 7-я Польская стрелковая дивизия отошла к Бобруйску и там после Брест-Литовского мира сдалась немцам и была расформирована. Андерс вместе с Довбор-Мусницким возвращается в Польшу.
После Ноябрьской революции в Германии Довбор-Мусницкий становится главой сформированной в Познани повстанческой Великопольской армии, а Андерса, уже в чине подполковника, назначает своим начальником штаба. В этом качестве Андерс ведет бои с немцами до самого вхождения Познанщины в состав Польши (16 февраля 1919 года). С апреля того же года, в качестве командира сформированного им 15-го Уланского полка, принимает участие в боях с Красной Армией. После заключения Рижского мира между Польшей и РСФСР (1921) получает высшее военное образование в Париже («Высшая военная школа») и Варшаве, с ноября 1925 года в звании полковника — военный комендант Варшавы. Во время мятежа Пилсудского 12 мая 1926 года Андерс сохраняет верность демократическому правительству и руководит военным отпором путчистам, что после установления режима «санации» самым неблагоприятным образом сказывается на его карьере: вплоть до Второй мировой войны он находится в должности командира кавалерийской бригады, Волынской (с 1928), затем Новогрудовской (с 1937). Во главе последней вступает в войну.
Вскоре после начала войны бригада Андерса сливается с остатками двух польских дивизий в оперативную кавалерийскую группу «Андерс», а сам Андерс, получивший уже звание генерала, сражается во главе её в районе Плоцка и к юго-востоку от Варшавы, а после поражения поляков под Варшавой отходит к Львову; 22 сентября 1939 года успешно атаковал наступавших немцев; 24 сентября, собрав вокруг себя остатки разбитых польских войск, попытался прорваться через немецкое и советские окружение в Венгрию, надеясь затем перебраться во Францию и продолжать борьбу. Однако в ходе боев 27—28 сентября группа Андерса была разбита советскими войсками, сам Андерс — дважды ранен и на следующий день попал в плен.
Андерс прошёл курс лечения в польском военном госпитале во Львове, затем содержался во внутренней тюрьме НКВД на Лубянке вплоть до августа 1941, когда были установлены союзнические отношения между СССР и польским эмигрантским правительством.
Игорь Бунич в книге «Лабиринты безумия» приводит данные о боях между советскими войсками и частями польской армии под Перемышлем, среди которых были и уланские части Андерса; в этих боях уланы уничтожили два полка пехоты.
В книге Михаила Мельтюхова «Советско-польские войны» этот эпизод описан несколько иначе. В 6.30 27 сентября 26-й и 27-й уланские полки группы Андерса атаковали 148-й кавполк в Сутковице, однако встреченные артогнём и контратакой отошли на опушку леса. В ходе трёхчасового боя противник потерял 300 человек убитыми, 200 пленными, 4 орудия и 7 пулемётов. На следующий день группа была рассеяна, но генерал Андерс с несколькими офицерами скрылся и попал в плен лишь 30 сентября.
4 августа 1941 г. Андерс был доставлен в кабинет Берии, где последний лично сообщил ему, что он свободен и что он назначен лондонским правительством командующим польской армией в СССР (с производством в чин дивизионного генерала). Армия должна была быть сформирована, частью по призыву, частью на добровольной основе, из граждан Польши в СССР (главным образом это были выпущенные из тюрем и лагерей пленные и репрессированные). На назначение её командующим Андерса повлияли несколько моментов: то, что он имел опыт командования войсковой группой; его политическое лицо, то есть непричастность к окружению Пилсудского; наконец, хорошее знание русского языка и репутация специалиста по России. Однако Андерс, крайне негативно относясь к советскому режиму, категорически не желал сражаться под знаменами Сталина, в котором видел палача и тюремщика поляков и который, как он полагал, воспользуется любым удобным случаем, чтобы поработить Польшу; поэтому он имел в виду, вызволив из-под власти Сталина как можно больше поляков, увести их из СССР на Запад. Он пишет:
Глава польского правительства генерал Сикорский, более лояльно настроенный к союзнику и стремившийся иметь польские войска на всех фронтах, противился этим планам; но Андерс через голову Сикорского, с помощью Черчилля, сумел добиться их осуществления. Официально (перед Сталиным) выдвигались утверждения, что поляков следует перевести в Иран из-за более тёплого климата и лучших возможностей для снабжения (англичанами); Андерс утверждал, что после того, как армия будет сформирована и обучена, она вернется в СССР — Сталин этому, разумеется, не верил. Эвакуация «армии Андерса» в Иран проходила весной — летом 1942 года и была завершена к 1 сентября; к тому моменту (с 12 августа) эта армия получила официальное название «Польской Армии на Востоке» и состояла из 3, 5, 6 и 7-й пехотных дивизий, танковой бригады и 12-го уланского полка. (Андерс лично командовал 5-й дивизией, считавшейся самой боеспособной в армии.) 21 июля 1943 г. «Польская армия на Востоке» преобразована во «2-й Польский корпус» в составе британской армии. Корпус насчитывал около 50 тыс. человек и состоял из: 3-й Карпатской пехотной дивизии (2 стрелковые бригады и уланский полк); 5-й Кресовой пехотной дивизии (2 пехотные бригады и уланский полк); 2-й Польской бронетанковой бригады (2 бронетанковых и уланский полк), 2-го Артиллерийского корпуса (3 артиллерийских, 1 противотанковый и 2 противовоздушных полка), а также отдельного уланского полка, десантно-диверсионной роты и различных мелких подразделений.
Дислоцировались поляки Андерса сначала в Ираке, потом в Палестине и Египте, а с декабря по апрель 1944 года были переброшены в Италию, где тотчас отличились при прорыве так называемой «линии Густава» (прикрывавшей Рим с юга), после многодневных кровопролитных боев взяв 18 мая ключевой пункт немецких укреплений — монастырь Монте-Кассино. После этого 2-й Польский корпус был переброшен на Адриатический фронт и принимал участие в боях под Анконой; он закончил свой боевой путь в апреле 1945 г. взятием Болоньи. Героические бои под Монте-Кассино сделали Андерса наиболее популярным из всех польских генералов. С февраля 1945 года Андерс — исполняющий обязанности главнокомандующего польскими силами на Западе (до 5 мая, когда из плена был освобождён командующий Армией Крайовой генерал Бур-Коморовский).
По окончании войны Андерс последовательно занимал позицию, враждебную коммунистическому режиму в Польше. Добился отмены планировавшейся британским правительством принудительной репатриации его солдат; в 1946 году коммунистическое правительство лишило его польского гражданства. С 1954 года — член (наряду с Бур-Коморовским и Эдуардом Рачиньским) и фактический лидер «Совета трёх», руководящего органа польской эмиграции. Согласно завещанию, похоронен в Монте-Кассино, рядом со своими павшими солдатами.
После встречи со своим бывшим сослуживцем П. Шандруком, возглавлявшим на последнем этапе войны дивизию СС «Галичина», добился от британских властей признания бойцов этой дивизии польскими гражданами, не подлежащими выдаче СССР.
Был дважды женат. От первого брака с Иреной Марией Иордан-Краковской родилась дочь Анна, автор книги воспоминаний «Мой отец генерал Андерс» и сын Ежи. Второй женой генерала была Ирена Рената Андерс, в браке с которой родилась дочь - Анна Мария.