Родился 18 июля 1890 года в семье российского драматурга Виктора Рышкова. Служил в чине подпоручика по Адмиралтейству. Активный участник Белого движения, рядовой-доброволец 2-го Офицерского Стрелкового Генерала Дроздовскаго Полка. С 1920 года во флоте, эвакуировался из Крыма на миноносце, команда которого в конце концов обосновалась на французской ферме под Марселем.
В эмиграции в Париже, журналист, писатель и общественный деятель. С 1925 года редактирует газету «Галлиполиец», которую издает В.В.Орехов. В 1928 году издает автобиографический роман «Экипаж "Одиссеи"» изд. Л.Березняк, Париж, в котором описывает в юмористических тонах эпопею эвакуации из Крыма на миноносце. Первый роман автора принес ему сразу же большую известность в русской эмиграции, особенно среди военных. После этого началась неисчерпаемая литературная и журналистская деятельность Тарусского: он был помощником редактора "Вечернего времени" (редактор А. Суворин), автором многочисленных статей в эмигрантской и французской прессе, сотрудником "Возрождения". В 1929 году вместе с В.В.Ореховым и С.К.Терещенко начинает издавать журнал «Часовой». В 1931 году участвует в выпуске двух книг «Армия и флот: военный справочник под редакцией В. В. Орехова и Евгения Тарусского» изд. журнала «Часовой» Париж. Это издание содержало ценнейший материал русских военных дел за рубежом и напоминало ежегодные выпуски Памятных Книжек издававшихся военной типографией Императорской России.
Автор двух не больших сборников рассказов выпущенных почему-то русскими эмигрантскими издательствами в Китае в 30-е годы.
1. Его Величество случай : рассказы о неведомом. изд. Витязь, Тзяньтзын (Китай) 1927 год.
2. Серебряные туфельки. изд. Наше Знание. Тзяньтзын (Китай) 1930-е годы.
Кроме этого Евгений Викторович известен как автор стихотворений разбросанных по многим периодическим изданиям русской эмиграции.
Во время Второй Великой войны Евгений Тарусский-Рышков был приглашен генералом П.Н. Красновым в «Казачий Стан» для литературной и пропагандистской работы. Вместе с чинами и командованием «Казачьего Стана» он попал в плен к англичанам под Лиенцем, содержался в лагере и должен был быть передан советским властям. Евгений Тарусский разделил судьбу многих казаков и их семей. В день выдачи в руки НКВД, 29 мая 1945 года, он покончил с собой в лагере военнопленных в Австрии. Вот как написал об этом очевидец:
ГИБЕЛЬ Е. В. ТАРУССКОГО (Е. В. Рышкова)
Отрывок из некролога. Журнал „Часовой" № 275/6. июль 1948 года