Яакко Ругоев родился 15 апреля 1918 года в деревне Суоярви Калевальского (Ухтинского) района, входившая в состав Костомукшского гнезда деревень. Деревня находилась в семи километрах от деревни Костамус (по имени которой был назван в начале 1980-х построенный на её месте город Костомукша). Обе деревни были сожжены в феврале 1942 года.
Яакко учился сначала в родной Костомукше, потом в Ухте. В Ухтинской школе почти одновременно вместе с Яакко учились трое других будущих писателей – Пекка Пертту, Николай Гиппиев (Лайне), Ортьё Степанов. Преподавали в школе замечательные учителя, такие как Матти Пирхонен, Аатами Росси, Илмари Тойкка. Пирхонен преподавал родной язык и литературу. Под руководством Росси ученики делали в школьных мастерских всевозможные изделия от скрипок до лодок. Яакко первым сделал скрипку, и после войны на ней играли даже в симфоническом оркестре.
Печататься Ругоев стал примерно с шестнадцати лет, ещё школьником. Его очерки, корреспонденции и стихи публиковались в журналах и сборниках, издававшихся на финском языке в Петрозаводске и Ленинграде.
После школы Яакко поступил на литературный факультет только открытого в 1934 году в Петрозаводске Карельского учительского института, главной задачей которого была скорейшая подготовка преподавательских кадров для школ-семилеток. Учёбу он сочетал с работой литературного сотрудника республиканских газет.
С первых дней войны Ругоев стремился на фронт. Сначала он записался добровольцем в истребительный батальон «Боевое знамя», который был сформирован 27 июля 1941 года в Калевальском районе. В ноябре 1941 батальон был влит в отряд «Красный партизан», действовавший в родных краях Яакко. Ругоев дважды был ранен.
На войне он продолжал писать, отправлял очерки, стихи и рассказы в республиканские газеты. В 1943 году вступил в КПСС, был назначен военным корреспондентом газеты Totuus («Правда»). В этом же году вышла его первая книга, сборник партизанских рассказов и очерков Kosto («Месть»).
После войны в качестве корреспондента Яков Васильевич участвовал в процессе над военными преступниками, который состоялся в Хельсинки.
После войны один за другим выходят поэтические сборники Яакко Ругоева. Он участвовал в возобновлении издания литературного журнала «Пуналиппу» (сейчас «Карелия») и всегда оставался его автором, дважды избирался руководителем Союза писателей Карелии.
К 1953 году Яакко Ругоев перевёл на финский язык «Слово о полку Игореве».
Умер Яакко Васильевич Ругоев 17 июня 1993 года
Пьеса «Огни Марикоски» была поставлена на сцене Финского драматического театра в Петрозаводске. Стихи и проза Ругоева неоднократно издавались в центральных издательствах России, переводились на иностранные языки.
«Слово о полку Игореве», стихи Н. А. Некрасова, В. Маяковского, К. Симонова, других известных поэтов. Стихи и рассказы самого Якова Васильевича переведены на русский язык, на иностранные языки и языки народов бывшего СССР.