Родился в Орле. Окончил 4-ю Московскую гимназию с золотой медалью (1853) и юридический факультет Московского университета (1857). Был учителем законоведения в Первой московской гимназии. В 1862 г. получил заграничную командировку для приготовления к профессорскому званию; занимался преимущественно в Гейдельберге, под руководством Блунчли, Цепфля, Рено, Миттермайера и Вангерова. По защите диссертации на степень магистра государственного права назначен в 1868 г. доцентом по кафедре государственного права в Московском университете.
В 1871 г. защитил диссертацию на степень доктора и в том же году назначен профессором, а в 1872 г. занял кафедру истории русского права в Санкт-Петербургском университете. В 1879-1884 гг. нес обязанности секретаря юридического факультета; с 1888 по 1897 г. состоял деканом, а с 1897 по 1899 г. — ректором университета.
С 1 января 1907 — член Государственного совета по назначению.
Как более крупные работы Сергеевича, так и небольшие журнальные статьи его одинаково отличаются свежестью и оригинальностью выводов, всегда строго обоснованных на тщательном изучении источников. Написаны они образцовым по простоте, ясности и образности литературным языком. Первый большой труд Сергеевича, «Вече и князь», впервые установил правильную схему государственного устройства древнерусских княжеств. Народоправства, или веча, оказались не только принадлежностью северных торговых республик, но общераспространенной формой быта всех русских земель; их повсеместность выяснена рассмотрением как документальных свидетельств, так и общих условий быта. Второй элемент в составе власти — князья — определяют свои отношения к народу, к дружине и между собой на основании договоров. Договорным началом проникнут весь государственный быт; им же определялись и отношения между князьями. Сергеевич выступил одним из самых горячих противников теории родового быта. Идее родового старшинства, которым, по этой теории, определялись отношения между князьями, была противопоставлена идея равного достоинства князей. В противовес теории лестничного восхождения при распределении волостей между князьями выставлено совершенно новое начало: волости в Древней Руси не наследовались, а добывались.
К методологическим вопросам Сергеевич возвращался и позднее, например, в статье «Право и государство в истории»; но внимание его главным образом привлекали отдельные вопросы истории права, как то: земские соборы, Екатерининская комиссия, договоры с греками, образование государственной территории и пр. По каждому из этих вопросов им высказаны мнения, с которыми необходимо считаться каждому исследователю и которые до сих пор во многих отношениях остаются не поколебленными: так, «Земские соборы в Московском государстве» остаются лучшим трудом по данному вопросу.
Далекий от славянофильского воззрения, по которому наши соборы являются идеалом представительства, автор не разделяет и отрицательной точки зрения С. М. Соловьёва и Б. Н. Чичерина. Он видит в соборах первую ступень развития представительных учреждений и проводит аналогию их с подобными учреждениями во Франции и Англии. Несмотря на несовершенства в организации, соборы оказали великие услуги государству: «одной патриотической деятельности земских соборов начала XVII века уже довольно, чтобы Россия всегда вспоминала о них с благодарностью».
Рассматривая вопрос о территориальном росте Московского государства, Сергеевич вопреки установившемуся взгляду, что оно выросло из вотчины московских князей, развивает мысль, что не московский удел, а великое княжество Владимирское послужило основной ячейкой для этого роста с той самой минуты, как Дмитрий Донской приобрёл его в наследственное владение своего дома. Московские князья, начиная с Калиты и до Дмитрия Донского, вовсе не были создателями того порядка, который привёл Москву к единовластию и величию. Калита — вовсе не основатель государственного величия Москвы, как думали древние грамотеи и вслед за ними новейшие историки, а первый решительный проводник взгляда на княжение как на частную собственность князя, со всеми противогосударственными последствиями такого взгляда.
В 1883 году Сергеевич издал все свои исследования по истории права, присоединив к ним конспективный обзор своих лекций в виде пособия для слушателей. В 1890 году появился первый том капитального труда «Русские юридические древности», представляющего собой начало новой переработки истории русского права до конца XVII века. Этот новый труд задуман в широких размерах: в вышедших двух томах (свыше 1100 стр.) рассмотрены лишь территория, население и власть (последняя — не вполне; отсутствует глава о земских соборах). Самое изложение представляет ту особенность, что в тексте приведены характерные места из источников, которые и разъясняются. Почти по всем вопросам или предлагаются новые оригинальные выводы, или приводятся новые соображения в пользу прежде высказанных взглядов. Даже отделы, ранее исследованные автором, написаны вновь и по-новому плану. Все это ставит «Русские юридические древности» (т. 1, 1890; т. 2, вып. 1, 1893; т. 2, вып. 2, 1896) в ряду самых выдающихся явлений русской исторической литературы.
Не меньшего внимания заслуживают:
Издания источников: «Исторические сведения о Екатерининской комиссии для сочинения проекта нового уложения», части 4—8, в «Сборнике Императорского русского исторического общества», тт. 32, 36, 43, 68 и 93.