Родился 2 марта 1930 в г. Середина-Буда Сумской области Украинской ССР, русский.
В 1954 окончил биологический факультет Московского государственного университета (МГУ) по специальности "Физиология человека и животных". Кандидат биологических наук.
С 1954 по 1956 работал в МГУ старшим лаборантом. В 1956 - 59 - аспирант кафедры физиологии животных, в 1960 - младший научный сотрудник МГУ. С 1961 по 1964 годы - старший инженер, затем младший научный сотрудник Института биофизики АН СССР. В 1964 - 69 заведовал отделом межфакультетской лаборатории математических методов в биологии МГУ.
В 1970 - 74 - старший научный сотрудник на Московской рыбоводно-мелиоративной опытной станции.
Заниматься общественной деятельностью начал с 1956, когда в биологической науке шла борьба против последователей академика Т. Д. Лысенко.
Ковалев являлся одним из авторов письма в деканат биологического факультета МГУ о восстановлении в правах генетики как учебной дисциплины.
С 1967 начал активно заниматься правозащитной деятельностью. В 1969 познакомился с А. Д. Сахаровым, вскоре стал его близким другом. С 28 мая 1969 - член Инициативной группы (ИГ) защиты прав человека в СССР. Группа прекратила свою деятельность в 1974 в результате постоянных репрессий.
Члены ИГ были в числе организаторов и редакторов "Хроники текущих событий" (ХТС) - подпольно издававшегося с 1968 по 1982 правозащитного бюллетеня.
С сентября 1974 - член советского отделения организации "Международная амнистия".
28 декабря 1974 был арестован и 12 декабря 1975 осужден в Вильнюсе за "антисоветскую пропаганду" на 7 лет лагеря строгого режима и 3 года ссылки (ст. 70 УК РСФСР).
Находился в заключении и ссылке до 1984.
С 1987 - сопредседатель Проектной группы по правам человека Международного фонда за выживание и развитие человечества. В середине 1987 стал одним из создателей пресс-клуба "Гласность".
С конца 1987 - инженер Института проблем передачи информации АН СССР.
4 марта 1990 в первом туре голосования был избран народным депутатом РСФСР.
Был председателем Комитета Верховного Совета РСФСР по правам человека.
В 1990 - 94 - глава делегации России в Комиссии ООН по правам человека в Женеве. В 1991 - сопредседатель советской делегации на московском совещании конференции по человеческому измерению СБСЕ.
С февраля 1993 - член Президентского Совета.
Осенью 1993 стал членом созданной Ельциным рабочей группы по рассмотрению проекта Конституции РФ, одобренного Конституционным совещанием, и подготовке предложений по выработке единого согласованного проекта Конституции РФ.
С августа 1993 - член Комиссии РФ по делам ЮНЕСКО.
Был одним из 58 народных депутатов, подписавших запрос в Конституционный суд РФ о проверке конституционности поправок к Конституции, ограничивающих права Президента, которые были приняты на VII Съезде народных депутатов в декабре 1992 и введены в действие на VIII Съезде в марте 1993.
С ноября 1993 по январь 1996 - председатель Комиссии по правам человека при Президенте РФ.
12 декабря 1993 был избран депутатом Государственной Думы РФ первого созыва. Был избран уполномоченным по правам человека до марта 1995.
В 1995 в числе нескольких депутатов был добровольным заложником в отряде Шамиля Басаева во время теракта последнего в г. Буденновске.
17 декабря 1995 был избран в новый состав Государственной Думы.
19 декабря 1999 был избран депутатом Государственной Думы РФ третьего созыва.
Член фракции "Союз правых сил" (СПС).
Автор более 70 научных публикаций по биологии.
Состоит во втором браке. Жена - Людмила Юрьевна Бойцова. Сын (от первой жены Елены) Иван
Ковалев и его жена Татьяна Осипова - известные правозащитники, бывшие политзаключенные, ныне живут в США. Дочери Мария и Варвара также живут в США.
