Родился в д. Жуковка Орловской губернии (сейчас территория Брянской области) 1 (13) марта 1891г. Окончил японско-китайский разряд факультета восточных языков Петербургского университета (1912) и японское отделение ПВА (Практической восточной академии). Преподавал в Киевском коммерческом институте (1912— 1914). Стажировался в Японии (1914—1917), изучал в Токийском университете японский и китайский язык, культуру и классическую литературу Японии. По возвращении на родину вместе с Е. Д. Поливановым некоторое время работал в Наркоминделе РСФСР (перевёл, в частности, на японский язык «Обращение к народам Востока» и «Обращение к трудящимся и угнетенным всего мира»), был тесно связан с Китайским Советом рабочих депутатов в Петрограде.
В 1919—1922 преподавал в Орловском университете, был его ректором. С 1922 преподаватель, с 1926 профессор Ленинградского института живых восточных языков (до 1938). Одновременно преподавал в Географическом институте ЛГУ. С 1931 научный сотрудник Института востоковедения АН СССР, возглавил там работу по изучению японских исторических документов эпохи Мэйдзи, а также занимался вместе с Н. А. Невским составлением японско-русского словаря. В 1934 избран членом-корреспондентом АН СССР. Профессор Московского института востоковедения (1941—1950), МГУ. Действительный член АН СССР (с 1958). Широкую известность получила книга «Запад и Восток» (1966), прослеживающая культурно- исторические параллели и способы разного выражения одних и тех же идей в культурах Запада и Востока.
В 1970 году издал «Большой японо – русский словарь», который был отмечен Государственной премией в области науки. Н.И. Конрад был дважды награжден орденом Ленина (1945, 1954), орденом Трудового Красного Знамени (1944, 1961), другими орденами и медалями. Умер 30 сентября 1970 г. в Москве.