Действительный статский советник (с 6.05.1906), камергер (с 6.12.1904). Из старинного молдавского дворянского рода. Сын статского советника, камер-юнкера Николая Матвеевича Крупенского (1822-1893), бывшего в 1866-1869 Бессарабским губернским предводителем дворянства, от брака с Надеждой Ивановной Гинц. Окончил в 1886 Каменец-Подольскую мужскую гимназию, в 1889 - Императорский Александровский лицей с малой золотой медалью и чином IX класса. На службе в ведомстве МИД с 5.06.1889, 19.05.1889 произведён в коллежские секретари, c 1.02.1892 состоял при канцелярии министерства сверх штата. 5.06.1892 произведён в коллежские асессоры. С 1.06.1893 помощник секретаря, с 28.03.1897 2-й секретарь посольства в Турции. В мае 1896 сопровождал посла А.И. Нелидова в Москву на коронацию имп. Николая II. 5.06.1896 произведён в надворные советники. С 17.09.1898 1-й секретарь миссии в Китае, 5.06.1900 произведён в коллежские советники. В июне-июле 1900 участвовал в обороне миссии во время Ихэтуаньского восстания, отвечая за координацию действий с другими диппредставительствами, прежде всего с британским, французским и германским. С 28.08.1902 1-й секретарь посольства в Германии, 17.11.1904 произведён в статские советники, с мая 1906 советник посольства в США (в 1908 временный поверенный в делах России в США). В начале августа 1909 направил старшему советнику МИД К.Э. Аргиропуло записку о российской эмиграции на Гавайские острова. С 1911 советник посольства в Австро-Венгрии.
С 27.12.1911 посланник в Китае, прибыл в Пекин 22.04.1912. По воспоминаниям секретаря миссии в Пекине Д.И. Абрикосова, «пока он был посланником нашей миссии, всё было великолепно, а наши приёмы вызывали зависть в европейских столицах. Он был по настоящему порядочный человек. Возможно, новый посланник не проявлял столь блестящей, часто неуместной инициативы, как его предшественник, но когда он получал инструкции из Министерства иностранных дел, то принимался за дело с такой энергией и рвением, что, как правило, достигал результатов, несмотря на трудности». После Синьхайской революции 1911-1912 вначале высказывался против признания правительства временного президента Юань Шикая. В письме на имя министра С.Д. Сазонова отмечал, что «в Китае нет необходимой для такого огромного государства центральной власти, обладающей достаточной силой и авторитетом, чтобы внушить уважение и страх всем неспокойным и недовольным элементам в стране». В дальнейшем добивался от китайских властей пролонгации С.-Петербургского договора 1881 в части положений, касающихся торговли между двумя странами. В ответ на необоснованное задержание в городе Калган 12 российских путешественников, документы которых были в порядке, Крупенский обратился в МИД с просьбой принять ответные меры и отказать в убежище 20 тысячам китайцев, проживавших на сибирском берегу Амура. 14.11.1913 Крупенский вручил Юань Шикаю новую верительную грамоту. 12.12.1913 сообщил дипломатическому корпусу в Пекине о решении России вывести свои войска из Северного Китая и призвал другие державы сделать то же самое. Вывод российских войск начался в марте 1914. 25.05.1915 подписал со стороны России Кяхтинское тройное соглашение с Китаем и Монголией, которое с одной стороны подтверждало протекторат Китая над Монголией, а с другой - предоставляло права решать внутренние дела Монголии её автономному правительству. В ноябре 1915 подписал с министром иностранных дел Китая Сунь Баоци соглашение об области Барга (Хулунбуирском округе), которая объявлялась особой областью, непосредственно подчинённой Пекину.
Крупенский был сторонником вовлечения Китая в Первую мировую войну на стороне Антанты: в секретной телеграмме от 25.10.1915 сообщал, что, по его наблюдениям, имеется возможность убедить китайское правительство объявить войну Германии и Австро-Венгрии, хотя на этом пути встретятся немалые трудности, исходящие прежде всего от Японии. Посланник отмечал, что многие китайские деятели склоняются к такому шагу, но не решаются действовать, не будучи уверены, что подобного рода инициатива встретит со стороны российского правительства сочувственный приём. По мнению Крупенского, объявление Китаем войны странам Тройственного союза положило бы конец любым германским интригам в Восточной Азии и нанесло бы смертельный удар по торговле Германии на Дальнем Востоке. Кроме того, союзники, в первую очередь Россия, получили бы возможность широко пользоваться услугами китайских арсеналов и оружейных заводов. Интенсивность переговоров по этому вопросу то возрастала, то ослабевала, но на протяжении 1916 они так и не увенчались успехом.
С 28.02.1916 посол в Японии (верительные грамоты представил 23.05.1916). 20.06.1916 в Петрограде С.Д. Сазонов и посол Японии в России И. Мотоно подписали русско-японский договор о взаимопомощи в борьбе против третьей силы, обязуясь не участвовать ни в каких альянсах, направленных против друг друга (по секретному протоколу сами заключили военно-полоитический альянс для защиты своих интересов в Восточной Азии, предусматривающий при необходимости совместное ведение войны с третьей державой). Крупенский принимал участие в праздниествах в Японии по поводу заключения этого договора. Однако он был убеждён в нежелательности появления японских рабочих на предприятиях русского Далнего Востока и Маньчжурии. При Временном правительстве Крупенский остался на своём посту, будучи лояльным к новым властям (в письме начальнику Дальневосточного отдела МИД Г.А. Козакову отмечал: «Вы сами знаете, насколько я возмущался тем, что у нас тогда происходило, и как поэтому неосновательно было бы утверждать, что я сочувствовал старому режиму»). Заверил японское правительство, что Россия будет продолжать войну и при новом режиме. За службу был награждён российскими орденами Св. Станислава 3-й степ. (16.03.1893), Св. Анны 3-й степ. (1895), Св. Станислава 2-й степ. (5.04.1898), Св. Владимира 4-й степ. с мечами (2.12.1900, за оборону миссии в Пекине во время Ихэтуаньского восстания), Св. Владимира 3-й степ. (1910), Св. Станислава 1-й степ. (1913), медалями «В память царствования имп. Александра III», «В память 300-летия царствования дома Романовых», медалью Красного Креста «В память русско-японской войны», а также иностранными орденами: Меджидие 3-й степ. (Османская империя, 10.11.1897), Св. Саввы 3-й степ. (Сербия, 3.12.1897), «За гражданские заслуги» 3-й степ. (Болгария, 6.10.1898), Меджидие 2-й степ. (Османская империя, 29.09.1899), Почётного легиона офицерским крестом (Франция, 16.08.1901), Короны командорским крестом (Италия, 27.02.1902), Короны 3-й степ. с мечами (Пруссия, 27.02.1902), Леопольда I офицерским крестом (Бельгия, 27.02.1902), Священного Сокровища 3-й степ. (Япония, 27.02.1902), Двойного Дракона 2-й степ. 1 класса (Китай, 13.08.1902), Красного орла 3-й степ. (Пруссия, 21.12.1903), Короны 2-й степ. (Пруссия, 1906), Франца-Иосифа 1-й степ. (Австро-Венгрия, 1912), Тучного колоса 1-й степ. (Китай, 1914). Владел имениями, приобретёнными его родителями в Бессарабской и Подольской губерниях.
26.11.1917 приказом наркоминдел Л.Д. Троцкого был уволен, однако оставался на своём посту в качестве «посла без правительства», так как большевистское правительство не был признано Японией. Был дуайеном дипломатического корпуса в Токио и, по словам Абрикосова, «с его удивительынм тактом и большим здравым смыслом, пользовался уважением и японского правительства, и всех иностранных представителей». В годы Гражданской войны поддерживал антибольшевистские силы на Дальнем Востоке и в Сибири. Во время нахождения адмирала А.В. Колчака в Японии в 1918 Крупенский старался улучшить отношения между ним и японскими военными, пригласив его на встречу с военным министром генералом Танака. 20.09.1921 Крупенский телеграфировал главе российского дипломатического корпуса М.Н. Гирсу: «Японское правительство предупредило меня, что в ближайшем будущем оно перестанет признавать меня послом здесь. Ввиду этого я выезжаю отсюда в конце ноября в Марсель, передав Абрикосову управление посольством, состав коего будет сокращён и которое будет именоваться японцами "бывшим русским посольством"». Этот шаг японского правительства, по мнению Крупенского, объяснялся переговорами в Дайрене с представителями Дальневосточной Республики. Дипломат уехал в Рим к своему брату А.Н. Крупенскому. В 1931 переехал во Францию к другим братьям Александру и Павлу. По некотоырм данным, последние годы жизни провёл в доме престарелых, находившемся под патронатом Старинной Организации Русского Красного Креста. Скончался в Ницце, похоронен на русском Николаевском кладбище в районе Кокад.
