Тайный советник (с 13.06.1903). Потомок старинной династии известных селенгинских
служивых-толмачей. Дед Шишмарёва - монгол, был женат на русской казачке. Сын переводчика при кяхтинском пограничном комиссаре Парфения Яковлевича Шишмарёва (1806-?) от брака с крестьянкой Акулиной Ивановной (предположительно Хороших) (1812-1888). Родился в Троицкосавске (Забайкальская область). Окончил Троицкосавскую войсковую русско-монгольскую школу (1849). В службе с 26.05.1849. В 1855 поступил на службу в канцелярию кяхтинского градоначальника, продолжал обучаться в училище китайскому языку. В 1856 удостоен Высочайшего благоволения. С 1855 служил у генерал-губернатора Восточной Сибири Н.Н. Муравьева-Амурского, принимал участие в Амурских экспедициях, в переговорах при заключении Айгунского договора 1858, за успешное завершение переговоров удостоен ордена Св. Анны 3-й степ. Состоял переводчиком в пограничной комиссии при полковнике К.Ф. Будогосском, участвовал в составлении карты от верховьев Уссури до моря, за эту работу удостоен ордена Св. Владимира 4-й степ. В июле—августе 1859 - в Пекине на предварительных переговорах с китайцами. В 1860 послан в Пекин, участвовал в заключении Пекинского договора. В 1861 назначен секретарём и переводчиком консула К.Н. Боборыкина в Урге. В связи с длительным отсутствием консула Шишмарёв с 1861 был управляющим консульством. С 1864 и.о. консула, с 1865 консул, с 1882 генеральный консул в Урге. 25.12.1882 произведён в действительные статские советники. 20.06.1903 уволен в отставку, но 20.12 того же года снова определён на службу по ведомству МИД. в 1907-1911 снова управляющий консульством.
Шишмарёв хорошо знал Монголию, понимал её народ, умел ладить с маньчжурскими чиновниками и монгольскими ханами. Способствовал развитию русско-монгольской торговли. Благодаря его заботам русско-монгольская торговля выросла с 218 168 рублей в 1861 до 1 642 468 рублей в 1885. Русские путешественники Г.Н. Потанин и П.К. Козлов считали, что «главная заслуга Я.П. Шишмарёва перед Россией заключается в его служении интересам русской торговли в Монголии, оберегать которые ему суждено было в точение столь многих лет». По поручению Сибирского отделения Российского географического общества Шишмарёв участвовал в составлении одной из первых карт Восточной Монголии, занимался историей, переводами книг с санскрита и тибетского языка на монгольский, сбором этнографических коллекций, публикацией научных статей в отчётах СО РГО. В 1864 создал в Урге школу переводчиков. В 1878 участвовал в работах по пограничному размежеванию в Кульдже.
Значимость Шишмарёва для российско-монгольских отношений была настолько высока, что правительство продлевало срок его пребывания в должности генерального консула в Урге, пока он не достиг весьма преклонного возраста. Даже после выхода на пенсию и возвращения в С.-Петербург, где ему была установлена пожизненная пенсия 500 рублей в год, Шишмарёв старался участвовать в решении «монгольского вопроса», давая консультации коллегам в Монголии и в МИДе. Во время визита членов монгольского правительства в С.-Петербург в январе 1912 он был прикомандирован к этой чрезвычайной депутации, помогая вести переговоры. Для местных правителей и населения фигура консула стала символом мощи и дружественности державы «Белого царя», а для новых поколений дипломатов в Монголии — образцом профессионализма, глубокого знания страны, честности, беспристрастности и преданности делу.
Имение - родовой деревянный дом в Троицкосавске. Награждён российскими орденами, включая Св. Станислава 2-й степ. (1872), Св. Анны 2-й степ. (1875), Св. Владимира 3-й степ. (1880), Св. Станислава 1-й степ. (24.04.1888) включительно, медалью на Андреевской ленте «В память войны 1853—1856 гг.», медалями в память царствования имп. Николая I и Александра III, знаком Красного Креста, а также иностранными орденами: китайским Двойного Дракона 2 степ. 3-го (28.03.1899) и 1-го (2.01.1903) разрядов, Франца-Иосифа большого креста (Австро-Венгрия, 6.09.1900), имел также знак «Officier de l’Instuction Publique de France» (Франция, 12.02.1898).
С.В. Чиркин вспоминал: «Я помню Шишмарёва во время его пребывания в Петербурге уже древним, но очень бодрым маленьким старичком, бегавшим по министерским кулуарам и лестницам с быстротою и лёгкостью, которым мог бы позавидовать любой молодой».
От брака с уроженкой Кяхты Марией Николаевной Кашиной имел детей: Анатолия Яковлевича (1867—?); Владимира Яковлевича (1868—1904); Сергея Яковлевича [1871—1941(?)], возможно, погибшего во время блокады Ленинграда; Нину Яковлевну (1873—?); Евгению Яковлевну (1876—?); Марию Яковлевну (1881—?); Всеволода Яковлевича (1883—?).
