Тайный советник. Родился в Вюртемберге (по одним данным, в Кирххайм-унтер-Текке, по другим - в Штутгарте) в недворянской семье. Отец - капитан австрийской службы. В 1734 окончил университет в Тюбингене как магистр богословия. В штат Государственной коллегии иностранных дел зачислен в октябре 1736 по просьбе российского посланника в Англии А.Д. Кантемира, который обучался у старшего брата Гросса профессора нравоучительной философии Христиана Фридриха. Под руководством Кантемира Гросс работал в Лондоне, а с 1738 – в Париже «под званием иноземца, употребляемаго при министерской канцелярии». В начале 1741 Гросс был назначен секретарём миссии в Париже. Перевёл на немецкий язык опровержения Кантемира на «Московитские письма» Франческо Локателли, которые вышли в 1738 во Франкфурте под названием «Так называемые Московитские письма, или Клевета и тысяча авантюрных наветов, возведенных на славную русскую нацию итальянцем, пришельцем из другого мира». С 1744 – советник канцелярии и временный поверенный в делах, в 1745-1748 – полномочный министр во Франции. Перед отзывом из Парижа в беседе с венецианским послом во Франции Морозини предлагал Венеции отправить в Россию своего полномочного представителя.
В 1748 назначен посланником в Пруссии. В марте 1749 сообщал в Коллегию иностранных дел о военной подготовке Пруссии к завоеванию шведской Померании (по Ништадтскому миру 1721 Россия выступала гарантом охраны установившейся в Швеции конституционной монархии и недопущения вмешательства во внутренние дела Швеции других государств). В рескрипте от 7.04.1749 Гроссу говорилось о необходимости подданным России, которые находились на службе в Пруссии, вернуться в Россию. Местные власти запретили публиковать эту информацию в немецких изданиях, поэтому Гросс лично уведомил русских офицеров об указе. Эти действия вызвали протест Берлина. Первый кабинетный министр Пруссии 15.05.1750 передал Гроссу декларацию, в которой содержались угрозы в адрес России и требования «прекратить дело, последствия которого, по мнению шведов, могут погрузить север в страшные смуты». Ответный рескрипт от 19.06.1750 предписывал Гроссу заявить от себя лично, что «соблюдение тишины в севере единственно от Швеции самой зависит, ибо сколь долго оное нынешнее своей формы правительства не нарушит, то до того времени мы весьма удалены находимся что-либо против ея предпринять». Гросс сообщил об этом аккредитованному в Берлине дипломатическому корпусу. Однако вследствие неуважительного отношения к Гроссу со стороны прусского короля Фридриха II в присутствии представителей других государств вынудил КИД принять решение об отзыве посланника. В рескрипте от 25.10.1750 Гроссу предписывалось, не уведомляя официальные власти о причинах отъезда и возможностях назначения своего преемника, покинуть Пруссию. 21.11.1750 Гросс покинул Берлин без отпускной аудиенции, доложив в МИД, что забрал с собой находившихся с ним канцелярских служителей и особо важный архив.
В 1752-1758 посланник при дворе короля польского и курфюрста саксонского. 1.02.1761 назначен посланником в Голландию с жалованием 8000 рублей. 2.08 Гросс приехал в Гаагу, однако уже в октябре на его место был назначен А.Р. Воронцов, а 28.12.1761 Гроссу была послана отзывная грамота, а сам он был назначен полномочным министром в Великобританию, но оставлялся в Гааге исправлять дела до приезда Воронцова. Однако в итоге в Лондон был направлен Воронцов, а 22.01.1762 Гроссу было указано оставаться в Гааге. Указ настиг Гросса на пути из Гааги в Лондон, куда он выехал 17.02.1762, после чего посланник вернулся в Голландию и 21.03.1762 снова был аккредитован при правительстве Генеральных штатов. 9.12.1763 Екатерина II подписала рескрипт о назначении Гросса полномочным министром при лондонском дворе (верительные грамоты были вручены в феврале 1764). Гросс оставался на этом посту вплоть до своей кончины.
Гросс считался человеком канцлера А.П. Бестужева-Рюмина, но никогда не вёл никаких интриг и с Бестужевым-Рюминым состоял лишь в деловой переписке. Когда в 1758 канцлер был свергнут со своего поста и отправлен в тюрьму, допрошенный Гросс (отозванный тогда в Россию) не дал против него никаких показаний. Ни в одной стране, где служил дипломатом Гросс, к нему не было никаких претензий от иностранных правительств по поводу каких-либо его неосторожных действий или недипломатичного поведения.
В своих записках о деятелях XVIII в., написанных со слов отца С.Р. Воронцова, М.С. Воронцов так характеризует Гросса: «Человек исключительно многих достоинств и ума. Кантемир в своих миссиях нуждался в личном секретаре, ему направили Гросса из немецкого университета. Кантемир, видя его положительные качества, неустанно занимался им и сам обучил его русскому языку. Он его принял на службу, и когда он умер в Париже, Гросс, будучи тогда единственным на службе, составил депешу на русском языке, как о смерти министра, так и о конференции, которая у него была в то же время с кардиналом Флери. Он поразил всех стилем и содержанием…»
Женат не был, в Берлине имел любовницу, вместе с которой покинул Пруссию.
