Действительный тайный советник (с 1727). Сын канцлера Гавриила Ивановича Головкина (1660-1734) от брака с Домной Андреевной Дивовой (?-1727), брат М.Г. Головкина и И.Г. Головкина. 19.11.1700 сопровождал отца в битве при Нарве. В 1704 с братом Иваном был отправлен под надзором П.В. Курбатова для обучения за границу. Пробыв около двух лет в Лейпциге и Берлине, братья в 1707 посетили Париж и вернулись в Россию через Голландию, Вену, Венгрию и Валахию. В 1708 определён комнатным при царском дворе и часто по приказанию царя Петра I ездил с депешами к русским послам и генералам. Кроме того, отвечал за переписку с русскими послами в Европе и переводил на русский язык научные издания. В 1709 сопровождал Петра при встречах с королями Польши Августом II и Пруссии Фридрихом I. В 1710 был назначен состоять вместе с князем Ю.Ю. Трубецким при цесаревиче Алексее Петровиче. В ноябре 1710 командирован в Брауншвейг с предварительными предложениями о браке Алексея Петровича с принцессой Шарлоттой Христиной Софией Брауншвейг-Вольфенбюттельской (брак заключён в 1711 в Торгау, Головкин присутствовал на церемонии).
С 28.02.1711 до 30.04.1722 и с 22.07.1723 до 1727 - русский посланник в Берлине, где осуществлял политику Петра I по вовлечению Пруссии в Северный Союз. Это ему не удалось, однако Головкин способствовал сохранению дружественного нейтралитета Пруссии в ходе Северной войны 1700–1721 (в частности, в 1715 под Штральзундом подписал русско-прусский договор о скорейшем изгнании общими силами шведов из Германии) и быстрому признанию королём Фридрихом Вильгельмом I имп. титула Петра I. В 1714 ездил из Берлина в Дрезден с выговором Августу II от Петра I за роспуск тем саксонских войск. Не отличался большой проницательностью. В связи с этим в критические месяцы 1719, когда выяснилась опасность отхода Пруссии от союза с Россией, в Берлин был послан более решительный дипломат П.А. Толстой.
С 1723 сенатор. Представлял Россию в звании полномочного министра на конгрессах в Камбре (1727) и Суассоне (1728–1731), где его задачами было признание за Россией статуса империи, а также возвращение Шлезвига герцогу Гольштейнскому. Успеха на конгрессе не имел. С 1728 возглавил миссию в Париже (посланник в 1729-1731).
В 1731-1759 чрезвычайный и полномочный посол в Голландии (назначение получил при содействии брата Михаила, пользовавшегося доверием имп. Анны Ивановны). При переходе власти к Анне Леопольдовне в 1740 награждён орденами Св. Александра Невского и Св. Андрея Первозванного. Когда в 1741 после воцарения Елизаветы Петровны Михаил попал в опалу, Иван сохранил за собой пост и награды, на его положение не повлияло даже дело Лопухиных (1743), к которому оказалась причастной его сестра Анна. В 1748 был назначен на Аахенский конгресс, но участники конгресса не допустили на него представителей России. 9.10. и 22.11.1758 Головкину были направлены письма с предписанием под опасением императорского гнева добиваться отзыва из России голландского посланника Сварта «за злостные онаго намерения и всякого рода непозволенные поиски». 31.01.1759 Головкину была послана отзывная грамота. 14.05. и 8.06.1759 ему снова было приказано «употребить старание» к отзыву Сварта. 15.06.1759 Головкину было послано 3000 рублей на возвращение в Россию, однако вернуться в Россию он отказался. 7.11.1760 требование вернуться ему было повторено, однако через несколько дней Головкин умер в Гааге.
Был женат (с 1715) на графине Екатерине Дона (первый брачный союз между русской и западноевропейской аристократией). У супругов родилось 25 детей, большей частью умерших в младенчестве; среди них Мария (1718-1797), замужем за Ф.П. фон Камеке; Иван (1723-1791); Наталья (1728-1778), замужем за Б. фон Шметтау; Пётр (1729-1787); Гавриил (Габриэль-Мари-Эрнест) (1731-1800), генерал-лейтенант голландской службы, отец Ф.Г. Головкина; Александр (1732-1781), отец Ю.А. Головкина.
