Із перших днів правління Іван ІІІ наразився на серйозні труднощі: його володіння були в оточенні ворогів (Орда, Литва, Твер, Рязань і Новгород), та й всередині країни ще були могутні сили, які заперечували його владу. Але молодий князь твердо продовжив політику, започатковану його попередниками. Спершу він повів боротьбу за приєднання Новгорода, де точилася гостра боротьба між прихильниками Литви і Москви. Щоби прискорити вирішення питання на свою користь, 1471 р. Іван ІІІ рушив на Новгород. На р. Шелоні відбулася битва, в якій новгородці зазнали поразки. Новгород потрапив у залежність від Москви. У 1478 р. московське військо вступило в місто, а у 1492 р. новгородський вічовий дзвін — символ незалежності міста було знято і відвезено до Москви.
Відтоді всі новгородські землі остаточно увійшли до складу Московської держави. Із приєднанням Новгорода землі головного суперника Москви — Твері — опинилися в оточенні, й у 1485 р. тверичі визнали владу Івана ІІІ. Того ж року Іван ІІІ оголосив себе “государем всея Русі”, в офіційних документах почала з’являтися назва “Росія”. До того ж його одруження з візантійською принцесою Зоєю (після хрещення — Софією) Палеолог дозволило Москві претендувати на роль центру православ’я після загибелі Візантійської імперії. З’явилася сумнівна теорія, що Москва — це третій Рим. Для підтвердження своїх претензій Москва запозичила державний герб Візантії — двоголового орла.