В Call of Duty: Black Ops II игрок управляет Дэвидом Мейсоном — героем шутера от первого лица с трёхмерным окружением. Действие начинается вскоре после событий первой игры, но мир и игровой процесс заметно изменились. До каждой миссии можно подобрать оружие, его модификации и перк. Выбор «инструментов» приводит к тому, что в разных случайных местах уровня появляются бронежилеты, улучшения для оружия либо дополнительные пушки с боеприпасами. При этом на старте миссии разрешено взять только два вида оружия: ими предстоит пользоваться следующие 20–30 минут. Обычное прохождение занимает 10–15 часов.

Дэвид преследует неизвестных убийц отца, желая отомстить. Он подозревает, что к преступлению причастен глава крупнейшей в мире террористической группировки, однако это не мешает ему выполнять задачу своего подразделения «морские котики» — ликвидировать Cordis Die. История открывается допросом Вудса, бандита из первой части. По его словам, после нескольких заданий Call of Duty: Black Ops захватили большую часть «морских котиков», и теперь нельзя допустить, чтобы они выдали сведения.

Чтобы выручить друзей и сослуживцев, Дэвид отправляется в Анголу. Действие переносится в 2025 год; временами игрок также выступает в роли Алекса, отца Дэвида. Алекс раскрывает подробности, которые помогают герою восстановить воспоминания. В многопользовательской игре, как утверждали разработчики, изменилась динамика: переработки затронули физику, соединение с сервером и загрузку карты, а также соотношение сил между новичками низкого звания и опытными игроками.