Файл подкачки используется еще и для видео памяти и такая ошибка возникает при ее нехватке.
У меня так было в shadow of mordor с ультра текстурами на карте с 4гб при требованиях 6гб видеопамяти. Уже на загрузке вылетала ошибка "недостаточно памяти". При включении файла подкачки ошибка пропала, но остались периодические подвисания при загрузке текстур из файла. И да, игра потребляла всего 3гб оперативки из 8 доступных.
В общем, стоит просто снизить качество текстур или сглаживание при подобной ошибке.