В свойствах сервера в разделе Memory установите только одно значение — Maximum server memory (in MB).
Вычисляется значение просто: берём всю оперативку сервера, оставляем 6 ГБ системе, остальное отдаём SQL серверу. Помним, что в одном гигабайте 1024 мегабайт.
Есть тонкость, если tempdb перенесли в RAM, то эту память тоже не трогаем. Кстати, это тоже одна из причин необходимости ограничить оперативку.
MSSQL - переносим tempdb на RAM диск
