Cache
Проблема
Базы данных часто выигрывают от равномерного распределения операций чтения и записи по разделам. Популярные элементы могут искажать распределение, вызывая узкие места.
Решение
Размещение кэша перед базой данных может помочь поглотить неравномерную нагрузку и всплески трафика. Кеширование может производиться в разных частях системы. Давайте рассмотрим каждый их них:
- Client caching - при использовании кэширования на стороне клиента приложение будет хранить ответы на популярные запросы непосредственно в памяти приложения (ОС/браузера/другого приложения), чтобы впоследствии можно было повторно использовать такие ответы, без повторного обращения к источнику данных.
- CDN caching - об этом шаблоне мы уже рассказывали Static Content Hosting. Статический контент кешируется ближе к потребителю.
- Web server caching - обратные прокси и кэши, такие как Varnish, могут напрямую обслуживать статический и динамический контент. Веб-серверы также могут кэшировать запросы, возвращая ответы без обращения к серверам приложений.
- Database caching - как правило базы данных включает некоторый уровень кэширования в конфигурации по умолчанию, оптимизированной для общего варианта использования. Настройка этих параметров для конкретных моделей использования может еще больше повысить производительность.
- Application caching - кэши в памяти, такие как Memcached и Redis, представляют собой хранилища «ключ-значение» между вашим приложением и хранилищем данных. Поскольку данные хранятся в оперативной памяти, это происходит намного быстрее, чем в обычных базах данных, где данные хранятся на диске
Поскольку вы можете хранить в кеше только ограниченный объем данных, вам необходимо определить, какая стратегия обновления кеша лучше всего подходит для вашего варианта использования.
Cache-aside
Многие коммерческие системы кэширования обеспечивают операции чтения и сквозной/отложенной записи (если же этой функции нет, её можно реализовать на стороне приложения). В этих системах приложение извлекает данные, ссылаясь на кэш. Если данных нет в кэше, они извлекаются из хранилища данных и добавляются в кэш. Любые изменения данных, хранящихся в кэше, также автоматически записываются обратно в хранилище данных:
- Приложение не находит запись в кэше
- Загружает запись из базы данных
- Добавляет запись в кэш
- Возвращает запись
Недостатки:
- О строгой консистентности не может быть и речи
- Каждый промах кэша приводит к трем обращениям, что может вызвать заметную задержку.
- Данные могут устареть, если они обновляются напрямую в базе данных. Эта проблема устраняется за счет установки времени жизни (TTL), которое принудительно обновляет запись в кэше, или с помощью сквозной записи.
- Когда узел выходит из строя, он заменяется новым пустым узлом, что увеличивает задержку.
Write-through
Приложение использует кэш как основное хранилище данных, читая и записывая в него, при этом кеш отвечает за чтение и запись в базу данных:
Приложение добавляет/обновляет запись в кеше
Кэш синхронно записывает запись в хранилище данных
Недостатки:
- Когда новый узел создается из-за сбоя или масштабирования, новый узел не будет кэшировать записи, пока запись не будет обновлена в базе данных. Кэширование в сочетании со сквозной записью может смягчить эту проблему.
- Большинство записанных данных могут никогда не быть прочитаны, что можно минимизировать с помощью TTL.
Write-behind (write-back)
Cache-Aside и Write through подают нагрузку на запись в БД синхронно, что может привести к перегрузки БД.
При Write-behind приложение выполняет следующие действия:
- Добавить/обновить запись в кеше
- Асинхронно записывайте запись в хранилище данных, повышая производительность записи.
Недостатки:
- Возможна потеря данных, если кеш выйдет из строя до того, как его содержимое попадет в хранилище данных.
- Реализовать отложенную запись сложнее, чем кэширование или сквозную запись.
Refresh-ahead
Сквозное чтение как в Write through, Cache-Aside, Write behind может привести к дополнительным задержкам доступа к удаленным из кэша данным.
Упреждающее обновление может уменьшить задержки по сравнению со сквозным чтением, если кэш может точно предсказать, какие элементы могут понадобиться в будущем.
Этот шаблон сильно пересекается с шаблоном распределенного доступа Replicated Caching.
Недостатки:
- Неточное прогнозирование того, какие элементы могут понадобиться в будущем, может привести к снижению производительности по сравнению с отсутствием упреждающего обновления.



