Общий вопрос проектирования системы: существует приложение, которое запрашивает БД с помощью lat, long для адреса и выполняет вызов API для форматирования адреса. В настоящее время эти запросы обрабатываются со скоростью 1 запрос в секунду, как вы масштабируете наше приложение до 1000 запросов в секунду.
как вы масштабируете систему с 1 запроса в секунду до тысяч запросов в секунду
28.01.2021
Ответы:
1
Вам нужно сделать вашу систему распределенной. Вы встраиваете свое приложение в микросервис, а затем масштабируете его по горизонтали, чтобы достичь необходимого уровня трафика. Более конкретно:
- Приложение будет иметь ограниченное количество запросов, которые оно может обработать (скажем, 100 запросов в секунду), поэтому вам нужно добавить 10 реплик вашего приложения, чтобы обработать 1000 запросов в секунду.
- Вам также нужен балансировщик нагрузки перед вашим приложением, чтобы равномерно распределять нагрузку между репликами.
- Once you scale up even more, the DB will become a bottleneck, so you might need to think about optimizations in that area, for example:
- Design the DB on a NoSQL model, because the flat model of lat/long data maps really well on a NoSQL storage format, which comes with a lot of advantages in terms of scalability and distributivity.
- Кроме того, API, который вы используете для форматирования адреса, также станет узким местом после масштабирования приложения, поэтому, если это третья сторона, вам необходимо проверить ограничения пропускной способности и учитывать их во время масштабирования или, если это находится под вашим контролем, вы можете выполнить аналогичную процедуру, чтобы увеличить его.
28.01.2021
Новые материалы
Кластеризация: более глубокий взгляд
Кластеризация — это метод обучения без учителя, в котором мы пытаемся найти группы в наборе данных на основе некоторых известных или неизвестных свойств, которые могут существовать. Независимо от..
Как написать эффективное резюме
Предложения по дизайну и макету, чтобы представить себя профессионально
Вам не позвонили на собеседование после того, как вы несколько раз подали заявку на работу своей мечты? У вас может..
Частный метод Python: улучшение инкапсуляции и безопасности
Введение
Python — универсальный и мощный язык программирования, известный своей простотой и удобством использования. Одной из ключевых особенностей, отличающих Python от других языков, является..
Как я автоматизирую тестирование с помощью Jest
Шутка для победы, когда дело касается автоматизации тестирования
Одной очень важной частью разработки программного обеспечения является автоматизация тестирования, поскольку она создает..
Работа с векторными символическими архитектурами, часть 4 (искусственный интеллект)
Hyperseed: неконтролируемое обучение с векторными символическими архитектурами (arXiv)
Автор: Евгений Осипов , Сачин Кахавала , Диланта Хапутантри , Тимал Кемпития , Дасвин Де Сильва ,..
Понимание расстояния Вассерштейна: мощная метрика в машинном обучении
В обширной области машинного обучения часто возникает необходимость сравнивать и измерять различия между распределениями вероятностей. Традиционные метрики расстояния, такие как евклидово..
Обеспечение масштабируемости LLM: облачный анализ с помощью AWS Fargate и Copilot
В динамичной области искусственного интеллекта все большее распространение получают модели больших языков (LLM). Они жизненно важны для различных приложений, таких как интеллектуальные..