Nano Hash - криптовалюты, майнинг, программирование

Как ускорить агрегированный запрос Cosmos DB?

Наш агрегированный запрос cosmos db кажется медленным и стоит много RU. Вот подробности (плюс см. Снимок экрана ниже): 2.4s и 3222RU для подсчета результирующего набора из 414k записей. И это только для одного счета. Обычно мы хотели бы произвести суммирование сразу по нескольким полям (возможно только в пределах одного раздела), но производительность для этого намного хуже.

запрос космоса БД

В этой коллекции 2 миллиона записей. Мы используем Cosmos DB с SQL API. Эта конкретная коллекция разделена по country_code, и есть 414 732 записи во Франции («FR»), а остальные в США. Размер документа составляет в среднем 917 байт, возможно, минимум 800 байт, максимум 1300 байт.

Обратите внимание, что мы также пробовали гораздо более разреженный ключ разделения, такой как device_id (из которых здесь 2 миллиона, 1 документ на устройство), который дает худшие результаты для этого запроса. Поле c.calcuated.flag1 просто представляет «состояние», которое мы хотим вести подсчет (на самом деле у нас есть 8 состояний, по которым я хотел бы резюмировать).

Индексирование в этой коллекции - это значение по умолчанию, при котором используется «согласованный» режим индекса и индексируются все поля (включая индексы диапазона для Number и String). Параметр RU установлен на 20 000, и другие операции с БД отсутствуют.

Так что дайте мне знать, что вы думаете по этому поводу. Можно ли разумно использовать Cosmos DB, чтобы получить несколько сумм или подсчетов по полям, не увеличивая наши расходы на RU и не занимая много времени? Хотя 2,4 секунды - это не так уж и плохо, нам действительно нужны запросы менее секунды для такого рода вещей. Нашему приложению (основанному на IoT) часто требуются отдельные документы, но иногда также требуются такие подсчеты по всем документам в стране.

Есть ли способ повысить производительность?


  • Единый индекс для всех полей не был бы полезен, если вы не выполняете фильтрацию в том порядке, в котором поля перечислены в индексе. Если предположить, что оба ваших поля здесь фактически являются частью записи, это будет означать, что вам понадобится индекс для (country_code, calculated.flag1). Судя по названию, я предполагаю, что calculated.flag1 является вычисленным значением и не хранится в таблице. Как это вычисляется? Запись вычисления в вашем запросе может позволить ему использовать индексы. 07.05.2019

Ответы:


1

Команда Cosmos DB внесла некоторые существенные изменения в производительность агрегирования и способы использования индексов. Это их стратегия индексирования "v2", которая была запущена совсем недавно (она может быть доступна не для всех учетных записей, обратитесь в MSFT, если у вас есть более старая база данных, которую необходимо обновить).

Вы можете сравнить новые результаты с картинкой, которую я изначально опубликовал.

Теперь вы заметите, что время загрузки документа отображается как 0 мс, а размер извлеченного документа равен 0 байтам. Время загрузки, которое я могу подтвердить, теперь действительно довольно быстрое, поэтому возможно, что оно составляет менее 1 мс при измерении со стороны сервера. И размер документа 0 имеет больше смысла, поскольку для этого не требуется извлекать документы (только подсчет на основе индекса).

Наконец, вы можете видеть, что количество RU упало с 3222 до 7,4 !!!! Довольно резкая разница.

Суммирование сразу нескольких столбцов в одном разделе теперь также достаточно эффективно, и мы можем делать около 8 сумм одновременно по 2 миллионам документов с ~ 50 RU, и это занимает около 20-70 мс при измерении от конечной точки функционального API (включая сеть время).

Группе Cosmos DB еще предстоит проделать дополнительную работу, чтобы обеспечить перекрестное разбиение на несколько столбцов, но улучшения, которые у нас есть сейчас, весьма многообещающие.

введите здесь описание изображения

12.05.2019
  • Помимо улучшенной производительности, как узнать, используется ли стратегия индексирования v2? 16.08.2019
  • Есть ли какой-нибудь официальный документ, подтверждающий это. 12.12.2020

  • 2

    Для показанного конкретного запроса нет необходимости указывать имя таблицы, и вы можете попытаться ограничить 1, производительность будет улучшена. Например:

    SELECT COUNT(1) FROM c WHERE country_code="FR" AND calculated.flag=1 LIMIT 1

    Также не забывайте тщательно анализировать выполнение вашего запроса, я не уверен в Cosmos, но, как подход PostreSQL, EXPLAIN ANALYSE. Также убедитесь, что вы используете лучший тип переменных, например varchar (2) вместо varchar (3). Я бы рекомендовал изменить типы символов стран по номерам, если вы их фильтруете (как вы указываете). Например, FR = 1, GR = 2 и так далее. Это также улучшит производительность. Наконец, если код страны и рассчитанный флаг связаны, создайте уникальную переменную, определяющую их. Если ничего из этого не работает, проверьте производительность клиента и даже оборудование.

    10.05.2019

    3

    Две идеи:

    Попробуйте запустить следующее, посмотрите, не изменится ли время выполнения:

    SELECT COUNT(1) FROM c WHERE country_code="FR"
    

    Важно! Поле calculated.flag1, если оно не является постоянным, может выдать проблему - как и для каждого документа / записи - механизм БД должен вычислить результат, отсюда и высокий RU. Можете ли вы оптимизировать вычисляемые поля? (разбить их или выполнить расчет как часть запроса?)

    Второе предложение - попытаться определить составной индекс.

    {  
            "automatic":true,
            "indexingMode":"Consistent",
            "includedPaths":[  
                {  
                    "path":"/*"
                }
            ],
            "excludedPaths":[  
    
            ],
            "compositeIndexes":[  
                [  
                    {  
                        "path":"/country_code",
                        "order":"ascending"
                    },
                    {  
                        "path":"/calculated",
                        "order":"descending"
                    }
                ]
            ]
        }
    

    См. Также Примеры правил составного индексирования

    И управлять политиками индексирования в Azure Cosmos DB, чтобы увидеть, где вы его редактируете.

    10.05.2019
  • Спасибо. Я обязательно это проверю. Однако, поскольку Cosmos теперь значительно улучшил производительность (см. Мой опубликованный ответ), я предполагаю, что проблема действительно была на их стороне с самого начала. Ваш ответ действительно может помочь, поэтому я дам вам знать. Я знаю, что составные индексы необходимы для упорядочивания по нескольким столбцам с помощью функции, которую они также только что развернули. 12.05.2019
  • Не могли бы вы сообщить нам дополнительную информацию об этой стратегии индексирования v2? Как это сделать? 23.03.2021
  • Новые материалы

    Кластеризация: более глубокий взгляд
    Кластеризация — это метод обучения без учителя, в котором мы пытаемся найти группы в наборе данных на основе некоторых известных или неизвестных свойств, которые могут существовать. Независимо от..

    Как написать эффективное резюме
    Предложения по дизайну и макету, чтобы представить себя профессионально Вам не позвонили на собеседование после того, как вы несколько раз подали заявку на работу своей мечты? У вас может..

    Частный метод Python: улучшение инкапсуляции и безопасности
    Введение Python — универсальный и мощный язык программирования, известный своей простотой и удобством использования. Одной из ключевых особенностей, отличающих Python от других языков, является..

    Как я автоматизирую тестирование с помощью Jest
    Шутка для победы, когда дело касается автоматизации тестирования Одной очень важной частью разработки программного обеспечения является автоматизация тестирования, поскольку она создает..

    Работа с векторными символическими архитектурами, часть 4 (искусственный интеллект)
    Hyperseed: неконтролируемое обучение с векторными символическими архитектурами (arXiv) Автор: Евгений Осипов , Сачин Кахавала , Диланта Хапутантри , Тимал Кемпития , Дасвин Де Сильва ,..

    Понимание расстояния Вассерштейна: мощная метрика в машинном обучении
    В обширной области машинного обучения часто возникает необходимость сравнивать и измерять различия между распределениями вероятностей. Традиционные метрики расстояния, такие как евклидово..

    Обеспечение масштабируемости LLM: облачный анализ с помощью AWS Fargate и Copilot
    В динамичной области искусственного интеллекта все большее распространение получают модели больших языков (LLM). Они жизненно важны для различных приложений, таких как интеллектуальные..