Nano Hash - криптовалюты, майнинг, программирование

Сравнительный анализ производительности между Hive (на Tez) и Spark для моего конкретного случая использования

Я играю с некоторыми данными в кластере и хочу выполнить некоторые агрегации --- ничего сложного, но сложнее, чем сумма, есть несколько объединений и подсчет различных. Я реализовал эту агрегацию в Hive и Spark с помощью Scala и хочу сравнить время выполнения.

Когда я отправляю сценарии из шлюза, функции времени Linux дают мне реальное время меньше, чем системное время, как я и ожидал. Но я не уверен, какой из них выбрать для правильного сравнения. Может быть, просто использовать sys.time и выполнить оба запроса несколько раз? Это приемлемо или я полный нуб в этом случае?


Ответы:


1

В реальном времени. С точки зрения эталона производительности вас заботит только то, сколько времени (человеческого времени) потребуется, прежде чем ваш запрос будет завершен, и вы можете посмотреть на результаты, а не на то, сколько процессов запускается приложением внутри.

Обратите внимание: я был бы очень осторожен с эталонным тестом производительности, поскольку и Spark, и Hive имеют множество настраиваемых ручек конфигурации, которые сильно влияют на производительность. См. здесь несколько примеров изменения Hive. производительность с векторизацией, выбором формата данных, группировкой данных и сортировкой данных.

«Общий консенсус» заключается в том, что Spark быстрее, чем Hive на Tez, но Hive может лучше обрабатывать огромные наборы данных, которые не помещаются в памяти. (источник указывать не буду, лень, погуглите)

30.12.2016
Новые материалы

Кластеризация: более глубокий взгляд
Кластеризация — это метод обучения без учителя, в котором мы пытаемся найти группы в наборе данных на основе некоторых известных или неизвестных свойств, которые могут существовать. Независимо от..

Как написать эффективное резюме
Предложения по дизайну и макету, чтобы представить себя профессионально Вам не позвонили на собеседование после того, как вы несколько раз подали заявку на работу своей мечты? У вас может..

Частный метод Python: улучшение инкапсуляции и безопасности
Введение Python — универсальный и мощный язык программирования, известный своей простотой и удобством использования. Одной из ключевых особенностей, отличающих Python от других языков, является..

Как я автоматизирую тестирование с помощью Jest
Шутка для победы, когда дело касается автоматизации тестирования Одной очень важной частью разработки программного обеспечения является автоматизация тестирования, поскольку она создает..

Работа с векторными символическими архитектурами, часть 4 (искусственный интеллект)
Hyperseed: неконтролируемое обучение с векторными символическими архитектурами (arXiv) Автор: Евгений Осипов , Сачин Кахавала , Диланта Хапутантри , Тимал Кемпития , Дасвин Де Сильва ,..

Понимание расстояния Вассерштейна: мощная метрика в машинном обучении
В обширной области машинного обучения часто возникает необходимость сравнивать и измерять различия между распределениями вероятностей. Традиционные метрики расстояния, такие как евклидово..

Обеспечение масштабируемости LLM: облачный анализ с помощью AWS Fargate и Copilot
В динамичной области искусственного интеллекта все большее распространение получают модели больших языков (LLM). Они жизненно важны для различных приложений, таких как интеллектуальные..