Методы определения расстояний в машинном обучении

Расстояние в машинном обучении обычно используется, чтобы найти сходство между двумя точками данных.

В обоих алгоритмах машинного обучения с учителем, таких как алгоритм k ближайшего и неконтролируемого алгоритма машинного обучения, например, вычисляется расстояние кластеризации для объединения связанных точек данных.

В науке о данных обычно используются пять типов методов измерения расстояния:

  1. Манхэттен Расстояние
  2. Евклидово расстояние
  3. Малиновский Расстояние
  4. Расстояние Хэмминга
  5. Косинусное сходство и косинусное расстояние

Мистер X, инженер-программист, взял такси, чтобы добраться до своего офиса из квартиры. Его дом и офис находятся в локации_1 и локации_2 соответственно. Расстояние, которое он преодолел, чтобы добраться до офиса и наоборот, является примером манхэттенского расстояния, а расстояние по прямой между location_1 и location_2 является примером евклидова расстояния.

Манхэттен Расстояние:

Манхэттенское расстояние, основа геометрии такси рассчитывается путем нахождения абсолютного расстояния между двумя точками (всегда параллельно осям под углом 90 градусов). Поскольку оно всегда вычисляется параллельно осям под прямым углом, оно также известно как прямолинейное расстояние. В основном используется в регрессионном анализе. для данных более высокого измерения мы используем расстояние Манхэттена, чтобы найти аналогичные точки данных.

Евклидово расстояние :

Манхэттенское расстояние - не самое короткое расстояние между двумя точками. Расстояние по прямой между двумя точками считается евклидовым расстоянием.

Малиновский Расстояние:

Это обобщенное метрическое расстояние. Когда k = 1, оно становится манхэттенским расстоянием (расстояние городского квартала), а когда k = 2, оно становится евклидовым расстоянием.

Манхэттенские, Евклидовы расстояния, расстояния Малиновского также известны как нормы L1, L2 и Lp соответственно. в расстоянии Малиновского (Lp) Когда p = 1, это относится к манхэттенскому расстоянию, а когда p = 2, это относится к евклидову расстоянию.

Манхэттенское, Евклидово расстояние и расстояние Малиновского в основном используются для расчета расстояний между непрерывными переменными.

Расстояние Хэмминга:

Расстояние Хэмминга используется для вычисления расстояний между категориальными переменными (иногда называемыми номинальной переменной). Количество разностей между двумя двоичными строками представлено с помощью расстояния Хэмминга. Для категориальной переменной порядка не существует. Это конкретное свойство категориальной переменной требует вычисления изменения категориальных значений по отношению к двоичным значениям.

Давайте обсудим fig5, здесь столбцы «Пол», «Студент», «Национальность» преобразуются в числовые значения, которые помогают построить код столбца для каждого пользователя. Этот код помогает найти расстояние между двумя точками данных. Теперь мы можем рассчитать расстояние, вычислив изменение битов, присутствующих в коде. Для u_1 и u_2 у нас есть изменение в 3 бита (111 преобразовано в 002 → 3 измененных бита), поэтому расстояние равно 3. Для u_2 и u_3 расстояние равно 3 (002 преобразовано в 113 → 3 бита изменено), но для u_3 и u_1 расстояние равно 1 (113 преобразовано в 111 → 1 бит изменен).

Косинусное подобие и косинусное расстояние:

Косинусное сходство и косинусное расстояние зависит от отношения между расстоянием и подобием. Если расстояние между двумя точками данных увеличивается, говорят, что они не похожи (здесь расстояние обратно пропорционально сходству). Угол между двумя точками данных измеряет сходство между этими двумя точками. Если угол между ними больше, они более склонны к несходству, а если угол между ними меньше, они склонны к схожести. Поскольку значение cos находится в диапазоне от -1 до 1, значения измерения подобия всегда находятся в диапазоне от -1 до 1.

Заключение :

Метод манхэттенского расстояния используется в наборах данных более высокого измерения, метод расстояния Евклида используется в наборах данных более низкого измерения, метод расстояния Хэмминга в наборах категориальных данных, а метод косинусного сходства и косинусного расстояния используется для систем рекомендаций.

Предположение :

Методы измерения расстояния сталкиваются с проблемами (плохо работают), когда переменные лежат в разных шкалах, таких как заработная плата, возраст. Так как относительное расстояние между точками часто меняется из-за наличия разного масштабирования. Таким образом, масштабирование переменных должно выполняться до применения любого алгоритма, основанного на расстоянии.