Возможно/хорошо ли добавлять числовые функции в модели crf? например положение в последовательности.
Я использую CRFsuite. Кажется, все функции будут преобразованы в строку, например. 'pos=0', 'pos=1', которые затем теряют свое значение как евклидово расстояние.
Или я должен использовать их для обучения другой модели, например. svm, тогда ансамбль с моделями crf?
LABEL f1:0.1 f2:0.4 f3:0.8 f4:0.2 f5:0.9. см. datascience.stackexchange.com/a/4886/94403. 08.05.2020 Я выяснил, что CRFsuite обрабатывает числовые функции, по крайней мере, согласно этой документации:
- {"string_key": float_weight, ...} указывает, где ключи — это наблюдаемые функции, а значения — их веса;
- {"string_key": bool, ...} dict; True конвертируется в вес 1.0, False - в 0.0;
- {"string_key": "string_value", ...} dict; это то же самое, что и {"string_key=string_value": 1.0, ...}
- ["string_key1", "string_key2", ...] список; это то же самое, что и {"string_key1": 1.0, "string_key2": 1.0, ...}
- {"string_prefix": {...}} dicts: обрабатывается вложенный dict, и к каждому ключу добавляется "string_prefix".
- {“string_prefix”: [...]} dicts: обрабатывается вложенный список, и “string_prefix” добавляется к каждому ключу.
- {"string_prefix": set([...])} dicts: обрабатывается вложенный список, и перед каждым ключом добавляется "string_prefix".
Так долго как:
Сам CRF может использовать числовые функции, и вы должны их использовать, но если ваши реализации преобразуют их в строки (кодирует в двоичной форме с помощью «кодирования одной горячей точки»), тогда это может иметь меньшее значение. Я предлагаю искать более «чистую» CRF, которая допускает непрерывные переменные.
Забавный факт заключается в том, что CRF по своей сути представляет собой просто структурированный MaxEnt (LogisticRegression), который работает в непрерывной области, это кодирование строк на самом деле является способом перехода от категориальных значений к < strong>непрерывный домен, поэтому ваша проблема на самом деле является результатом «перепроектирования» CRFSuite, который забыл о реальных возможностях модели CRF.
Просто чтобы немного прояснить ответ Лишу (что правильно, но может сбить с толку других читателей, как это было со мной, пока я не попробовал). Этот:
{"string_key": float_weight, ...} dict, где ключи — наблюдаемые функции, а значения — их веса
можно было написать как
{"feature_template_name": feature_value, ...} dict, где ключи — это имена функций, а значения — их значения
то есть при этом вы устанавливаете не вес для CRF, соответствующий этому шаблону feature_template, а значение этой функции. Я предпочитаю называть их шаблонами функций, у которых есть значения функций, чтобы все было понятнее, чем просто «фичи». Затем CRF узнает вес, связанный с каждым из возможных значений feature_values для этого feature_template.
