- Hyperseed: неконтролируемое обучение с векторными символическими архитектурами (arXiv)
Автор: Евгений Осипов, Сачин Кахавала, Диланта Хапутантри, Тимал Кемпития, Дасвин Де Сильва, Дамминда Алахакун, Денис Клейко.
Аннотация: В этой статье, вдохновленной недавними инновациями в области нейроморфного оборудования, основанного на биологии, представлен новый алгоритм машинного обучения без присмотра под названием Hyperseed, основанный на принципах векторных символьных архитектур (VSA) для быстрого изучения топологии, сохраняющей карту признаков неразмеченных данных. Он основан на двух основных операциях VSA: связывании и связывании. Алгоритмическая часть Hyperseed выражается в модели голографических редуцированных представлений Фурье, которая специально подходит для реализации на нейроморфном оборудовании. Двумя основными вкладами алгоритма Hyperseed являются обучение за несколько шагов и правило обучения, основанное на операции с одним вектором. Эти свойства эмпирически оцениваются на синтетических наборах данных, а также на иллюстративных тестовых примерах использования, классификации IRIS и задаче идентификации языка с использованием статистики n-грамм. Результаты этих экспериментов подтверждают возможности Hyperseed и его применения в нейроморфном оборудовании.
2.Векторные символьные архитектуры для контекстно-свободных грамматик (arXiv)
Автор: Петер Бейм Грабен, Маркус Хубер, Вернер Мейер, Рональд Рёмер, Маттиас Вольф.
Аннотация: Предыстория/введение. Векторные символьные архитектуры (VSA) являются жизнеспособным подходом к гиперпространственному представлению символьных данных, таких как документы, синтаксические структуры или семантические фреймы. Методы. Мы представляем строгую математическую основу для представления деревьев структур фраз и деревьев синтаксического анализа контекстно-свободных грамматик (CFG) в пространстве Фока, то есть в бесконечномерном гильбертовом пространстве, используемом в квантовой теории поля. Мы определяем новую нормальную форму для CFG с помощью алгебры термов. Используя недавно разработанный программный набор инструментов под названием FockBox, мы строим представления пространства Фока для деревьев, созданных синтаксическим анализатором левого угла (LC) CFG. Полученные результаты. Мы доказываем теорему об универсальном представлении для алгебр термов CFG в пространстве Фока и иллюстрируем наши выводы с помощью низкоразмерной проекции главных компонент состояний анализатора LC. Выводы. Наш подход может использовать разработку VSA для объяснимого искусственного интеллекта (XAI) с помощью гиперпространственных глубоких нейронных вычислений. Это может иметь значение для улучшения когнитивных пользовательских интерфейсов и других приложений VSA в машинном обучении.
