Публикации по теме 'deep-learning'
Как используется дистилляция знаний, часть 2 (искусственный интеллект + интеллектуальный анализ данных)
Начало работы с дистилляцией знаний
Извлечение знаний: принципы, алгоритмы, приложения — neptune.ai Модели крупномасштабного машинного обучения и глубокого обучения становятся все более распространенными. Например, GPT-3 обучен на 570 ГБ… neptune.ai
Жесткая дистилляция знаний — используйте калибровку для надежной и надежной языковой модели ( arXiv)
Автор: Донгю Ли , Чжилян Тянь , Инсю Чжао , Ка Чун Чунг , Невин Л. Чжан..
Обзор исследований по сокращению нейронных сетей 2020
Последние достижения и идеи в области сжатия моделей нейронных сетей с помощью Pruning
Обрезка нейронной сети (NN) - это задача уменьшения размера нейронной сети путем удаления некоторых ее параметров / весов.
Сокращение часто выполняется с целью уменьшения пропускной способности памяти, вычислений и энергии, необходимых для обучения и развертывания моделей NN, которые известны своим большим размером модели, вычислительными затратами и потреблением энергии.
В частности, при..
Пометка явных комментариев с помощью BERT и Transformers
Цель этой статьи — пометить конфиденциальные комментарии, постоянно присутствующие на нескольких платформах социальных сетей, таких как Youtube, Linkedin и т. д., с помощью BERT и преобразователей предложений.
Одним из насущных вопросов при создании такой модели является время, необходимое для предоставления результатов. Средняя модель занимает около 1 или 2 секунд, когда она развернута с хорошо обслуживаемым сервером, состоящим из графических процессоров. Наоборот, то же самое время..
Подробные основы НЛП и практическая реализация на Python (часть 2)
Это метод преобразования слов в векторы.
Вложения Word могут быть двух типов:
На основе количества или частоты:
ПОКЛОН TF-IDF Одна горячая кодировка
Основанный на глубоком обучении
Word2Vec CBOW ПРОПУСТИТЬ ГРАММЫ
Преимущества Word2Vec :
Уменьшает разреженность Ограниченное измерение Семантическое значение улавливается
Скажем, есть 6 функций (используя словарь, мы получаем их):
Эти предварительно обученные слова определяются моделью DL, таких слов может..
Использование ИИ для классификации заболеваний, часть 10
Мультимодальная классификация заболеваний головного мозга с изучением функциональных взаимодействий на основе одного тома фМРТ (arXiv)
Автор: Вэй Дай , Цзяо Чжан , Лися Тянь , Шэнъюань Юй , Шухуэй Ван , Чжао Донг , Хайронг Чжэн .
Аннотация: При нейровизуализационном анализе фМРТ позволяет хорошо оценить изменения функций при заболеваниях головного мозга без явных структурных поражений. На сегодняшний день в большинстве исследований фМРТ, основанных на глубоком обучении,..
Насколько эффективны вариационные квантовые алгоритмы часть 2
Быстрая оценка градиента для вариационных квантовых алгоритмов (arXiv)
Автор: Леннарт Биттел , Йенс Уотти , Мартин Клиш
Аннотация: многие методы оптимизации для обучения вариационных квантовых алгоритмов основаны на оценке градиентов функции стоимости. Из-за статистической природы квантовых измерений эта оценка требует множества оценок схем, что является узким местом всего подхода. Мы предлагаем новый метод оценки градиента, чтобы смягчить эту проблему измерения и..
Как работает завершение сети знаний, часть 1 (интеллектуальный анализ данных)
Опрос о заполнении графа знаний несколькими шагами с помощью структурных знаний и знаний на основе здравого смысла (arXiv)
Автор: Хаоди Ма , Дейзи Чжэ Ван
Аннотация . Графы знаний (KG) служат ключевым компонентом различных приложений для обработки естественного языка. Графы здравого смысла (CKG) представляют собой особый тип KG, в котором сущности и отношения состоят из текста произвольной формы. Однако предыдущие работы по завершению KG и завершению CKG страдают от..
Новые материалы
Кластеризация: более глубокий взгляд
Кластеризация — это метод обучения без учителя, в котором мы пытаемся найти группы в наборе данных на основе некоторых известных или неизвестных свойств, которые могут существовать. Независимо от..
Как написать эффективное резюме
Предложения по дизайну и макету, чтобы представить себя профессионально
Вам не позвонили на собеседование после того, как вы несколько раз подали заявку на работу своей мечты? У вас может..
Частный метод Python: улучшение инкапсуляции и безопасности
Введение
Python — универсальный и мощный язык программирования, известный своей простотой и удобством использования. Одной из ключевых особенностей, отличающих Python от других языков, является..
Как я автоматизирую тестирование с помощью Jest
Шутка для победы, когда дело касается автоматизации тестирования
Одной очень важной частью разработки программного обеспечения является автоматизация тестирования, поскольку она создает..
Работа с векторными символическими архитектурами, часть 4 (искусственный интеллект)
Hyperseed: неконтролируемое обучение с векторными символическими архитектурами (arXiv)
Автор: Евгений Осипов , Сачин Кахавала , Диланта Хапутантри , Тимал Кемпития , Дасвин Де Сильва ,..
Понимание расстояния Вассерштейна: мощная метрика в машинном обучении
В обширной области машинного обучения часто возникает необходимость сравнивать и измерять различия между распределениями вероятностей. Традиционные метрики расстояния, такие как евклидово..
Обеспечение масштабируемости LLM: облачный анализ с помощью AWS Fargate и Copilot
В динамичной области искусственного интеллекта все большее распространение получают модели больших языков (LLM). Они жизненно важны для различных приложений, таких как интеллектуальные..