Когда вы познакомитесь с огромным количеством приложений DL, вы, возможно, захотите войти в эту область и поделиться своими идеями. Но затем возникает основная проблема: С чего начать? Основные источники, которые чрезвычайно помогают новичкам, это

  • Специализация глубокого обучения, DeepLearning.ai, Coursera
  • Практическое глубокое обучение для программистов, fast.ai
  • Глубокое обучение от А до Я: практические искусственные нейронные сети
  • Наностепень глубокого обучения, Udacity

Я потратил много времени на специализацию глубокого обучения и наностепень глубокого обучения. Эти два курса интересны и приятны, и я хочу поделиться своим мнением о них, чтобы помочь другим, только начинающим заниматься.

Специализация глубокого обучения, DeepLearning.ai

Если вы ранее проходили какие-либо курсы по машинному обучению или присоединялись к некоторым группам по машинному обучению, вы уже должны были встретить имя Эндрю Нг.

Эндрю Нг — один из самых известных и влиятельных компьютерных ученых в мире. Его курсы по специализации глубокого обучения являются хорошей отправной точкой для путешествия по ML/DL. Первые два курса охватывают основы глубокого обучения, а последние два — варианты глубокого обучения, такие как CNN, RNN, LSTM и т. д. Эта специализация охватывает самые современные модели и некоторые из последних достижений, таких как преобразователи. Вы познакомитесь с математической интуицией между реальными моделями, которые в настоящее время используются в отрасли.

Теперь давайте посмотрим на плюсы и минусы, которые я нахожу в этой специализации.

Разберемся в деталях,

Плюсы:

  • Подходит как для начинающих, так и для экспертов.

Вы можете не иметь никакого отношения к машинному обучению или иметь прочную основу для машинного обучения. Этот курс поможет вам, кем бы вы ни были. Способность Эндрю Нг преподавать любую сложную тему простыми словами не имеет себе равных.

Первые два курса охватывают основы глубокого обучения, а последние два курса охватывают варианты глубокого обучения, такие как CNN, RNN, LSTM и т. д. Между тем, у вас есть специальный курс, который поможет вам изучить некоторые практические проблемы, с которыми вы сталкиваетесь в своей работе. Модели машинного обучения и диагностика ошибок модели.

  • Обновлено

Этот курс охватывает самые современные модели и некоторые из последних достижений, таких как трансформаторы. Вы познакомитесь с математической интуицией между реальными моделями, которые в настоящее время используются в отрасли.

  • Финансовая помощь.

Кто бы что ни говорил, основная проблема, с которой сталкивается студент перед тем, как пройти курс, — это его цена. К счастью, как и во всех курсах Coursera, вы можете подать заявку на финансовую помощь для курсов и изучать их бесплатно.

Минусы:

  • Отсутствие реализации моделей.

Не слишком ориентирован на реализацию. Вы должны учиться и кодировать себя. Проекты помогают в какой-то степени, но в основном это остается на усмотрение студентов. Вам нужно самостоятельно разобраться в приложении с использованием фреймворков глубокого обучения.

Даже в проектах дается слишком много вспомогательного кода, который превращает проекты в «заполнить пробелы».

  • Не обсуждайте развертывание модели или GAN.

Я чувствую, что это мошенничество, когда вы пытаетесь придираться к деталям, но эта специализация была бы беспрецедентной, если бы она также содержала советы по развертыванию модели или даже какой-либо контент о GAN.

  • Нет специальных карьерных услуг

Курс не предоставляет никаких карьерных услуг, в отличие от Udacity Nanodegree. Но, поскольку большинство людей, которые ходят на Coursera, — это те, кто хочет изучить концепции, этот момент можно проигнорировать. За исключением достоверной сертификации, это может быть полезно, если вы фрилансер.

Наностепень глубокого обучения, Udacity

Наноградусы Udacity известны своей ценностью и сложностью. Наностепень похожа на семестр в колледже, где все предоставляется за фиксированную плату и фиксированное количество времени. Существенной трудностью этих наностепеней является их соответствующее временное ограничение. Вам необходимо пройти все их модули до истечения срока. Если вы не смогли их закончить, то все. Либо нужно отказаться, либо нужно платить больше.

Эта наностепень больше ориентирована на кодирование части глубокого обучения, чем на теорию. К концу этой наностепени вы будете владеть PyTorch и, при желании, также сможете кодировать в среде TensorFlow. Эта программа предназначена для людей с минимальными знаниями или опытом в области глубокого обучения. Программа Udacity Nanodegree предназначена для самостоятельного обучения и зависит от любознательности и способности студента пользоваться ее услугами.

Теперь давайте посмотрим на плюсы и минусы, которые я обнаружил во время этой наностепени.

Давайте углубимся в детали,

Плюсы:

  • Структурированное, легко усваиваемое содержание курса.

Содержание курса простое и небольшое. Каждый модуль разделен на уроки, которые далее делятся на отдельные темы, и вы найдете викторины для некоторых шагов, которые необходимы.

  • Большой объем кода

В отличие от специализации Deep Learning, эта наностепень больше ориентирована на кодирование части DL, а не на теорию. К концу этого курса вы будете владеть PyTorch, а также сможете узнать больше о TensorFlow из его дополнительного контента.

Для студентов, у которых нет мощных ПК, nanoстепень предоставляет рабочие пространства с графическим процессором для работы над своими моделями.

  • Отзыв.

Для каждого модуля вы можете завершить проект, в котором вам нужно будет закодировать модель и обучить ее в PyTorch. Когда вы отправляете модель, вы получаете отзыв от наставника, который может помочь вам найти лучшие способы кодирования.

Это ценная часть наностепени, поскольку обратная связь настолько детализирована, что наставники даже ссылаются на статьи и обсуждения StackOverflow, связанные с изменениями в коде.

  • Внешние ссылки.

Если вы хотите углубиться в тему и узнать больше связанных понятий, вам предоставляются ссылки на полезные статьи по среде, дистилляции и исследовательские работы по темам. Это очень помогает лучше понять интересующую вас тему.

  • Свет на математике.

Вся наностепень легка в математике, но сосредоточена на интуиции в отношении тем. Вам дают математику только тогда, когда курс не может быть пройден без математики. Это хорошо для большинства новичков, но у него есть и недостаток, обсуждаемый в минусах.

  • Карьерные услуги

Udacity Nano Degrees известны своими карьерными услугами, которые они предлагают. Вы получаете персональные отзывы о своих профилях на LinkedIn и GitHub и получаете советы по их улучшению, чтобы у вас было больше шансов получить работу или стажировку.

Минусы, которые я обнаружил:

  • Свет на математике.

Несмотря на легкость в математике, есть некоторые области, в которых вы разочаровываетесь из-за того, что не получаете низкоуровневых объяснений. Я столкнулся с этой проблемой больше всего, когда в курсе обсуждались LSTM.

У вас достаточно интуиции, чтобы добавить строку кода в вашу модель, но вы чувствуете неудовлетворенность некоторыми разделами из-за их недостаточной глубины.

  • Недостаток глубины

По сравнению со специализацией глубокого обучения содержание, предлагаемое в этой наностепени, в лучшем случае неглубоко. Вы можете применить некоторые фантастические модели, но в конечном итоге вы потеряете много вещей, таких как ResNets, Transformers, алгоритмы YOLO и некоторые приложения, такие как обнаружение объектов, распознавание лиц. Это означает, что даже после получения наностепени вам нужно проводить еще больше времени за чтением статей или научных работ. Но вам нужно сделать это, даже если этому обучали в курсе.

  • Зависит от любопытства

Вся наностепень проходит самостоятельно и зависит от любопытства студента и его способности пользоваться их услугами. Например, при обсуждении LSTM вас перенаправляют на несколько статей и лекций, если вам нужно более глубокое понимание. Альтернативы LSTM, такие как GRU, полностью оставлены на усмотрение студента.

  • Предан AWS (особенно при развертывании)

Этот недостаток более специфичен для модуля развертывания. Весь модуль посвящен обучению студентов работе с сервисом AWS Sagemaker. О других сервисах облачных вычислений речи не идет. Если вы более ориентированы на теорию, то этот модуль вам не поможет.

  • Цена

Честно говоря, я чувствую, что цена на наностепени завышена для контента, который она предоставляет. Но, если вас мотивирует карьерный рост, то эта цена может быть несколько оправдана из-за предлагаемых карьерных услуг.

Выводы

Основываясь на всем, я считаю, что решение можно свести к одному вопросу.

Что важнее: теория или кодирование?

Ответ на вопрос зависит от человека. Кому-то может показаться, что теория необходима. Некоторые могут подумать, что получение практического опыта программирования важно.

Тем не менее, я рекомендую специализацию Deep Learning, если вы хотите сосредоточиться на теории и получить представление о современных приложениях Deep Learning, пойдя на компромисс с частью кодирования.

Я предлагаю получить наностепень глубокого обучения, если вы хотите получить больше опыта в разработке моделей глубокого обучения и использовать различные услуги по трудоустройству (если вы можете заплатить за это).