Nano Hash - криптовалюты, майнинг, программирование

Повторное использование модели обучения scikit .pkl в AWS Lambda

Я новичок в AWS, я обучил на своем компьютере RandomForestClassifier с помощью scikit-learn и использовал joblib, чтобы получить свою модель в формате pkl.

Теперь я хотел бы повторно использовать этот RandomForest в AWS Lambda. Поскольку для повторной загрузки моей модели требуется sklearn.externals, я создал Zip-каталог, который содержит Numpy, Scipy, sklearn, мой код и мою модель в формате pkl. Я поместил этот zip в ведро S3, чтобы выполнить свой код в Lambda.

Я хотел бы знать, можно ли использовать эту модель с помощью model.predict()? Я не нашел никакой документации по этой конкретной проблеме.

python amazon-web-services amazon-s3 aws-lambda pickle
12.04.2017

  • Я пытаюсь сделать то же самое, но, поскольку sagemaker существует сейчас, я надеялся, что это будет более прямолинейно stackoverflow.com/questions/51391639/ 18.07.2018

Ответы:


1

На самом деле, мне удается использовать URL-адреса. Я помещаю свою модель .pkl в корзину S3 и могу получить ее с помощью urllib2.

Вот мой код, если кто столкнется с такой же проблемой:

req = urllib2.Request(url=url_model)
f = urllib2.urlopen(req)
model = cPickle.load(f)

Это работает, только если файл является общедоступным. Если вам нужно, чтобы он был приватным, вы можете сгенерировать предварительно подписанный URL-адрес, используя boto3 следующим образом:

url_model = s3.generate_presigned_url(
    ClientMethod='get_object',
    ExpiresIn=1,
    Params={
        'Bucket': 'my-bucket',
        'Key': 'mymodel.pkl'
    }
)
19.04.2017
Новые материалы
Кластеризация: более глубокий взгляд
Кластеризация — это метод обучения без учителя, в котором мы пытаемся найти группы в наборе данных на основе некоторых известных или неизвестных свойств, которые могут существовать. Независимо от..
Как написать эффективное резюме
Предложения по дизайну и макету, чтобы представить себя профессионально Вам не позвонили на собеседование после того, как вы несколько раз подали заявку на работу своей мечты? У вас может..
Частный метод Python: улучшение инкапсуляции и безопасности
Введение Python — универсальный и мощный язык программирования, известный своей простотой и удобством использования. Одной из ключевых особенностей, отличающих Python от других языков, является..
Как я автоматизирую тестирование с помощью Jest
Шутка для победы, когда дело касается автоматизации тестирования Одной очень важной частью разработки программного обеспечения является автоматизация тестирования, поскольку она создает..
Работа с векторными символическими архитектурами, часть 4 (искусственный интеллект)
Hyperseed: неконтролируемое обучение с векторными символическими архитектурами (arXiv) Автор: Евгений Осипов , Сачин Кахавала , Диланта Хапутантри , Тимал Кемпития , Дасвин Де Сильва ,..
Понимание расстояния Вассерштейна: мощная метрика в машинном обучении
В обширной области машинного обучения часто возникает необходимость сравнивать и измерять различия между распределениями вероятностей. Традиционные метрики расстояния, такие как евклидово..
Обеспечение масштабируемости LLM: облачный анализ с помощью AWS Fargate и Copilot
В динамичной области искусственного интеллекта все большее распространение получают модели больших языков (LLM). Они жизненно важны для различных приложений, таких как интеллектуальные..