Nano Hash - криптовалюты, майнинг, программирование

Вставка 34000 записей из API в sqlite в iphone

Мне нужно создать sqlite db из данных, полученных из JSON API. Код работает нормально и добавляет их один за другим через цикл for, но время отклика API составляет 1 секунду на обращение, поэтому 34000 секунд плюс вставка их в sqlite через код займет около 9 часов. Есть ли способ ускорить это?

Изменить: я использую фреймворк Objective C/sqlite3/Xcode 4.2

Вот код...

 dbPath=[self.databasePath UTF8String];
if(sqlite3_open(dbPath,&database)==SQLITE_OK)
{
  //   sqlite3_exec(database, "BEGIN", 0, 0, 0);
    const char *sqlstatement="insert into artist values(?,?,?,?,?)";
    sqlite3_stmt *compiledstatement;

    if(sqlite3_prepare_v2(database,sqlstatement , -1, &compiledstatement, NULL)==SQLITE_OK)
    {    
for(i=4611;i<=34803;i++)
{  
    NSURLResponse *response;
    NSError *err;
  NSData *data= [NSURLConnection sendSynchronousRequest:[NSURLRequest requestWithURL:[NSURL URLWithString:[NSString stringWithFormat:@"API&id=%i",i]]] returningResponse:&response error:&err];
    if(data.length>0)
    {
        NSError *err;
        NSDictionary *jsonDict=[NSJSONSerialization JSONObjectWithData:data options:NSJSONReadingAllowFragments error:&err];
        // sqlite3_exec(database, "BEGIN", 0, 0, 0);




                sqlite3_bind_text(compiledstatement,1,[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"id"] UTF8String], -1, SQLITE_TRANSIENT);
                sqlite3_bind_text(compiledstatement,2,[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"name"] UTF8String], -1, SQLITE_TRANSIENT);
                if([[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"description"])
                    sqlite3_bind_text(compiledstatement,3,[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"description"] UTF8String], -1, SQLITE_TRANSIENT);
                else
                    sqlite3_bind_text(compiledstatement,3,[@"" UTF8String], -1, SQLITE_TRANSIENT);
                if([[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"links"]objectForKey:@"website"])
                    sqlite3_bind_text(compiledstatement,4,[[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"links"]objectForKey:@"website"] UTF8String], -1, SQLITE_TRANSIENT);
                else
                    sqlite3_bind_text(compiledstatement,4,[@"" UTF8String], -1, SQLITE_TRANSIENT);
                if([[[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"media"]objectForKey:@"low_res_images"]objectAtIndex:0]objectForKey:@"url"])
                    sqlite3_bind_text(compiledstatement,5,[[[[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"media"]objectForKey:@"low_res_images"]objectAtIndex:0] objectForKey:@"url"] UTF8String], -1, SQLITE_TRANSIENT);
                else
                    sqlite3_bind_text(compiledstatement,5,[@"" UTF8String], -1, SQLITE_TRANSIENT);
                if(sqlite3_step(compiledstatement)==SQLITE_DONE)
                {
                    NSLog(@"done %i",i);
                }
                else NSLog(@"ERROR");


        }
        sqlite3_reset(compiledstatement);
                }

    }

}

else
    NSLog(@"error");

sqlite3_close(database);

  • 9 часов для 34K записей? ты делаешь что-то очень неправильно... 15.03.2012
  • @MitchWheat Я разместил код. Пожалуйста помоги 15.03.2012
  • Эти записи часто меняются? Не могли бы вы создать базу данных на своем компьютере и включить ее в проект? 15.03.2012
  • @JoshRagem есть ли более быстрый способ заполнить этот sqlite из json API, кроме objc? 16.03.2012
  • @Akash Я не знаю, но если записи, которые вы получаете, не меняются слишком часто, я подумал, что вы могли бы заполнить базу данных SQLite на рабочем столе и поместить файл в проект, чтобы он стал частью приложения. Затем вы можете постепенно обновлять базу данных через приложение по мере изменения записей. Для проверки наличия обновлений будет достаточно простой отметки даты «последнее обновление». Это кажется разумным? 16.03.2012
  • @JoshRagem Мне приходится обращаться к API 30 тысяч раз каждый раз, когда я меняю параметр ID, читаю json и затем добавляю его в sqlite db. Вручную это невозможно. 16.03.2012
  • @Akash python может сделать это за вас -- docs.python.org/library/sqlite3.html docs.python.org/library/internet.html Не следует быть слишком жестким. Дело в том, что вы можете выполнять работу на рабочем столе, а не на мобильном устройстве. 16.03.2012
  • @JoshRagem у меня установлен Python на моем Mac. Хотя никогда им не пользовался. На самом деле время отклика API составляет одну секунду на HIT. Так что, вы думаете, стоит попробовать что-то еще? 16.03.2012
  • давайте продолжим это обсуждение в чате 16.03.2012

Ответы:


1

Можно ли реструктурировать ваш код, чтобы вы не открывали базу данных на каждой итерации?

  • Открытая база данных
  • Начать транзакцию sqlite3_exec(..., "BEGIN",...)
  • оператор компиляции
  • iterate data set
    • insert record
  • завершить скомпилированный оператор
  • Зафиксировать транзакцию sqlite3_exec(..., {"ROLLBACK" или "COMMIT"},...)
  • Закрыть базу данных

Это в отличие от того, что у вас есть сейчас

  • Iterate dataset
    • open database
    • оператор компиляции
    • вставить запись
    • завершить скомпилированный оператор
    • закрыть базу данных

Накладные расходы на то, как вы это делаете, будут учитывать производительность. Попробуйте провести рефакторинг по методу, который я описал выше, и посмотрите, что у вас получится.

ИЗМЕНИТЬ

Я переформатировал ваш код, чтобы указать, о чем я говорю. Кроме того, я думаю, что другим ударом по производительности (как указал другой пользователь) является вызов JSON. Возможно, это ДЕЙСТВИТЕЛЬНО то, что вас так сильно тормозит.

dbPath=[self.databasePath UTF8String];
if(sqlite3_open(dbPath,&database)==SQLITE_OK)
{
    sqlite3_exec(database, "BEGIN", 0, 0, 0);
    const char *sqlstatement="insert into artist values(?,?,?,?,?)";
    sqlite3_stmt *compiledstatement;

    if(sqlite3_prepare_v2(database,sqlstatement , -1, &compiledstatement, NULL)==SQLITE_OK)
    {
        int hasError= 0;
        for(i=4611; hasError == 0 && i<=34803; i++)
        {  
            NSURLResponse *response;
            NSError *err;
            NSData *data= [NSURLConnection sendSynchronousRequest:[NSURLRequest requestWithURL:[NSURL URLWithString:[NSString stringWithFormat:@"API&id=%i",i]]] returningResponse:&response error:&err];
            if(data.length>0)
            {
                NSDictionary *jsonDict=[NSJSONSerialization JSONObjectWithData:data options:NSJSONReadingAllowFragments error:&err];
                // sqlite3_exec(database, "BEGIN", 0, 0, 0);
                sqlite3_bind_text(compiledstatement,1,[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"id"] UTF8String], -1, SQLITE_TRANSIENT);
                sqlite3_bind_text(compiledstatement,2,[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"name"] UTF8String], -1, SQLITE_TRANSIENT);
                if([[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"description"])
                    sqlite3_bind_text(compiledstatement,3,[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"description"] UTF8String], -1, SQLITE_TRANSIENT);
                else
                    sqlite3_bind_text(compiledstatement,3,[@"" UTF8String], -1, SQLITE_TRANSIENT);
                if([[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"links"]objectForKey:@"website"])
                    sqlite3_bind_text(compiledstatement,4,[[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"links"]objectForKey:@"website"] UTF8String], -1, SQLITE_TRANSIENT);
                else
                    sqlite3_bind_text(compiledstatement,4,[@"" UTF8String], -1, SQLITE_TRANSIENT);
                if([[[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"media"]objectForKey:@"low_res_images"]objectAtIndex:0]objectForKey:@"url"])
                    sqlite3_bind_text(compiledstatement,5,[[[[[[[jsonDict objectForKey:@"artistDetail"]objectForKey:@"artist"]objectForKey:@"media"]objectForKey:@"low_res_images"]objectAtIndex:0] objectForKey:@"url"] UTF8String], -1, SQLITE_TRANSIENT);
                else
                    sqlite3_bind_text(compiledstatement,5,[@"" UTF8String], -1, SQLITE_TRANSIENT);
                if(sqlite3_step(compiledstatement)==SQLITE_DONE)
                {
                    NSLog(@"done %i",i);
                }
                else {
                    NSLog(@"ERROR");
                    hasError= 1;
                }
            }
            sqlite3_reset(compiledstatement);
        }
        // Really need to check error conditions with commit/rollback
        if( hasError == 0 ) {
            sqlite3_exec(database, "COMMIT", 0, 0, 0);
        }
        else {
            sqlite3_exec(database, "ROLLBACK", 0, 0, 0);
        }
    }
    sqlite3_close(database);
}
else {
    NSLog(@"error");
}
15.03.2012
  • Еще одна вещь заключается в том, что база данных по умолчанию находится в режиме автоматической фиксации. Вы можете выполнить оператор BEGIN перед входом в цикл (возможно, перед компиляцией оператора), а затем выполнить COMMIT при успешном завершении или ROLLBACK, если где-то в середине произошел сбой. Таким образом, ваша база данных не испортится из-за плохого запуска. 15.03.2012
  • Я попробовал ваш способ, удалив вставку, скомпилировать stmt и открыть stmt вне цикла for, но все равно его скорость. Я обновил свой код выше. Любые идеи? 15.03.2012
  • Вы повторно готовите оператор на каждой итерации с sqlite3_prepare_v2, перемещая его за пределы цикла 15.03.2012
  • Также попробуйте BEGIN/{ROLLBACK, COMMIT} вне цикла, каждый раз, когда вы запускаете sqlite3_step в соответствии с настройками, вы открываете/фиксируете транзакцию на каждой итерации. Выполняя BEGIN перед циклом, вы открываете одну транзакцию, которая используется для всей итерации, затем она фиксируется или откатывается ПОСЛЕ завершения цикла. 15.03.2012
  • @DaveG я переместил подготовку за пределы лоппа, но она работает только для 1-й итерации. 15.03.2012
  • Попробуйте добавить sqlite3_clear_bindings в свой оператор в нижней части итерации (последний оператор перед началом следующей итерации цикла) 15.03.2012
  • @DaveG я заставил его работать сейчас, как вы сказали, но скорость та же, даже начало и фиксация не ускоряют его :( Я отредактировал свой пост с новым кодом. 15.03.2012

  • 2

    Вы можете сделать следующее,

    • Создать запрос с помощью [NSSting StringWithFormat:@"Insert Statement with Parameters"]

    • Сохраните запросы в массив.

    • Создайте транзакцию. Вы можете сделать это с помощью SQL-запроса.

    • Зациклить массив и выполнить запрос.

    • совершить транзакцию

    .

    Для каждого оператора вставки sqlite начинает транзакцию и фиксирует ее. Это тяжело. Чтобы избежать таких накладных расходов, мы можем начать нашу транзакцию. Это очень быстро.

    15.03.2012

    3

    Самым большим узким местом является вызов API.

    Лучшее практическое решение — разделить вызовы с помощью NSOperation в NSOperationQueue.

    15.03.2012
    Новые материалы

    Кластеризация: более глубокий взгляд
    Кластеризация — это метод обучения без учителя, в котором мы пытаемся найти группы в наборе данных на основе некоторых известных или неизвестных свойств, которые могут существовать. Независимо от..

    Как написать эффективное резюме
    Предложения по дизайну и макету, чтобы представить себя профессионально Вам не позвонили на собеседование после того, как вы несколько раз подали заявку на работу своей мечты? У вас может..

    Частный метод Python: улучшение инкапсуляции и безопасности
    Введение Python — универсальный и мощный язык программирования, известный своей простотой и удобством использования. Одной из ключевых особенностей, отличающих Python от других языков, является..

    Как я автоматизирую тестирование с помощью Jest
    Шутка для победы, когда дело касается автоматизации тестирования Одной очень важной частью разработки программного обеспечения является автоматизация тестирования, поскольку она создает..

    Работа с векторными символическими архитектурами, часть 4 (искусственный интеллект)
    Hyperseed: неконтролируемое обучение с векторными символическими архитектурами (arXiv) Автор: Евгений Осипов , Сачин Кахавала , Диланта Хапутантри , Тимал Кемпития , Дасвин Де Сильва ,..

    Понимание расстояния Вассерштейна: мощная метрика в машинном обучении
    В обширной области машинного обучения часто возникает необходимость сравнивать и измерять различия между распределениями вероятностей. Традиционные метрики расстояния, такие как евклидово..

    Обеспечение масштабируемости LLM: облачный анализ с помощью AWS Fargate и Copilot
    В динамичной области искусственного интеллекта все большее распространение получают модели больших языков (LLM). Они жизненно важны для различных приложений, таких как интеллектуальные..