Использование в Sas.Планета кеша в формате Berkeley

программа для загрузки и просмотра спутниковых снимков Земли, Луны, Марса предоставленных сервисами Google Maps и Космоснимки. Возможность работы с GPS приёмником.

Модераторы: Tolik, zed

Re: Использование в Sas.Планета кеша в формате Berkely

Сообщение zed » 15 янв 2009, 00:19

Кто-нибудь может подсказать как сконфигурировать Апач и php для работы с беркли? Что куда скопировать и где прописать?
Хитрости GoogleEarth - то, чего вы не знаете о гугле
Аватара пользователя
zed
Гуру
 
Сообщения: 1519
ICQ: 357167611
Зарегистрирован: 16 авг 2008, 20:21
Откуда: Беларусь, Могилёв
Благодарил (а): 37 раз.
Поблагодарили: 177 раз.

Re: Использование в Sas.Планета кеша в формате Berkely

Сообщение zed » 15 янв 2009, 00:57

Parasite писал(а):
zed писал(а):- загрузка страницы с 20-ю тайлами от 1.5-2 сек. до 7 сек. (все тайлы есть в базе)

Имхо долговато для 20и выборок-то.... :(

Результат очень неоднозначный, т.к. многое зависит от связки браузер/скрипт/сервер.
Размер базы довёл до 50 Гб (4 млн. 100 тыс. записей, индекс 195 МБ), а время поиска/отображения не увеличилось (или увеличилось несущественно). В основном, страничка загружается за 1-2 сек. а если потом нажать обновить страницу - за 0.7 сек. все картинки перерисовываются.
При этом динамика загрузки отдельного тайла в скрипт (т.е. загрузка из базы в переменную в скрипте) следующая:
Код: Выделить всё
01.14.2009, 22:40:07 Запрос обработан за 0.529601097107 сек.
01.14.2009, 22:40:07 Запрос обработан за 0.341459989548 сек.
01.14.2009, 22:40:07 Запрос обработан за 0.433671951294 сек.
01.14.2009, 22:40:07 Запрос обработан за 0.325562953949 сек.
01.14.2009, 22:40:07 Запрос обработан за 0.481965065002 сек.
01.14.2009, 22:40:07 Запрос обработан за 0.400779008865 сек.
01.14.2009, 22:40:07 Запрос обработан за 0.590096950531 сек.
01.14.2009, 22:40:07 Запрос обработан за 0.652242898941 сек.
01.14.2009, 22:40:07 Запрос обработан за 0.645808935165 сек.
01.14.2009, 22:40:07 Запрос обработан за 0.698011875153 сек.
01.14.2009, 22:40:08 Запрос обработан за 1.6056599617 сек.
01.14.2009, 22:40:08 Запрос обработан за 1.53217697144 сек.
01.14.2009, 22:40:08 Запрос обработан за 1.58889698982 сек.
01.14.2009, 22:40:08 Запрос обработан за 1.57035207748 сек.
01.14.2009, 22:40:08 Запрос обработан за 1.57842898369 сек.
01.14.2009, 22:40:08 Запрос обработан за 1.33676600456 сек.
01.14.2009, 22:40:08 Запрос обработан за 1.5608279705 сек.
01.14.2009, 22:40:08 Запрос обработан за 1.55355191231 сек.
01.14.2009, 22:40:08 Запрос обработан за 1.54601097107 сек.
01.14.2009, 22:40:08 Запрос обработан за 1.31582903862 сек.

При этом ява сообщил, что страничка загружена за 2.015 сек.

А вот динамика обновления той же странички, с теми же тайлами:
Код: Выделить всё
01.14.2009, 22:41:55 Запрос обработан за 0.0117959976196 сек.
01.14.2009, 22:41:55 Запрос обработан за 0.00919198989868 сек.
01.14.2009, 22:41:55 Запрос обработан за 0.00734210014343 сек.
01.14.2009, 22:41:55 Запрос обработан за 0.0046079158783 сек.
01.14.2009, 22:41:55 Запрос обработан за 0.00570011138916 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.00605893135071 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.00586795806885 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.00581192970276 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.00525689125061 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.00547385215759 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.0100810527802 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.0113070011139 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.0137739181519 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.01154088974 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.013149023056 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.00463700294495 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.0128939151764 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.0118179321289 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.0108690261841 сек.
01.14.2009, 22:41:56 Запрос обработан за 0.00541400909424 сек.

и страница обновилась уже за 0.86 сек.

svp,
на делфи пробовали погонять базу? Было бы интересно сравнить. Тем более, что скорее всего будете использовать SQLite?

P.S. А может я не до конца (или неправильно) задействовал механизм индексации в MySQL?
Вот такая таблица:
Код: Выделить всё
CREATE TABLE `main` (
  `Ver` tinyint(3) unsigned NOT NULL,
  `X` mediumint(8) unsigned NOT NULL,
  `Y` mediumint(8) unsigned NOT NULL,
  `Z` mediumint(8) unsigned NOT NULL,
  `MapID` tinyint(3) unsigned NOT NULL,
  `Data` blob NOT NULL,
  KEY `Ver` (`Ver`),
  KEY `Y` (`Y`),
  KEY `X` (`X`),
  KEY `Z` (`Z`),
  KEY `MapID` (`MapID`)
) ENGINE=MyISAM DEFAULT CHARSET=cp1251;
Хитрости GoogleEarth - то, чего вы не знаете о гугле
Аватара пользователя
zed
Гуру
 
Сообщения: 1519
ICQ: 357167611
Зарегистрирован: 16 авг 2008, 20:21
Откуда: Беларусь, Могилёв
Благодарил (а): 37 раз.
Поблагодарили: 177 раз.

Re: Использование в Sas.Планета кеша в формате Berkely

Сообщение Parasite » 15 янв 2009, 09:54

zed писал(а):Результат очень неоднозначный, т.к. многое зависит от связки браузер/скрипт/сервер.
Размер базы довёл до 50 Гб (4 млн. 100 тыс. записей, индекс 195 МБ), а время поиска/отображения не увеличилось (или увеличилось несущественно). В основном, страничка загружается за 1-2 сек. а если потом нажать обновить страницу - за 0.7 сек. все картинки перерисовываются.

Возможно - тупой вопрос, но....кэширование-то данных надеюсь исключено? В браузере и в сервере, и возможно в базоводе?
The only difference between me and a mad man is that I am not mad. /Salvador Dali/
Аватара пользователя
Parasite
Администратор
 
Сообщения: 4532
ICQ: 15819243
Зарегистрирован: 23 окт 2008, 17:38
Благодарил (а): 57 раз.
Поблагодарили: 214 раз.

Re: Использование в Sas.Планета кеша в формате Berkely

Сообщение Parasite » 15 янв 2009, 09:55

zed писал(а):Кто-нибудь может подсказать как сконфигурировать Апач и php для работы с беркли? Что куда скопировать и где прописать?

Не оно?
http://www.oracle.com/technology/docume ... t/mod.html
The only difference between me and a mad man is that I am not mad. /Salvador Dali/
Аватара пользователя
Parasite
Администратор
 
Сообщения: 4532
ICQ: 15819243
Зарегистрирован: 23 окт 2008, 17:38
Благодарил (а): 57 раз.
Поблагодарили: 214 раз.

Re: Использование в Sas.Планета кеша в формате Berkely

Сообщение zed » 15 янв 2009, 13:00

Parasite писал(а):...кэширование-то данных надеюсь исключено? В браузере и в сервере, и возможно в базоводе?

Кэширование всюду по-умолчанию было. После отключения кэширования (дисковый кэш и кэш памяти) в опере:
Код: Выделить всё
Загрузка:
01.15.2009, 10:39:03 Запрос обработан за 1.03541207314 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.05894994736 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.11484289169 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.10099983215 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.08507990837 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.1797170639 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.18604588509 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.2438120842 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.14626502991 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.20749688148 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.3340420723 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.34944200516 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.30228590965 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.36888694763 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.3218319416 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.44705104828 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.47208189964 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.43009090424 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.42583203316 сек.
01.15.2009, 10:39:03 Запрос обработан за 1.47146892548 сек.
Страница загружена за 2.453 сек.

Обновление:
01.15.2009, 10:39:34 Запрос обработан за 0.0056459903717 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.0063910484314 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00537896156311 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00499296188354 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00565695762634 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00484895706177 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00546598434448 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00646495819092 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00621891021729 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00601196289062 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00547003746033 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00540709495544 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00598406791687 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00493693351746 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.00551104545593 сек.
01.15.2009, 10:39:34 Запрос обработан за 0.0061719417572 сек.
01.15.2009, 10:39:35 Запрос обработан за 0.00536704063416 сек.
01.15.2009, 10:39:35 Запрос обработан за 0.00496387481689 сек.
01.15.2009, 10:39:35 Запрос обработан за 0.00638890266418 сек.
01.15.2009, 10:39:35 Запрос обработан за 0.00520610809326 сек.
Страница обновлена за 1.531 сек.

Больше вроде бы никто не кэширует.

Parasite писал(а):
zed писал(а):Кто-нибудь может подсказать как сконфигурировать Апач и php для работы с беркли? Что куда скопировать и где прописать?

Не оно?
http://www.oracle.com/technology/docume ... t/mod.html

Для винды?
To build this apache module, perform the following steps:
% ./configure --with-apxs=[path to the apxs utility] \
--with-db4=[Berkeley DB library installation directory] \
--with-mm=[libmm installation directory]
% make
% make install

Post-installation, modules can use this extension via the functions documented in $APACHE_INCLUDEDIR/mod_db4_export.h.
Хитрости GoogleEarth - то, чего вы не знаете о гугле
Аватара пользователя
zed
Гуру
 
Сообщения: 1519
ICQ: 357167611
Зарегистрирован: 16 авг 2008, 20:21
Откуда: Беларусь, Могилёв
Благодарил (а): 37 раз.
Поблагодарили: 177 раз.

Re: Использование в Sas.Планета кеша в формате Berkely

Сообщение zed » 15 янв 2009, 18:12

Проверка скорости браузером нукуда не годится: создал базу с 1-ой записью (даже без данных, поле Blob=0) - загрузка страницы в браузере 1.266 сек. (при том что скрипт пишет, что время запроса БД -> переменная, всего 0.0012 сек.)
Хитрости GoogleEarth - то, чего вы не знаете о гугле
Аватара пользователя
zed
Гуру
 
Сообщения: 1519
ICQ: 357167611
Зарегистрирован: 16 авг 2008, 20:21
Откуда: Беларусь, Могилёв
Благодарил (а): 37 раз.
Поблагодарили: 177 раз.

Re: Использование в Sas.Планета кеша в формате Berkely

Сообщение Parasite » 15 янв 2009, 22:41

zed писал(а):
Parasite писал(а):...кэширование-то данных надеюсь исключено? В браузере и в сервере, и возможно в базоводе?

Кэширование всюду по-умолчанию было.

Тю..... :)

zed писал(а):Для винды?
To build this apache module, perform the following steps:
% ./configure --with-apxs=[path to the apxs utility] \
--with-db4=[Berkeley DB library installation directory] \
--with-mm=[libmm installation directory]
% make
% make install

А ты это пропусти. Для винды уже готовые модули должны быть в свободном доступе, насколько я понимаю. Вот его\их и надо найти и подключить в Апача.
The only difference between me and a mad man is that I am not mad. /Salvador Dali/
Аватара пользователя
Parasite
Администратор
 
Сообщения: 4532
ICQ: 15819243
Зарегистрирован: 23 окт 2008, 17:38
Благодарил (а): 57 раз.
Поблагодарили: 214 раз.

Re: Использование в Sas.Планета кеша в формате Berkely

Сообщение RomanURM » 24 июл 2009, 10:01

Кеш - это хорошо, особенно если он полный.
Зачем записывать его в один файл, если можно создать образ формата iso с обычными jpeg-картинками внутри и пользоваться - копировать образ быстро и удобно.
Не подскажите, где взять полный кеш - наверняка кто-то его уже создал, а мы мучаемся тут, вытаскивая по одной картинке в секунду?
Заранее благодарю за ответ.
RomanURM
Новичок
 
Сообщения: 2
Зарегистрирован: 23 июл 2009, 16:49
Благодарил (а): 0 раз.
Поблагодарили: 0 раз.

Re: Использование в Sas.Планета кеша в формате Berkely

Сообщение feya » 24 июл 2009, 11:02

RomanURM
Шутник вы) Что есть полный кэш?
http://SASGIS.ru | SAS.Планета | SASPlanet
Аватара пользователя
feya
Администратор
 
Сообщения: 2035
Зарегистрирован: 13 июл 2008, 10:45
Благодарил (а): 5 раз.
Поблагодарили: 30 раз.

Re: Использование в Sas.Планета кеша в формате Berkely

Сообщение RomanURM » 24 июл 2009, 13:23

feya писал(а):RomanURM
Шутник вы) Что есть полный кэш?

Есть полный (луны и марса). Но кеш Земли в x19 - это всего несколько Гб.
RomanURM
Новичок
 
Сообщения: 2
Зарегистрирован: 23 июл 2009, 16:49
Благодарил (а): 0 раз.
Поблагодарили: 0 раз.

Пред.След.

Вернуться в SAS.Планета

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 2

cron