title

text

Дмитрий Лебедев
Дмитрий Лебедев BestPlace Разработчик-исследователь ГИС
13:30 15 марта
90 мин

Исследования геоданных при помощи PostGIS и смежных инструментов

Сегодня работая с открытыми данными можно сделать интересные исследования в области городской среды и географии, с перспективными и нетривиальными выводами. В докладе я дам примеры пространственных расчётов на PostGIS — фактическом пром стандартом в области.

Но одного PostGIS мало, и в работе требуются инструменты для импорта, проверки и визуализации данных. Кроме того критически важно видеть что происходит с нашими данными и сокращать итерации работы, о чём я подробно расскажу.

  1. Сбор данных; базы данных, открытые API, OpenStreetMap; ввод геоданных от пользователя.
  2. Применение сторонних API для расчётов и обработки.
  3. Вывод и визуализация результатов: QGIS, Matplotlib, Zeppelin — интеграция с PostGIS.
  4. Отладка расчётов - визуализация "на лету" (Arc, QGIS, NextGIS Web)
  5. Воспроизводимость и автоматизация действий: скриптинг и отслеживание зависимостей на Makefile, Gulp

Слайды

Видео

Другие доклады

  • Игорь Ведёхин
    Игорь Ведёхин IBS Заместитель генерального директора
    22 мин

    Скала-СР / Postgres Pro — предконфигурированные высокопроизводительные машины баз данных

    Машины баз данных — представители «высшего света» в мире корпоративных ИТ; Teradata, Exadata, Netezza — не смотря на то, что в их основе вполне доступные серверные узлы архитектуры x86 — о них говорят и пишут как о hi-end-системах, на что есть определённые основания. Объективно машины баз данных востребованы многими корпоративными заказчиками, как за уникальные возможности, так и за те удобства, которые дают готовые предконфигурированные комплексы.

    Консорциум в составе системного интегратора IBS, выполнившего немало проектов по внедрению различных машин баз данных, российского вендора PostgreSQL Postgres Professional и израильской компании-разработчика суперкомпьютерных сетевых решений Mellanox представил машины баз данных в различных конфигурациях для PostgreSQL под управлением СУБД Postgres Pro Enterprise.

  • Alvaro Hernandez
    Alvaro Hernandez 8Kdata CTO
    45 мин

    Миграция с MongoDB на PostgreSQL

    MongoDB – популярная NoSQL CУБД, используемая в основном для работы с OLTP системами. Но из-за отсутствия требований ACID (в частности, транзакций как таковых), а также серьезных проблем с производительностью при работе с OLAP/DW нагрузками, все больше пользователей MongoDB рассматривают возможность перехода на реляционные СУБД, выбирая зачастую именно PostgreSQL. Это открывает перед сообществом PostgreSQL большие возможности по “обращению” пользователей из NoSQL в SQL. В этом докладе мы расскажем о сложностях, с которыми сталкиваются пользователи MongoDB, и представим соверменные инструменты и open-source решения, с помощью которых можно осуществить миграцию на PostgreSQL в режиме реального времени или через процесс ETL. В частности, мы обсудим ToroDB Stampede – open-source решение, которое создает реплику MongoDB в режиме реального времени, конвертирует документы JSON в реляционные таблицы и сохраняет данные в PostgreSQL.

    ВИДЕО

  • Камиль Исламов
    Камиль Исламов Stickeroid Ai CTO
    22 мин

    Совместное использование хранимых процедур Postgres и ORM на примере Django

    Приводятся некоторые примеры и приёмы в проектировании архитектуры Web-приложений с совместным использованием технологий ORM с применением хранимых процедур Postgres на примере Python Django. Рассматриваются варианты реализации бизнес-логики в рамках СУБД с сохранением преимуществ Django и применения встроенной админ-панели.

    ВИДЕО

  • Михаил Тюрин
    Михаил Тюрин ИТ предприниматель предприниматель
    22 мин

    Лок, лок – дедлок!

    < Query failed: ERROR: deadlock detected
    < DETAIL: Process 17371 waits for ShareLock on transaction 102733872; blocked by process 10414.
    < Process 10414 waits for ShareLock on transaction 102733874; blocked by process 17371.
    

    Подобные "неприятные" сообщения от сервера могут серьезно озадачить разработчика. При работе с блокировками, в частности, и с транзакциями в целом, следует учитывать особенности реализации клиентских библиотек, которые могут вызывать описанное выше исключение.

    В кратком докладе-сообщении будет объяснена механика взаимодействия блокировок, приводящая к ситуации дедлока; приведены ссылки на документацию; разобрана техника "обхода" данной проблемы конкурентной работы с данными; показаны обобщенные приемы из практики.