PGConf.Russia 2022

ETL – одна из первых задач, которую надо решить любому пользователю PostgreSQL. Существует ошибочное мнение, что low-code инструменты, реализующие ETL-процедуры, снижают требования к пользователю, но жертвуют производительностью и/или гибкостью. В выступлении будет продемонстрировано, что можно быстро и легко проектировать ETL-процедуры, не теряя в производительности. Рассказано, за счет чего обеспечивается высокая скорость, как используются особенности PostgreSQL и как связка PostgreSQL и low-code платформы позволяет закрыть одну из самых частых болей пользователей.

Традиционные дисковые базы данных имеют врожденное физическое ограничение по сравнению с In-Memory СУБД в виде подсистемы хранения, которая даже в случае All-Flash NVMe на порядки более медленная, чем оперативная память CPU. Это особенно критично для развития приложений бизнес-аналитики и OLAP-сценариев на дисковых СУБД. Есть достаточное количество примеров ускорения традиционных СУБД, в том числе и PostgreSQL, которые мы рассмотрим, и предложим новый, Storage-центричный подход к аппаратному ускорению дисковых баз данных.

В архитектуре PostgreSQL есть ряд особенностей, которые стоит учитывать не только при эксплуатации БД, но и в процессе проектирования схемы данных. Опытным пользователям PostgreSQL хорошо известен такой механизм как очистка/заморозка(vacuum). На просторах интернета есть большое количество материалов на тему внутреннего устройства, настройки и мониторинга. Множество полезных докладов было сделано на конференциях. Тем не менее, все еще происходят случаи переполнения счетчика транзакций(xid), казалось бы, в достаточно небольших БД. В этом докладе я расскажу об одном интересном, на мой взгляд, случае у нашего клиента. Поделюсь тем, как череда ошибок на разных этапах жизненного цикла БД, однажды привела к ее полной остановке более чем на неделю, wraparound-у, битым блокам, проблемам с обслуживанием и бессонным ночам в поисках решения. Локальная победа была достигнута - БД удалось восстановить, но история еще не закончена. Тем она и интересна.

Mamonsu - активный агент мониторинга PostgreSQL на базе Zabbix. Агент активно продолжает развиваться: появляются новые уникальные метрики, возможности визуализации. Но помимо непосредственно сбора метрик, Mamonsu обладает и другим полезным функционалом. В докладе я кратко опишу возможности утилиты (также известные как "Mamonsu tools"), преимущества перед другими средствами мониторинга и процесс установки.