Платформа на Airflow 3
Новый кластер Airflow 3.1: DAG из Git без деплоя, проверки в CI для каждого merge request, запуск dbt через Cosmos.
- Airflow 3
- dbt
- Cosmos
- GitLab CI
- ruff
- Podman
- Ansible
Кейсы с основной работы с данными и проекты с открытым кодом, которые я делаю вне работы.
Проекты с основной работы с данными. Код закрыт, поэтому на страницах описаны задача, решение и результат без деталей о компании.
Новый кластер Airflow 3.1: DAG из Git без деплоя, проверки в CI для каждого merge request, запуск dbt через Cosmos.
Дашборды и алерты для дежурного: упавшие и зависшие запуски, долгие DAG, устаревшие продуктовые метрики.
Перенос сырых событий из HDFS в таблицы Iceberg в облаке, проверенный в двух облаках на 14 ТБ реальных данных. Переход отложен.
Проекты, которые я делаю вне работы, код открыт.
Менеджер паролей, которому нужны только клиент и учетная запись XMPP на любом сервере: сквозное шифрование, ядро на Rust, web, Android и терминальный клиенты.
Стенд для проверки Prosody с InkVault: SQLite или PostgreSQL в контейнерах, генератор нагрузки, который ведет себя как клиенты InkVault, сбор метрик и отчет.
XMPP-клиент для Android на основе Conversations с диагностикой звонков: этап сбоя, причина и качество звука.
Скриншотер для GNOME на Wayland: режимы захвата, редактор пометок, распознавание текста, выгрузка по SFTP и WebDAV.
Пошаговые инструкции по развертыванию своего XMPP-сервера на Prosody.
Терминальный XMPP-клиент для отладки протокола: рядом с беседой идет панель сырого потока строф.