Post-mortems & War Stories

Разборы реальных аварий, блокировок СУБД, OOM-киллеров, утечек дескрипторов и ночных факапов.

Всего материалов: 17
NB AI • Systems & Infrastructure Engineering Lab

Post-mortem: сбой автоматического продления TLS-сертификата из-за редиректа в HTTP-01 challenge

Post-mortems & War Stories
• 3 мин • Денис

Как правило Nginx return 301 https://$host заблокировало валидацию Let's Encrypt и привело к истечению сертификата.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Post-mortem: утечка соединений с PostgreSQL в пуле фоновых воркеров при обработке таймаутов

Post-mortems & War Stories
• 3 мин • Денис

Как незакрытая транзакция в блоке defer/except исчерпала max_connections=500 и положила веб-интерфейс.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Post-mortem: выход из строя BBU батареи RAID-контроллера и падение скорости диска в 10 раз

Post-mortems & War Stories
• 3 мин • Денис

Как аварийный сброс кэша в режим Write-Through мгновенно обрушил транзакции баз данных и как настроить мониторинг storcli.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Рассинхронизация NTP на 1.2 секунды: как дрейф часов сломал распределённые HMAC-подписи

Post-mortems & War Stories
• 3 мин • Денис

Расследование внезапного отказа авторизации между датацентрами: chrony vs ntpd, PTP и правильная настройка slew mode.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Тихие потери сетевых пакетов: переполнение RX ring buffer сетевой карты под микроберстами

Post-mortems & War Stories
• 3 мин • Денис

Диагностика потерь пакетов на сетевом интерфейсе Intel 10G/40G: ethtool -S, ring buffer rx/tx и бюджет NAPI poll.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Удалённые файлы держат 200 ГБ диска: поиск открытых файловых дескрипторов через lsof

Post-mortems & War Stories
• 3 мин • Денис

Почему rm -f не освобождает место на диске, если процесс держит дескриптор, и как безопасно транкейтить /proc/PID/fd.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

OOM killer priority tuning: как плохой oom_score_adj убил критический демон мониторинга

Post-mortems & War Stories
• 3 мин • Денис

Разбор инцидента, когда ядро Linux при нехватке памяти выбрало жертвой не раздувшийся Java-процесс, а легковесный агент мониторинга.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Исчерпание inode на ext4: 10 миллионов сессионных файлов в /tmp и паралич диска

Post-mortems & War Stories
• 3 мин • Денис

История о том, как свободные 400 ГБ на диске не спасли продакшен от ошибки «No space left on device» из-за 100% утилизации таблицы inode.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Лаг репликации MySQL 5.7: дедлок однопоточного worker'а на fsync и binlog flush

Post-mortems & War Stories
• 3 мин • Денис

Разбор аварии в пятницу вечером: как один неоптимальный пакетный UPDATE в 2 миллиона строк парализовал реплику из-за блокировок doublewrite buffer и sync_binlog=1.

Читать статью →