23 / 72
ПрактикаСреднийMiddle-Senior

Пайплайны на генераторах: обработка данных за O(1) памяти

Частота на собеседованиях: Высокая - классика на задачах "обработай лог в 10 ГБ"Спрашивают в: Т-Банк, Яндекс, Авито, Big Tech-style

Вот она, классическая формулировка задачи на собеседовании: "у тебя лог-файл на 10 гигабайт, нужно найти в нём все ошибки и вывести их сообщения - как это сделать, если весь файл в память не влезает?" Ответ - конвейер (пайплайн) из генераторов, где каждый этап обрабатывает данные по одной записи, никогда не материализуя всё целиком.

Строим пайплайн из нескольких этапов