Codex перестал раздувать оперативную память на длинных тредах. Эндрю Амбросино из команды Codex рассказал, что локальные треды по мере роста съедали всё больше памяти, даже если не запускали других процессов. За проблему взялся инженер OpenAI Брент Траут.

Notion image

Разница видна на графике Амбросино. До исправления всё приложение доходило примерно до 6 ГБ уже на шести с лишним тысячах ответов за один ход. После исправления память держится около 2 ГБ даже на 32 768 ответах.

Траут уточнил, что исправления выходили постепенно последние пару недель, а улучшения получили и Codex, и веб-версия.

Следующий шаг

Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov