Вес модели — это числовой параметр внутри нейронной сети, который хранит результат обучения и определяет, как сеть реагирует на входные данные. Во время обучения система многократно корректирует миллиарды таких чисел, добиваясь правильных ответов на обучающих примерах. После завершения обучения веса фиксируются и сохраняются в файл, который затем загружается при каждом запуске модели. Именно размер этого файла — суммарный объём всех весов — обычно имеют в виду, когда говорят о «весе модели» в бытовом смысле.
Каждый вес представляет собой одно число с плавающей запятой. Современные крупные языковые модели содержат от нескольких миллиардов до нескольких сотен миллиардов таких чисел. Чем больше весов, тем больше объём файла и тем больше оперативной памяти или видеопамяти требуется для загрузки модели. Это прямая причина того, почему мощные модели не запускаются на обычном потребительском устройстве без специальных средств сжатия.
Для уменьшения объёма веса нередко сохраняют в сжатом формате: вместо полных 32-битных чисел используют 16-битные или даже 8-битные представления. Это снижает точность каждого отдельного параметра, однако на практике итоговое качество ответов ухудшается незначительно, а требования к памяти сокращаются в два-четыре раза.
Для конечного пользователя веса модели невидимы напрямую, однако они определяют, насколько быстро модель отвечает, сколько памяти занимает запущенное приложение и можно ли вообще запустить данную модель на конкретном устройстве или сервере.
Данные на 14.09.2026
Где это встречается
Как работает ChatGPT — Экспертиза №2
ChatGPT не ищет ответ в базе данных и не понимает вопрос в человеческом смысле. Он предсказывает следующий токен, потом ещё один, потом ещё — пока не наберётся связный текст. Каждый шаг занимает доли секунды, но шагов может быть несколько сотен подряд.