Модель машинного обучения, предварительно обученная на больших объёмах данных для выполнения общих задач. Может быть дообучена (fine-tuned) под конкретные задачи или домены без обучения с нуля.
**Пример:** Предобученная модель распознавания изображений дообучается на каталоге мебели, чтобы точно классифицировать товары по категориям и стилям.
Предобученная модель — это модель машинного обучения, которая была обучена на очень больших объемах общедоступных данных для выполнения общей задачи. Например, языковая модель может быть предобучена на огромном корпусе текстов для понимания языка, или модель компьютерного зрения — на миллионах изображений для распознавания объектов.
Цель предобучения — создать универсальную базу знаний или навыков, которые затем можно адаптировать к более специфическим задачам с гораздо меньшими затратами ресурсов и времени. Это достигается за счет переноса знаний, полученных в процессе масштабного первоначального обучения.
После предобучения модель можно дообучить (fine-tune) на меньшем, специализированном наборе данных для решения конкретной задачи. Такой подход значительно снижает требования к вычислительным ресурсам и объему данных для дальнейшего обучения, а также позволяет достичь высокой производительности даже при ограниченном количестве размеченных данных для целевой задачи. Это краеугольный камень современного искусственного интеллекта, особенно в области глубокого обучения и больших языковых моделей.