Параметр генерации, который контролирует степень случайности (креативности) выходных данных модели. Низкая температура (близкая к 0) делает ответы детерминированными и точными, высокая (ближе к 1) — более разнообразными и творческими.
Пример: Temperature 0.2 используется для генерации точных технических ответов, фактов. Temperature 0.8 — для мозговых штурмов, создания разнообразных идей и креативных текстов.
Температура — это гиперпараметр в генеративных моделях искусственного интеллекта, особенно в больших языковых моделях (LLM), который контролирует степень случайности или креативности в генерируемых ответах. Представляя собой число с плавающей точкой, обычно между 0 и 2, температура влияет на распределение вероятностей возможных следующих токенов.
При низкой температуре (например, 0.1-0.5) модель чаще выбирает наиболее вероятные токены, что приводит к детерминированным, предсказуемым и консервативным ответам. Это полезно, когда требуется точность и фактологичность.
Высокая температура (например, 1.0-1.5 и выше) увеличивает вероятность выбора менее очевидных токенов, делая ответы более разнообразными, творческими и неожиданными, но также и менее предсказуемыми, иногда вплоть до бессмысленных или галлюцинаторных. Этот параметр критически важен для тонкой настройки баланса между когерентностью и инновациями в генерируемом контенте.