Как работает ChatGPT и другие LLM

Большая языковая модель (LLM) — нейросеть, обученная предсказывать следующее слово. Прочитав триллионы текстов, она научилась «вероятному продолжению» — а это выглядит как знание и рассуждение. Она не ищет ответ в базе: она генерирует его буква за буквой. Поэтому может уверенно выдумывать факты — это называется «галлюцинация».

• ●Промпт (запрос) → токены (куски слов) → вероятности → ответ
• ●Контекст: модель «помнит» текущий диалог, но не тебя лично
• ●Температура: выше → креативнее и ошибочнее, ниже → точнее и скучнее