Генеральный директор Shopify Тоби Лютке и бывший исследователь Tesla и OpenAI Андрей Карпати считают, что контекст важнее, чем сами подсказки при работе с крупными языковыми моделями. Лютке назвал это основной способностью, а Карпати подчеркнул: это «тонкое искусство и наука — наполнять контекст именно той информацией, которая нужна для следующего шага».
По словам Карпати, если информации слишком мало или она представлена в неправильной форме, языковая модель не сможет работать эффективно. Если информации слишком много или она не по делу, увеличиваются затраты и качество ответа снижается. Карпати отметил: «Делать это правильно очень и очень сложно».
Даже у моделей с большими окнами контекста сильная перегрузка или лишние данные могут ухудшить работу системы.
