Отучить нейросеть врать и придумывать — одна из самых нетривиальных задач, независимо от того, пользуетесь ли вы ею, как справочником, пишете с ее помощью код, или же встраиваете в качестве движка в свою программу. Мы уже обсуждали в самом начале, что «лживость» и «апломб» заложены в саму природу больших лингвистических моделей. LLM должна выдать ответ, наиболее вероятный с точки зрения соответствия ее обучающей выборке, а оценить его релевантность с позиций реального мира не может, так как в этом мире не живет и ничего, помимо текстов, на которых обучена, про него не знает.
Мир наизнанку. Как программировать и не писать код
·
Константин Хайт
