Термин «ИИ-агент» используется широко, но его значение трактуется по-разному: от чат-бота с поиском до системы, которая планирует задачи и вызывает внешние инструменты. Современные исследования рассматривают различия между этими подходами…
При работе с диалоговым ИИ, например ChatGPT, можно заметить, что модель, поначалу точно следовавшая указаниям, начинает отклоняться от задачи по мере добавления новых условий. Она повторяет уже исправленные ошибки или сохраняет первоначальные предположения. Хотя вся переписка доступна, некоторые важные условия словно теряются.
Задача меняется, когда от ИИ-агента требуется не просто дать правильный ответ, а найти нужную информацию на сайте, нажать соответствующую кнопку и при неудаче скорректировать действия. Решение состоит из последовательности действий, наблюдений и оценок. В ходе этой работы агент может нажать не ту кнопку…
После обучения большинство больших языковых моделей работает с фиксированными весами. Даже длинный документ обрабатывается механизмом внимания в пределах контекстного окна, без непосредственной адаптации весов к этому документу. Подход In-Place Test-Time Training предлагает альтернативу…