Существует фундаментальный недостаток в том, как работают современные ИИ-агенты. Вот что сделает следующее поколение, чтобы это исправить.
Ключевые выводы:
ИИ часто терпит неудачу за пределами демонстраций, потому что не может учиться на реальных ошибках или адаптироваться к непредсказуемым пользователям и системам.
Основатели, которые сосредотачиваются на ИИ, улучшающемся со временем — а не просто выполняющем команды — превращают автоматизацию в реальные бизнес-результаты.
Согласно интернету, стартапы управляют целыми компаниями на ИИ. У основателей есть ИИ-отделы продаж, закрывающие сделки, пока они спят. ИИ-агенты якобы заменяют целые отделы за одну ночь.
Между тем, ваши агенты останавливаются. Они делают сомнительные вызовы инструментов, зацикливаются и не могут надёжно выполнять задачи.
Это не значит, что вы отстали. Это значит, что вы работаете в реальном мире.
Ваши ИИ-агенты взаимодействуют с реальными клиентами, реальными корпоративными системами и реальными ограничениями. Когда они совершают ошибки, эти ошибки не исчезают в демо — они стоят времени, денег и репутации.
Вы не одиноки. Исследование MIT помогает объяснить, почему этот разрыв существует.
Такие инструменты, как ChatGPT, теперь повсеместны. MIT обнаружил, что примерно 90% сотрудников в опрошенных компаниях регулярно используют большие языковые модели на работе. Агенты для написания кода, такие как Claude Code, Cursor и Codex, стали стандартом во многих рабочих процессах разработчиков.
Но область с наибольшим ажиотажем — это также область с наименьшим успехом: ИИ-агенты, предназначенные для автоматизации задач — и в конечном итоге целых бизнес-функций.
Исследование MIT показало, что 95% пилотных проектов, связанных с генеративным ИИ для конкретных задач или встроенным ИИ, не смогли обеспечить устойчивую производительность или влияние на прибыль и убытки после развёртывания в производство.
Почему? Потому что современный ИИ хорошо работает для простых задач, но ломается, когда ставки выше. Пользователи обращаются к ChatGPT за быстрыми ответами, а затем отказываются от него для критически важной работы. Не хватает систем, которые могут адаптироваться, запоминать и улучшаться со временем.
Исследователи обращают на это внимание. Исследовательские группы из таких учреждений, как Стэнфорд и Университет Иллинойса, опубликовали исследования, показывающие, что большинство ИИ-агентов не могут адаптироваться на основе собственного опыта.
Google DeepMind исследовал ту же проблему в своей работе над Evo-Memory, которая оценивает, насколько хорошо агент учится и развивается во время работы.
Мои собственные исследования также были сосредоточены на этом разрыве. В исследовательской статье, которую я соавторствовал с Центром ИИ и анализа данных Сангхани Технологического института Вирджинии, мы предложили новый подход к памяти агента под названием Hindsight. Исследование показало, как использование путей памяти для хранения и осмысления опыта агентов позволяет им учиться на этом опыте.
Вместе эти усилия указывают на важный сдвиг: появление адаптивной памяти агента.
Почему это важно в реальном мире? Сегодня, когда ИИ-агент терпит неудачу, инженеры исправляют его вручную. Они настраивают промпты, переписывают инструкции, меняют описания инструментов или добавляют примеры. Эти изменения могут помочь — но они не масштабируются.
Промпты становятся длиннее и хрупче. Исправления одной проблемы могут сломать что-то ещё, что работало. И как только агент запущен, проблема усугубляется.
Реальные пользователи ведут себя непредсказуемо. Объёмы взаимодействий увеличиваются. Сбои становится труднее отслеживать и диагностировать. Одна ошибка управляема. Десятки сбоев в день — нет.
Без возможности для ИИ учиться на этих взаимодействиях прогресс остаётся постепенным — и дорогим.
Почему память — это недостающий элемент? Чтобы понять, почему это важно, рассмотрим простой вопрос: чего достиг бы Альберт Эйнштейн, если бы у него был весь его интеллект, но не было памяти?
Это, по сути, состояние современного ИИ.
Современные языковые модели невероятно эрудированны, но они повторяют одни и те же ошибки, потому что не учатся на опыте. Агент службы поддержки, который сегодня неправильно выдал возврат средств, скорее всего, совершит ту же ошибку завтра. Агент, который правильно отвечает на вопросы в 70% случаев, не понимает, почему он терпит неудачу в остальных 30%.
Ранние решения «памяти» не решили эту проблему. Они просто искали контекст в прошлых разговорах.
Следующее поколение адаптивной памяти агента отличается. Эти системы позволяют агентам отделять факты от опыта, размышлять о результатах и задавать критический вопрос: Как я могу сделать лучше в следующий раз?
Вывод для основателей: Для основателей, создающих рабочую силу на основе ИИ, этот сдвиг значителен.
Будущее — это не просто ИИ-агенты, которые выполняют инструкции. Это агенты, которые улучшают себя, со временем сокращают количество ошибок и становятся более надёжными, чем дольше они работают.
Вот как ИИ переходит от впечатляющих демонстраций к устойчивому бизнес-эффекту — и как стартапы превращают эксперименты в реальное конкурентное преимущество.