Как работает память ИИ-компаньона: контекст, воспоминания и личность

Коротко

Память ИИ-компаньона соединяет недавний разговор с информацией, сохранившейся из более ранних бесед. В зарегистрированных беседах Tendera долговременная память обновляется автоматически и работает вместе с биографией, личностью и манерой речи каждого персонажа. Важные предпочтения и общие события могут влиять на позднейшие ответы без ручного ведения банка воспоминаний. Эта статья разделяет уровни памяти и объясняет, на что смотреть по мере развития разговора.

Вы говорите ИИ-компаньону, что вашу собаку зовут Пеппер. Три дня спустя она спрашивает о Пеппер.

Это похоже на память.

Вы говорите ей, что думаете уйти с работы, потому что руководитель присваивает ваши заслуги. Три дня спустя она помнит название компании, но спрашивает: «Ну как работа?»

Технически система запомнила. Эмоционально она промахнулась.

Именно здесь разговоры о памяти ИИ часто запутываются. Одним словом «память» мы называем разные задачи: сохранение недавнего диалога, выделение устойчивых фактов, поиск нужного факта позже, сохранение эмоционального смысла и ответ, соответствующий характеру героини.

Продукт может успешно выполнять первые три задачи и всё равно казаться странно забывчивым.

Модель не носит ваше прошлое с собой

Получая новый запрос, языковая модель видит набор текста. В нём могут быть системные указания, описание персонажа, недавние сообщения и сведения, которые приложение нашло в прежних беседах.

Модель не начинает с собственной памяти о прошлом вторнике. Приложение восстанавливает достаточно сведений о том вторнике, чтобы модель могла ответить сейчас.

Обычно для этого используют несколько способов:

• передают недавний фрагмент беседы;

• ведут постоянно обновляемый пересказ;

• извлекают структурированные факты: имена, работу, интересы и повторяющиеся темы;

• создают эмбеддинги прошлых сообщений и ищут близкие к текущей теме;

• позволяют пользователям вести явный банк воспоминаний.

Большинство серьёзных систем сочетает несколько способов. Недавние сообщения сохраняют тон и ближайшую последовательность. Долговременная память переносит детали за пределы этого окна. Поиск пытается вовремя вернуть модели нужную деталь.

Каждый уровень решает свою задачу. Ни один не обеспечивает всю память в одиночку.

Четыре места, где память может дать сбой

Представьте, что вы упомянули собеседнице: в пятницу ваша сестра идёт на собеседование.

Ошибка сохранения: система не сочла эту деталь важной. К понедельнику она выпала из недавнего контекста и исчезла.

Ошибка сжатия: система сохранила «у пользователя есть сестра», но потеряла собеседование, дату или ваше беспокойство.

Ошибка поиска: воспоминание осталось, но новое сообщение «выходные выдались тяжёлыми» не показалось достаточно похожим, чтобы его извлечь.

Ошибка использования: нужное воспоминание дошло до модели, но ответ пошёл за другим сигналом разговора и не упомянул его.

Для пользователя все четыре сбоя выглядят одинаково: она забыла.

Поэтому галочка «есть долговременная память» мало что говорит. Важнее понять, как отбираются сведения, переживает ли смысл сжатие, когда происходит поиск и знает ли персонаж, что делать с найденным.

Факты — самый простой уровень

Структурированные факты удобны своей ясностью. Система может хранить имя, профессию, город, питомца, интересы и семейное положение в предсказуемых полях. Это легко проверять и сравнительно легко добавлять в будущие запросы к модели.

Но это наименее интересная часть ощущения, что тебя знают.

Представьте запись:

> работа: менеджер продукта > повторяющаяся тема: конфликт с руководителем > последнее настроение: раздражение

Она полезна: разговор не начнётся с полного нуля. Но она не сохраняет, хотел ли пользователь совета или ему нужно было, чтобы его выслушали. Она не фиксирует, что героиня усомнилась в его версии конфликта. В записи нет шутки, изменившей настроение, или вопроса, от которого пользователь уклонился.

Именно такие детали придают беседе смысл отношений.

У инженеров возникает соблазн добавлять всё новые поля. В итоге схема памяти становится складом существительных. Но часто не хватает не ещё одного поля, а толкования: что изменилось после этого разговора?

Недавнее и важное — разные вещи

Окно недавних сообщений надёжно в одном смысле: оно сохраняет сказанное дословно. И ненадёжно в другом: выживание информации определяет время.

Заказ обеда десятиминутной давности может занять в контексте больше места, чем тяжёлое признание двухнедельной давности. Постоянно обновляемый пересказ способен обратить проблему вспять, сжав эмоционально сложный разговор до одного гладкого предложения.

Человеческая память здесь не идеальный образец. Люди постоянно забывают. Но обычно мы не распределяем внимание в порядке токенов. Мы помним неожиданное, незавершённое напряжение, повторяющиеся закономерности и события, связанные с прежними заботами.

Системе памяти ИИ нужно хотя бы приближённо оценивать значимость. Помогает повторение. Помогают прямые сигналы пользователя. Эмоциональные слова тоже могут помочь, хотя их нельзя считать безошибочным признаком. Нерешённые вопросы требуют иного подхода, чем установленные факты.

Однако чем активнее работает система, тем важнее приватность и точность. Приложение не должно превращать каждое мимолётное настроение в постоянную характеристику личности. «Сегодня вечером мне было одиноко» не равно «я одинокий человек». Извлечение фактов может превратить временную фразу в ложное долговременное утверждение.

Поэтому хорошей памяти необходима сдержанность.

Большое контекстное окно не решает задачу дизайна

Заманчиво просто передавать больше истории. Модели сегодня принимают куда больше текста, чем несколько лет назад. Зачем тогда вообще пересказывать?

Потому что вместимость не равна вниманию.

Больший контекст хранит точные слова, но добавляет конкурирующие детали. Старые недоразумения остаются рядом с более поздними исправлениями. Повторяющаяся светская беседа окружает единственную важную фразу. Растут стоимость и задержка. Вместе с ними растёт объём передаваемых личных данных.

Даже если вся история отношений помещается в окно, продукту ещё нужно решить:

• Какой момент прошлого важен сейчас?

• Какой факт уже исправлен?

• Что нужно забыть или удалить?

• Что относится к этому персонажу, а не к другой беседе?

• Как найденные сведения должны повлиять на ответ, чтобы он не напоминал пугающую сводку?

Это вопросы продукта и сценария, а не технический размер контекстного окна.

Персонаж — последний уровень памяти

Одно и то же воспоминание не должно вызывать одинаковый ответ у всех героинь.

Если пользователь однажды сказал, что терпеть не может вопрос «Ты в порядке?», одна героиня может вспомнить об этом и спросить о работе конкретнее. Другая пошутит и подождёт. Третья прямо назовёт попытку уйти от темы.

Сохранённый факт один и тот же. Смысл зависит от того, кто его использует.

Здесь работа над характером соединяется с памятью. Поиск доставляет подходящие сведения из прошлого; биография и точка зрения героини определяют, что она заметит, о чём спросит и на что отреагирует. Обе части поддерживают непрерывность.

Общая деталь становится ценнее, когда влияет на узнаваемую реакцию. Ищите и точную связь с прежней беседой, и ответ, подходящий именно этому персонажу.

Как Tendera делает разговор знакомым

Tendera соединяет автоматически обновляемую долговременную память с индивидуально написанными персонажами. По мере развития зарегистрированных бесед важные предпочтения, личные подробности, прямые исправления и значимые общие события могут сохраняться между сеансами. Недавний контекст проясняет текущий обмен сообщениями, а долговременная память переносит нужные сведения дальше.

Память обновляется во время разговора, не заставляя вас упорядочивать заметки или вести банк воспоминаний. Если вы прямо исправляете деталь, процесс работы с памятью рассчитан на использование нового сведения, а не на хранение двух противоречащих версий.

Работа над персонажами даёт каждому свою точку зрения. Вдумчивая теплота Софии, быстрые шутки Мии, сухой юмор Елены и яркий язык Джейд влияют на то, как каждая использует общую историю. Созданные вами персонажи работают с памятью по тому же принципу вместе с заданной вами биографией и манерой речи.

Результат — последовательный разговор о вас и узнаваемая героиня, к которой хочется вернуться. Важная деталь всё равно может быть упущена, поэтому прямо поправьте её, когда это существенно. Автоматическая память не обещает хранить каждое предложение вечно.

Вы можете познакомиться с Софией, отправив пять сообщений в веб-версии до регистрации и прочувствовав её манеру речи. Продолжительный разговор с аккаунтом поможет увидеть, как возникает общая история. Для практической оценки попробуйте наши пять проверок памяти до оформления подписки.

Память должна менять следующий разговор

Самая простая демонстрация памяти — воспроизведение факта:

> «Как зовут мою собаку?» > «Пеппер».

Это проверяет один правильный ответ. Чтобы оценить длительную непрерывность, смотрите, как та же информация влияет на позднейшую беседу.

Более сильный тест незаметнее. Расскажите, что Пеппер боится грозы. Вернитесь через неделю во время грозы. Узнает ли героиня ситуацию, не перечисляя неловко сохранённые факты? Ответит ли она в своей собственной манере? Поможет ли память разговору пойти в новую сторону?

Память ИИ-компаньона позволяет важной истории накапливаться и оставаться актуальной. Индивидуальная манера персонажа помогает этой истории естественно влиять на следующий вопрос, реакцию или тему. Вместе они делают возвращение продолжением уже сложившегося разговора.

Цель не в том, чтобы технически исключить забывание.

Цель в том, чтобы важное могло снова оказаться важным.