Что такое MemPalace?

Известная актриса Милла Йовович в сотрудничестве с разработчиком Беном Сигманом выпустила инструмент MemPalace, который предназначен для решения одной из самых больших проблем современных языковых моделей – потери контекста во время длительной работы. Современные системы искусственного интеллекта часто "забывают" детали предыдущих разговоров, как только сессия заканчивается. По подсчетам авторов проекта, шесть месяцев активного использования нейросети генерируют около 19,5 миллионов токенов информации. Это огромный массив данных, содержащий логику принятия решений, нюансы разработки архитектуры или детали отладки кода, который обычно бесследно исчезает, пишет 24 Канал.

Смотрите также Без OpenAI: Microsoft хочет создавать собственный ИИ

Проект MemPalace, который можно посмотреть на GitHub, базируется на уникальной архитектурной концепции, вдохновленной древнегреческой техникой запоминания – "методом локусов" или "комнатой ума" или "дворцом памяти". Это та самая концепция, которую использовал знаменитый Шерлок Холмс. Частица "Mem" в названии означает "Memory", то есть память.

Вместо того чтобы позволять алгоритмам самостоятельно решать, что является важным, система сохраняет абсолютно всю информацию, делая ее структурированной и легкой для поиска. Весь объем данных организуется в виде виртуального дворца, где существуют "крылья" для отдельных людей или проектов, "комнаты" для конкретных тем (например, выставления счетов или безопасность) и "залы", классифицирующие типы памяти: факты, события, открытия или предпочтения пользователя.

Особенностью архитектуры является наличие "туннелей", которые соединяют похожие темы между различными проектами, и "шкафов", где хранятся краткие резюме. Самый глубокий уровень хранения – это "ящики", в которых находятся оригинальные файлы без сокращений. Такая структура позволила улучшить точность извлечения необходимых данных на 34 процента по сравнению с обычными базами данных.

В основе лежит уникальная собственная разработка

Для обеспечения сверхвысокой скорости работы был создан специальный язык, фактически урезанный диалект английского, который назвали "AAAK". Эта сокращенная версия английского разработана специально для чтения машинами, а не людьми. Она обеспечивает сжатие информации в 30 раз без потерь, что позволяет искусственному интеллекту загружать контекст за месяцы работы, используя лишь около 120 токенов.

Этот диалект является универсальным и работает с любыми современными моделями, такими как Claude, GPT, Gemini или Llama.

Тесты впечатляют

  • MemPalace продемонстрировал впечатляющие результаты в бенчмарке LongMemEval, набрав 100 процентов (500 баллов из 500 возможных) при использовании дополнительного переранжирования.
  • Даже в "сыром" режиме без облачных запросов система показала 96,6 процента точности, что является самым высоким показателем среди всех опубликованных систем, включая платные аналоги.

При этом MemPalace является полностью бесплатным и открытым продуктом.

Важным преимуществом проекта является полная конфиденциальность. Система работает исключительно локально на компьютере пользователя, не требуя подключения к облачным сервисам или использования платных API-ключей. Это не только защищает данные, но и радикально снижает расходы.

Содержание такой памяти стоит около 10 долларов в год, тогда как использование стандартных методов резюмирования с помощью искусственного интеллекта могло бы обойтись в более 507 долларов за аналогичный период.

Инструмент легко интегрируется в рабочие процессы разработчиков через протокол MCP и поддерживает автоматическое сохранение важных моментов во время работы с кодом.