Що таке MemPalace?
Відома актриса Мілла Йовович у співпраці з розробником Беном Сігманом випустила інструмент MemPalace, який призначений для вирішення однієї з найбільших проблем сучасних мовних моделей – втрати контексту під час тривалої роботи. Сучасні системи штучного інтелекту часто "забувають" деталі попередніх розмов, як тільки сесія закінчується. За підрахунками авторів проєкту, шість місяців активного використання нейромережі генерують близько 19,5 мільйона токенів інформації. Це величезний масив даних, що містить логіку прийняття рішень, нюанси розробки архітектури чи деталі налагодження коду, який зазвичай безслідно зникає, пише 24 Канал.
Дивіться також Без OpenAI: Microsoft хоче створювати власний АІ
Проєкт MemPalace, який можна переглянути на GitHub, базується на унікальній архітектурній концепції, натхненній давньогрецькою технікою запам'ятовування – "методом локусів" або "кімнатою розуму" чи "палацом пам'яті". Це та сама концепція, котру використовував знаменитий Шерлок Голмс. Частинка "Mem" у назві означає "Memory", тобто пам'ять.
Замість того щоб дозволяти алгоритмам самостійно вирішувати, що є важливим, система зберігає абсолютно всю інформацію, роблячи її структурованою та легкою для пошуку. Весь обсяг даних організовується у вигляді віртуального палацу, де існують "крила" для окремих людей чи проєктів, "кімнати" для конкретних тем (наприклад, виставлення рахунків чи безпека) та "зали", що класифікують типи пам'яті: факти, події, відкриття чи вподобання користувача.
Особливістю архітектури є наявність "тунелів", які з'єднують схожі теми між різними проєктами, та "шаф", де зберігаються стислі резюме. Найглибший рівень зберігання – це "шухляди", у яких знаходяться оригінальні файли без жодних скорочень. Така структура дозволила покращити точність вилучення необхідних даних на 34 відсотки порівняно зі звичайними базами даних.
В основі лежить унікальна власна розробка
Для забезпечення надвисокої швидкості роботи було створено спеціальну мову, фактично урізаний діалект англійської, який назвали "AAAK". Ця скорочена версія англійської розроблена спеціально для читання машинами, а не людьми. Вона забезпечує стиснення інформації у 30 разів без жодних втрат, що дозволяє штучному інтелекту завантажувати контекст за місяці роботи, використовуючи лише близько 120 токенів.
Цей діалект є універсальним і працює з будь-якими сучасними моделями, такими як Claude, GPT, Gemini або Llama.
Тести вражають
- MemPalace продемонстрував вражаючі результати в бенчмарку LongMemEval, набравши 100 відсотків (500 балів з 500 можливих) при використанні додаткового переранжування.
- Навіть у "сирому" режимі без хмарних запитів система показала 96,6 відсотка точності, що є найвищим показником серед усіх опублікованих систем, включаючи платні аналоги.
При цьому MemPalace є повністю безплатний та відкритим продуктом.
Важливою перевагою проєкту є повна конфіденційність. Система працює виключно локально на комп'ютері користувача, не вимагаючи підключення до хмарних сервісів чи використання платних API-ключів. Це не лише захищає дані, а й радикально знижує витрати.
Утримання такої пам'яті коштує близько 10 доларів на рік, тоді як використання стандартних методів резюмування за допомогою штучного інтелекту могло б обійтися у понад 507 доларів за аналогічний період.
Інструмент легко інтегрується в робочі процеси розробників через протокол MCP і підтримує автоматичне збереження важливих моментів під час роботи з кодом.