MacPaw і Liquid AI створюють локальний ШІ для Mac: який продукт першим його отримає
Українська компанія MacPaw оголосила про партнерство з розробником мовних моделей Liquid AI. Спільна команда інженерів створює унікальний технологічний стек для запуску штучного інтелекту безпосередньо на комп'ютерах Mac без використання хмарних серверів. Першим продуктом, який отримає нові можливості приватності та швидкодії вже цього року, стане розумний асистент Eney.
Як це працюватиме
Інтеграція нових технологій дозволить асистенту Eney виконувати більшість своїх звичних завдань локально, використовуючи потужності чипів Apple Silicon серії M1 та новіших. Завдяки цьому запити користувачів, їхні файли та результати роботи моделі залишатимуться виключно на пристрої, розповіли 24 Каналу в компанії MacPaw.
Такий підхід гарантує абсолютну конфіденційність персональних даних, миттєву швидкість відповідей без затримок на зв'язок із сервером, а також можливість працювати без підключення до інтернету. Хмарні обчислення залучатимуться лише для виконання надскладних або тривалих завдань, де вони залишаються більш ефективним інструментом.
Спільна розробка поєднує ефективні моделі загального призначення Liquid Foundation Models (LFM) від Liquid AI із власними технологіями MacPaw. Зокрема, йдеться про фреймворк для інференсу Elix, який забезпечує швидку роботу ШІ в умовах обмежених ресурсів процесора та пам'яті, не сповільнюючи інші програми.
Другим ключовим компонентом є Mnemos – шар довготривалої пам'яті, що дозволяє асистенту зберігати контекст попередніх розмов, вивчати звички користувача та ставати кориснішим із часом, залишаючи всі ці знання під контролем власника Mac.
Майже два десятиліття ми створювали програмне забезпечення для Mac, а тепер об'єднуємо окремі продукти у єдину технологічну екосистему, у якій AI – це технологія, яку ми самі розробляємо та якою володіємо,
– зазначає засновник і генеральний директор MacPaw Олександр Косован.
За його словами, штучний інтелект має бути за замовчуванням приватним, швидким і використовувати хмарний сервіс лише тоді, коли це справді потрібно. "Поєднуючи інженерну експертизу MacPaw з моделями Liquid AI, ми будуємо AI-стек для Mac, де інтелект працює на пристрої, а особисті дані користувача лишаються захищеними", – додає він.
Що відомо про Liquid AI?
Компанія Liquid AI, заснована у 2023 році, є розгалуженням головної дослідницької лабораторії штучного інтелекту Массачусетського технологічного інституту (CSAIL). Її співзасновниками стали директорка лабораторії Даніела Рус, генеральний директор Рамін Хасані, технічний директор Матіас Лехнер та директор з безпеки Александр Аміні. Вони розробили архітектуру Liquid Neural Networks, надихаючись нервовою системою нематоди Caenorhabditis elegans. Ця архітектура робить ШІ надзвичайно компактним та енергоощадним, що ідеально підходить для локального запуску. Їхні рішення вже використовують такі гіганти, як Mercedes-Benz, Insilico Medicine та Shopify.
Ми створюємо ефективні фундаційні моделі та інструменти для них, щоб компанії могли приносити інтелект на пристрої, якими вже користуються їхні клієнти,
– коментує співзасновник і генеральний директор Liquid AI Рамін Хасані.
Він підкреслює, що це партнерство принесе ефективні та приватні локальні моделі мільйонам користувачів Mac.
Як працюватиме новий AI-стек?
Партнерство не є звичайним контрактом із вендором, а являє собою глибоку спільну R&D-роботу двох інженерних команд. Фахівці MacPaw беруть безпосередню участь у навчанні та оцінці моделей на основі реальних завдань користувачів.
При цьому особисті файли не використовуються для тренування – моделі навчаються на синтетичних даних, а MacPaw передає лише агреговані та анонімізовані патерни використання. Безпека також гарантується нативною моделлю дозволів macOS: Eney запитує підтвердження для доступу до нових даних або виконання потенційно небезпечних дій.
У MacPaw зазначають, що їхня розробка доповнює Apple Intelligence. Тестування показало, що базових моделей Apple (AFM) наразі недостатньо для повноцінної роботи асистента Eney, тому компанія створює власний повний стек.
Запуск моделі локально – це лише перший крок, тоді як найскладнішим є побудова агентних процесів та забезпечення їхньої надійної роботи. Після успішного впровадження в Eney, MacPaw планує зробити цю інфраструктуру доступною для сторонніх розробників через маркетплейс Setapp, перетворюючи його на повноцінну AI-екосистему. Деталі щодо доступу та комерційних умов для бізнесу будуть оголошені після релізу перших результатів.