MacPaw розробляє для macOS локальний ШІ без хмарних сервісів
MacPaw та американська технологічна компанія Liquid AI об’єднали зусилля, щоб розвивати локальний штучний інтелект для комп’ютерів Mac. У межах партнерства поєднають моделі Liquid Foundation Models, оптимізовані для macOS, із технологіями MacPaw — рушієм локального виконання Elix і системою пам’яті Mnemos. Першим продуктом, який отримає нові можливості, стане системний ШІ-асистент Eney.
Як працюватиме локальний штучний інтелект
Одна з головних цілей співпраці — перенести якомога більше обчислень безпосередньо на Mac. Для цього Liquid AI адаптує свої моделі до практичних завдань, які виконуватиме Eney, а MacPaw забезпечить їх запуск через власний рушій Elix.
Обробка запитів відбуватиметься на процесорах Apple Silicon. До хмарних ресурсів система звертатиметься лише тоді, коли завдання буде надто складним для локального виконання. Такий підхід має зменшити затримки, знизити залежність від інтернет-з’єднання та підвищити приватність користувачів.
Mnemos зберігатиме контекст взаємодії
Другий напрям партнерства — розвиток Mnemos, системи пам’яті MacPaw для ШІ. Вона дасть змогу Eney запам’ятовувати важливий контекст між різними сесіями, щоб точніше розуміти запити та не змушувати користувача щоразу повторювати ті самі пояснення.
Особисті дані при цьому залишатимуться на пристрої користувача. Поєднання локальної обробки та постійного контексту має зробити відповіді асистента швидшими, а його роботу — більш персоналізованою.
- Elix відповідає за локальний запуск ШІ-моделей на Mac.
- Mnemos зберігає контекст взаємодії між сесіями.
- Liquid Foundation Models забезпечують основу для інтелектуальних функцій асистента.
Платформа для розробників macOS
Запуск автономних функцій в Eney стане лише першим етапом проєкту. У MacPaw та Liquid AI зазначають, що моделі, інструменти для їхнього виконання та система пам’яті створюються як універсальна інфраструктура, а не як рішення лише для одного застосунку.
Після випробування технологій в Eney MacPaw планує надати доступ до локальної ШІ-платформи стороннім розробникам. Очікується, що тисячі команд зможуть використовувати її для створення програм для macOS через магазин застосунків Setapp.
Це може відкрити шлях до появи більшої кількості застосунків, які працюють із даними локально, швидше реагують на запити та менше залежать від віддалених серверів.
Хто такі MacPaw і Liquid AI
MacPaw — міжнародна продуктова IT-компанія, заснована в Києві. Вона має офіси в Бостоні та країнах Європейського Союзу, а її портфоліо охоплює програмне забезпечення й ШІ-сервіси для macOS, зокрема CleanMyMac і Setapp.
Liquid AI — технологічна компанія, заснована фахівцями, які раніше працювали в Массачусетському технологічному інституті. Її спеціалізація — ефективні моделі штучного інтелекту, здатні працювати безпосередньо на кінцевих пристроях.
Отже, партнерство має поєднати локальні ШІ-моделі, швидке виконання на Apple Silicon і довготривалу пам’ять асистента. Спочатку ці технології з’являться в Eney, а згодом можуть стати основою ширшої інфраструктури для застосунків macOS.