Американська технологічна компанія Tiiny AI Inc представила найменший у світі міні-ПК, розмір якого можна порівняти зі смартфоном.
Пристрій під назвою Tiiny AI Pocket Lab офіційно отримав рекорд як найменший міні-ПК, здатний локально запускати великі мовні моделі зі 100+ млрд параметрів.
Компактні габарити та потужні можливості
Габарити пристрою становлять 142 мм у довжину, 80 мм у ширину та 25,3 мм у висоту. Попри компактні розміри, Tiiny AI Pocket Lab позиціонують як перший у світі кишеньковий AI-суперкомп’ютер. Він може повністю виконувати великі мовні моделі до 120 мільярдів параметрів без підключення до хмарних сервісів, серверів або потужних графічних процесорів.
Міні-ПК розроблений для енергоефективного персонального оброблення даних. Він працює в межах енергоспоживання до 65 Вт. За словами розробників, це дозволяє забезпечити продуктивність великих AI-моделей зі значно меншими витратами енергії та нижчим вуглецевим слідом у порівнянні з традиційними GPU-системами.
Значення для розвитку штучного інтелекту
У Tiiny AI наголошують, що поява Pocket Lab є важливим зрушенням у розвитку штучного інтелекту. Компанія вказує на проблеми, з якими дедалі частіше стикаються хмарні AI-рішення: високу вартість енергії, перебої в роботі, витрати на передавання великих обсягів даних і ризики для конфіденційності. На думку розробників, ключовою проблемою сучасної AI-екосистеми є не нестача обчислювальної потужності, а залежність від хмарної інфраструктури.
«Хмарний штучний інтелект приніс значний прогрес, але водночас створив залежність, вразливість і проблеми зі стійкістю», — заявив директор GTM Tiiny AI Самар Бходж.
Він також зазначив, що компанія прагне зробити передовий штучний інтелект персональним і приватним: потужність великих моделей, за задумом Tiiny AI, має належати не дата-центрам, а користувачам.
Tiiny AI Pocket Lab орієнтований на широкий спектр застосувань — від розроблення та досліджень до створення контенту, навчання та професійної роботи. Пристрій підтримує багатокрокове міркування, глибоке розуміння контексту, агентні робочі процеси, генерацію текстів і безпечну обробку конфіденційної інформації навіть без доступу до Інтернету.
Окремо розробники наголошують на функції довгострокової персональної пам’яті: усі дані, документи та налаштування зберігаються локально з використанням шифрування банківського рівня. Це забезпечує рівень приватності та стійкості, недосяжний для більшості хмарних AI-систем.
Олексій Паламарчук