Смерть матриць? Дослідники створили нейромережу нового типу, яка працює в 100 разів швидше і споживає в 10 разів менше пам’яті

Команда вчених та інженерів презентувала нову архітектуру штучного інтелекту, яка повністю відмовляється від класичного множення матриць (Matrix Multiplication) — основи, на якій базувалися абсолютно всі сучасні мовні моделі (LLM), від ChatGPT до Claude та Llama.
Замість важких і ресурсоємних матричних обчислень розробники реалізували концепцію “Ternary Linear Layers” (Трійчасті лінійні шари). У новій архітектурі ваги моделі можуть набувати лише трьох значень: -1, 0 або +1.
Чому це справжня революція для розробників та IT-індустрії:
- Прощавай, expensive GPU-кластери: Оскільки множення векторів замінюється простим додаванням та відніманням на рівні заліза, модель розміром 70 млрд параметрів тепер можна запускати локально на звичайному ноутбуці або навіть на флагманському смартфоні без втрати якості генерації.
- Енергоефективність х100: Споживання електроенергії під час інференсу (генерації відповіді) впало на два порядки. Це фактично знімає головний дефіцит дату-центрів IT-гігантів — проблему нестачі енергопотужностей та охолодження.
- Швидкість (Tokens per second): Швидкість генерації тексту та коду зросла в середньому у 8–12 разів порівняно з аналогічними за розміром традиційними трансформерами.
Що це означає для ринку?
Ніша відеокарт та дата-центрів знаходиться на порозі найсильнішої струси за останні 10 років. Якщо раніше поріг входження у створення власної потужної LLM вимагав мільйонних бюджетів на оренду GPU, тепер локальний Edge AI (ШІ прямо на пристрої користувача) стає реальністю для кожного Fullstack/ML-розробника.
Вихід вихідного коду (Open-Source) та вагових коефіцієнтів першої версії моделі заплановано вже на наступний вівторок на Hugging Face.