Локальний AI Віталіка Бутеріна: Чи може ваш ноутбук замінити ChatGPT?

Співзасновник Ethereum Віталік Бутерін стверджує, що локальний штучний інтелект (AI) близький до виконання великої частини повсякденних завдань. Він запустив Qwen3.8-Flash-Next від Alibaba на своєму ноутбуці та опублікував результати швидкості.

На відміну від ChatGPT, ця установка ніколи не контактує з хмарним сервером. Модель знаходиться на машині, і машина сама відповідає на запит.

Тест локального AI Віталіка Бутеріна показує прийнятну швидкість

Його ноутбук використовує чіп Strix Halo від AMD. Більшість комп'ютерів розподіляють роботу між процесором і окремою графічною картою, і кожен з них має свій власний обсяг пам'яті. Strix Halo об'єднує обидва на одному чіпі і дозволяє їм ділити один обсяг пам'яті.

Цей дизайн важливий, оскільки модель AI повинна поміститися в пам'ять, перш ніж вона зможе працювати. Звичайна графічна карта пропонує 8 до 24 гігабайт, що занадто мало для моделі такого розміру. Ноутбуки на базі Strix Halo постачаються з обсягом пам'яті до 128 гігабайт, який може використовувати будь-яка частина чіпа. Таким чином, один ноутбук може вмістити модель, яка до недавнього часу потребувала серверного обладнання.

Швидкості, які він опублікував, достатньо для звичайної роботи. Короткі запити поверталися з комфортною швидкістю читання. Вихід сповільнювався, коли запит складав десятки тисяч слів, тому дуже довгі документи залишаються слабким місцем.

Alibaba опублікувала відкриті ваги 26 серпня. Команда стверджує, що модель має 125 мільярдів параметрів, але активує лише шість мільярдів одночасно, що утримує вимоги до пам'яті на помірному рівні.

Бутерін назвав її Qwen3.8-Flash, хоча Alibaba постачає завантажувану версію як Qwen3.8-Flash-Next. Її більший брат, Qwen3.8-Max, отримав високі бенчмаркові оцінки в серпні.

Qwen 3.8 flash дійсно вражає, а llama.cpp швидко покращується в обробці його
стовпці: попередній запит, новий запит, згенерований, вхідний ток/с, вихідний ток/с
Це на моєму ноутбуці (strix halo). Я думаю, що ми дуже близькі до моменту, коли ви... pic.twitter.com/v5Ze4Fv5Wr
--- vitalik.eth (@VitalikButerin) 17 вересня 2026

Чому конфіденційність змінює розрахунок

Бутерін бачить другий виграш, крім простої швидкості. Локальна модель відповідає на пристрої, тому жоден постачальник ніколи не отримує запит.

Для більш вимогливої роботи він пропонує розподіл. Локальна модель оброблятиме те, що може, а потім видалить чутливі деталі з будь-чого, що передається до більшої хостингової системи.

"використовуйте свою локальну модель для організації запитів до потужних моделей, щоб ваші запити не витікали вашу особисту інформацію"

На практиці локальна модель витягне імена, адреси гаманців або приватний код з запиту, а потім передасть лише залишене питання. Таке фільтрування зменшить те, що залишає пристрій. Це не гарантує, що нічого чутливого не прослизне.

Ця пропозиція відповідає його запису. Він попереджав про спостереження під час боротьби з контролем чату в ЄС, а користувачі криптовалюти закликали до більш суворих обмежень для агентів з подібних причин.

Колективний позов, поданий у травні, звинувачує OpenAI в обміні запитами користувачів ChatGPT з Meta і Google.

Хмарні постачальники все ще володіють фронтиром. Проте кожен приріст локальної продуктивності переносить більше рутинної роботи з їхніх серверів, а дешеве обладнання з розділеною пам'яттю продовжує поширюватися.

Відкритим питанням залишається, скільки можливостей люди готові обміняти на контроль.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.