Google сделали облегченную версию Gemini и добавили её в Chrome Canary (браузер для разработчиков).
Хоть это и тестовая версия, но работает очень быстро. Задержка перед ответом составляет меньше 100 мс.
Из плюсов: модель работает без интернета и не нагружает устройство. Нейросети можно задать вопрос, попросить перевести на немецкий, изменить стиль сообщения и проверить грамматику.
Устанавливаем локальный ИИ тут.