BLIND — передаточный конспект (продолжение с другого компьютера)

Обновлён: 2026-09-11 (вечер). Читай этот файл первым — он заменяет всю историю чата.

Что это за проект

Голосовой AI-ассистент для незрячего пожилого человека (отца юзера), живущий на ПК. Отец управляет ТОЛЬКО ГОЛОСОМ: говорит wake-word «Марта» → ассистент просыпается (куи «Ассистент готов к диалогу») → диалог → «до свидания» → куи «Спасибо, до новых встреч» и снова ждёт слова. Вне диалога микрофон слушает тихо и реагирует только на wake-word (фоновый ТВ/разговоры не будят — проверено).

Архитектура (модули = законченные проверяемые единицы)

микрофон → Silero-VAD (тишина 2с = конец фразы) → faster-whisper (STT, small/int8)
  → OpenRouter (LLM: gemma-3-27b обычно / glm-5.3-flash:online для погоды-курсов-новостей)
  → edge-tts (голос Svetlana, темп +15%) → стриминговая озвучка чанками-предложениями

modules/stt/ — faster-whisper 1.2.1, small/int8/CPU, RTF ~0.15. Фолбэк: Vosk (не реализован).
modules/tts/ — edge-tts 7.2.8 (Svetlana, TTS_RATE=+15) + офлайн-фолбэк piper 1.8.0 (голоса в models/piper/: dmitri, irina — irina проверена, 0.21 c синтез). Фабрика make_tts() из .env. Параллельные запросы по предложениям + кэш коротких фраз → типичный ответ синтезируется 0.5 c.
modules/tts/provider_edge.py → stream(text) — генератор чанков-предложений ( Assistant играет чанк сразу, не дожидаясь всего ответа).
modules/audio_io/ — Recorder (push-to-talk резерв), HandsFreeRecorder (VAD-режим, pre-buffer 0.4 c, noise gate RMS>0.006, suppress во время собственной речи), Player (stop = «Замолчи» за 8 мс; lead_silence 0.1 c против съедания первого слова), codec (mp3 через PyAV).
modules/brain/ — OpenRouter через openai-клиент (RF-нюансы: openai/* модели блокируются ToS OpenAI по аккаунту; прокси http://192.168.0.246:8887 → egress Италия 85.137.175.114). Маршрутизация online/offline: хинты (погод|курс|доллар|новост|спорт...) + контекст последних 4 реплик + маркеры уточнения. Промпт: короткие ответы, НО стихи/сказки целиком, многочастность [ЧАСТЬ i ИЗ n] с продолжением по «дальше», на уточнения — ответ по существу без извинений.
modules/assistant/ — машина состояний idle/listening/thinking/speaking, перебивание (поколенческий счётчик _generation), память между сессиями (data/memory.md, конспект по «до свидания»), куи-файлы (start/end/error/unclear), wake_word.py, errors.py (классификация).
modules/hotkeys/ — бэкенды: console (readchar, пробел работает без Enter; Linux без root) и keyboard_hook (Windows, глобальные клавиши из любого окна). Wake-word — основной способ.

Ключевые решения и грабли (обязательно прочти)

Веб-поиск: суффикс :online у OpenRouter (веб-плагин), НЕ свойство модели. Маршрутизация в _needs_online(question, history) — смотрит текущую фразу + историю + маркеры уточнения. Уточнение «я поэтому и спрашиваю...» после вопроса про акции → online-модель (фикс «извиняется, а не отвечает»).
GLM reasoning: z-ai/glm-* тратят max_tokens на размышления → при малом бюджете content пустой. max_tokens=2000.
Silero-VAD: только CPU-torch (GPU-пакеты 2.5 ГБ не нужны); модель принимает ТОЛЬКО torch.Tensor; на белом шуме даёт prob 0.86! → обязательный noise gate по RMS.
Колбэки рук: Assistant присваивает recorder.on_phrase (публичный атрибут!) — не спрятать в _private, иначе фразы уходят в никуда (уже ловили).
Wake-word matching: whisper ломает имена («Ага-то», «А гата», «Агад») → normalize склеивает дефисы, проверяется первое слово И склейка первых двух, обрубки-префиксы ок, но «мартовские» — нет (граница слова).
.env: при добавлении строк через >> файл может не кончаться \n → строки склеиваются, ключ ломается. После любой записи в .env проверяй длину ключа (sk-or-v1 = 73 симв).
Стриминг: Player.play() с lead_silence; чанки по 1 предложению; «Отвечаю...» печатается до синтеза.
Сегфолты в смоук-тестах — из-за реального звука из нескольких потоков; в тестах глушить play/play_file.

Конфиг (.env) — создаётся из .env.example

OPENROUTER_API_KEY (ключ юзера), OPENROUTER_PROXY=http://192.168.0.246:8887, OPENROUTER_MODEL=google/gemma-3-27b-it, OPENROUTER_MODEL_ONLINE=z-ai/glm-5.3-flash:online, TTS_PROVIDER=edge, TTS_VOICE=ru-RU-SvetlanaNeural, TTS_RATE=+15, PIPER_MODEL=models/piper/ru_RU-dmitri-medium.onnx, WAKE_WORD=марта, HOTKEY_DIALOG=space, HOTKEY_TALK=num 0, HOTKEY_STOP=esc, HOTKEY_REPEAT=enter.

Окружение (на этой машине)

.venv на python3.13 (Debian: venv без pip — ставить python3 -m pip --python .venv install ...).
torch 2.14.0+cpu, torchaudio 2.11.0+cpu (CPU-варианты!), silero-vad 6.2.1, faster-whisper 1.2.1, edge-tts 7.2.8, piper-tts 1.8.0, sounddevice 0.5.6 (Linux: нужен apt-пакет libportaudio2), keyboard 0.13.5, readchar 4.2.2, openai 3.13.0.
Модели: ~/.cache/huggingface (whisper small), models/piper/ (121 МБ).
Первый старт whisper качает модель ~460 МБ (если HF недоступен: HF_ENDPOINT=https://hf-mirror.com).

Как запускать (проверенные команды)

cd ~/cloud/AI/Blind
source .venv/bin/activate   # или .venv/bin/python напрямую

# Живой ассистент (wake-word «Марта», всё голосом):
.venv/bin/python modules/assistant/test_free.py
#   «Марта» → диалог → «До свидания». Консоль: s/r/пробел/q (readchar, без Enter)

# Регресс модулей:
.venv/bin/python modules/stt/test_stt.py --make-sample       # STT
.venv/bin/python modules/audio_io/test_audio_io.py auto      # аудио
.venv/bin/python modules/brain/test_brain.py clean           # очистка MD (офлайн)
.venv/bin/python modules/brain/test_brain.py ask             # LLM
.venv/bin/python modules/tts/test_tts.py --play              # TTS

# Перегенерация куи (после смены голоса/темпа):
.venv/bin/python assets/earcons/generate_cues.py --force

Пользовательские решения (зафиксировано)

Голос: edge-tts Svetlana, темп +15% («женский приятный»); Piper dmitri/irina — фолбэк (быстрее, но не понравился темп/голос).
Wake-word: «Марта» (пробовали «Агата» — whisper искажал «Агад»).
Свободный режим принят: «значительно лучше, чем нажимать кнопки».
Тумблер диалога: пробел (дублируется wake-word), куи из готовых wav.

ЧТО ДАЛЬШЕ (по порядку)

Модуль 6: Telegram — мост сын↔ассистент: сообщения юзера озвучиваются отцу («Пришло сообщение от Александра: …»), отец отвечает голосом → в чат юзеру. Нужен токен бота (@BotFather → /newbot) → в .env TG_BOT_TOKEN. Библиотека aiogram 3.x (крутить в отдельном потоке; в edge-TTS уже учтён чужой event loop — _run_async).
Модуль 7: Earcons — короткие музыкальные сигналы на статусы (думаю/готов/ошибка) вместо длинных фраз; ассистент уже вызывает on_state_change(state, note) — вешать на него.
Модуль 8: Сборка exe для Windows — PyInstaller; глобальные клавиши (HOTKEY_* уже в .env); Silero-VAD заменить на ONNX-версию (2 МБ, без torch); тест на ПК отца.
Хвосты: живой тест памяти «2 запуска» юзером; паузы между строфами стихов (по желанию).

Известные открытые мелочи

Стриминговый путь: история/конспект пополняются до стрима — маркер [ЧАСТЬ i ИЗ n] в _last_speech для «Повтори» не сохраняется из чанков (повтор последней ЧАСТИ, а не всего текста).
Веб-поиск медленный (5–10 c) — если раздражает, ускорять стримингом или мини-моделью.
edge-tts нестабилен исторически (неофициальный API MS) — фолбэк Piper готов, переключение 1 строкой в .env.
Vosk-фолбэк для STT не реализован (решение отложить до замеров на слабом ПК отца).
Развертывание A (монолит Windows) vs B (гибрид Docker) — НЕ выбрано окончательно; код кроссплатформенный, интерфейсы провайдеров позволяют вариант B (provider_http + FastAPI на сервере юзера).

11 KiB Raw Blame History Unescape Escape