На картеНаконец собрался и запустил Bionic с локальным Qwen3.8 27B. Тот случай, когда путь до простого «работает» занял заметно больше времени, чем хотелось бы.
До этого я пытался подключить Qwen к Codex через Codex Router и использовать как полноценную модель. Связка запускалась, но на практике локальная модель получала тяжёлый системный контекст, длинную историю и множество инструментов. Ответа иногда приходилось ждать так долго, что всё выглядело зависшим.
В итоге я решил разделить задачи. Qwen работает на Mac mini M4 с 48 ГБ объединённой памяти. Bionic запущен на MacBook и подключается к модели через LM Studio и LM Link. Первый нормальный тест пройден: короткую заметку Qwen подготовил за 1 минуту 51 секунду.
На скриншоте — тот самый первый ответ. Забавно, что модель рассуждает о собственной установке и заодно показывает границу: просить её можно о многом, но рабочий контур должен соответствовать возможностям локального железа.
Теперь буду постепенно переносить в Bionic разные задачи и смотреть, где локальный Qwen действительно полезен. Без попытки заменить им все облачные модели и весь Codex сразу. Сначала конкретная задача, разумный контекст и проверяемый результат.
Следующий шаг
LM Studio — локальный запуск LLM и агент Bionic
Если вы тоже подбираете рабочий контур для локальной модели, можно обсудить, какие задачи стоит оставить на своём железе и чем их запускать.
Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov
