Вот нашел, попробовал LM Studio, оболочку для нейросетей
https://lmstudio.ai/
Собственная нейросеть у вас на вашем компе, использовать можно сколько влезет и без тормозов.
Можно выбрать какую конкретно установить, я просто баловался, установил самую простую Llama
Отвечает неплохо, но в русском допускает ошибки. Но там и других моделей нейросетей хватает.
Единственное требование:-нужен довольно мощный комп, минимум 16 Гб оперативки и хотя бы 1060 видеокарта.
https://lmstudio.ai/
Собственная нейросеть у вас на вашем компе, использовать можно сколько влезет и без тормозов.
Можно выбрать какую конкретно установить, я просто баловался, установил самую простую Llama
Отвечает неплохо, но в русском допускает ошибки. Но там и других моделей нейросетей хватает.
Единственное требование:-нужен довольно мощный комп, минимум 16 Гб оперативки и хотя бы 1060 видеокарта.