ReFeRy
Ты, когда устанавливаешь нейросеть на домашнюю машину, фактически делаешь свой собственный маленький уютный датацентр. На встроенной видеокарте это не получится.
P.S. Можешь посмотреть на Авито подержанные видеокарты от разорившихся шахтеров разочаровавшихся в майнинге.

Можно призвать Три рубля. Он в блоги писал, что ставил себе SD и сравнивал разные версии.

Знакомая арендовала мощности, это жесть намного хуже прочих вариантов, оно постоянно вылетает, разрывает соединение или просто не работает, а деньги списываются как за работу, долго, дорого...
А так все логично: или платишь 500 р, или выполняешь сам ту работу и обеспечиваешь себе те мощности,, за которые с тебя и берут 500 р)

я поигралась с сд на ноуте. ну так... просто из любопытства можно скачать сборку, в которой не требуются доп. программы. но ваще быстро наскучило🤷‍♀️

Я тут тоже решил попробовать локальные нейросетки...
С LLM оказалось все просто: LM Studio и в нем в 2 клика загружаешь нужную модель. Но тут похоже надо пробовать другие интерфейсы - в LM Studio ограничения местами еще больше, чем в облачных LLM - не больше 5 файлов прикреплять можно и не больше 30 Мб...

С графическими моделями все чуток сложнее... Ну точнее на зеленых видеокартах все нормально, а вот с AMD до сих пор нужны танцы с бубном... Но вроде тут все решаемо: или форк stable-diffusion-webui-amdgpu с DirectML, или форк ComfyUI с Zluda, или на Линуксе через ROCm (но тут мне лень - у меня в Mint не хватит места на диске для моделей)

А вот с подключением в LLM нужных мне плагинов на Питоне похоже облом... Кое что железно требует PyTorch + CUDA.