Развлекаюсь с локальными llm.
В обсуждениях на реддите самым популярным топиком являются программирование и *ролеплей*.

Хороший эвфемизм, мне нравится.
Ну и да, зафайнтюненные модели справляются прям на любую тему *ролеплея*.

Дальше надо будет прикрутить какую-нибудь вебморду, чтоб удобно ходить с других компьютеров.

Почитать про RAG, чтобы можно было прикрутить память.

И приделать тулы чтоб ллмка ходила в интернет и гуглила чего она не знает.

@snakequake sillytavern удобная веб морда, а интернет можно прикрутить через searNGX локально в docker и все.