локальное чудо

[thedeemon]

Столкнувшись недавно с лимитом запросов к AI в Warp'e, заинтересовался наконец что можно локально у себя запустить, на машине без мощного GPU. И оказалось вовремя, китайцы тут удружили недавно. Теперь есть модели, которые довольно шустро работают на CPU, безо всяких видеокарт. Рецепт такой

Comments

[freedom_of_sea]

а нет ли у китайцев модели которая лезет в поисковик, скачивает первую страниwe ссылок, изучает ее и тогда уже отвечает?

[thedeemon]

Не видел, ollama только локально работает.

Зато есть сайт https://www.perplexity.ai/ который именно это и делает, насколько я понимаю.