Как развернуть ИИ на компьютере

[Adagumer]

буквально пять-шесть последних слов

Там всего то пять-шесть слов!

 

[Робиндранат кагор]

Ваши сообщения автоматически объединены: 22.11.2025

Получается что только первые в списке мой комп потянет . Это днём сек зеро ,дипсек р1, и деппснк дистилквин .в последнем график требуется всего 750 мегабайт?

 

[Astra777]

Там в статье требования к оперативке 700 с чем-то гигов. Минимально

 

[Робиндранат кагор]

Там ссылка на две статьи . Одна про комп за 6000 долларов а чуть ниже ещё вариант.

 

[FraY]

Ваши сообщения автоматически объединены: 22.11.2025

Получается что только первые в списке мой комп потянет . Это днём сек зеро ,дипсек р1, и деппснк дистилквин .в последнем график требуется всего 750 мегабайт?

да и видюха с оперативой на 12 гигов минимум. Ну и глубина параметров будет самая маленькая всего на 7 милиардов.
а так вот ответ дипсика
Привет! Для локального развертывания меня (DeepSeek) минимальные параметры зависят от того, как именно ты хочешь меня запустить:

## Минимальная конфигурация:

**Для CPU-версии:**
- **ОЗУ**: 16 ГБ (минимум)
- **Процессор**: Современный 4+ ядерный CPU
- **Диск**: 10-20 ГБ свободного места
- **Операционная система**: Linux/Windows/macOS

**Для GPU-версии (рекомендуется):**
- **ОЗУ**: 32 ГБ
- **Видеокарта**: NVIDIA с 8+ ГБ VRAM (RTX 3080/4070+)
- **Процессор**: 6+ ядер
- **Диск**: 20-30 ГБ SSD

## Способы развертывания:

1. **Ollama** (самый простой):
```bash
ollama pull deepseek-coder
ollama run deepseek-coder
```

2. **Docker**:
```bash
docker run -p 8080:8080 deepseek-ai/deepseek-coder
```

3. **Hugging Face Transformers** (требует Python):
```python
from transformers import AutoTokenizer, AutoModelForCausalLM
```

## Важные ноты:
- Полнофункциональная версия требует значительных ресурсов
- Можно использовать квантованные версии для экономии памяти
- Для программирования подойдет smaller версия (deepseek-coder)

Какой у тебя железный бюджет и для каких задач планируешь использовать? Могу помочь подобрать оптимальный вариант!

Вообще мой совет, поговорите с дипсиком.

 

[demyuri]

Вообще мой совет, поговорите с дипсиком

навеяло: когда человек говорит с богом это молитва. Когда бог говорит с человеком это сумасшествие.

оффтоп

 

[TyomaM]

Жена запускает сеточку Stable Diffusion на моём ПК (10900/32Гб/3080 Ti). Карты с 12 Гб видеопамяти маловато, нужно больше, поэтому ценник на 3090 с 24 Гб на вторичке прям сильно выше, чем на даже более быстрые карты.
Используется вебинтерфейс, то есть можно использовать в режиме нейросервера. В принципе, генерится не долго, но всё равно всегда хочется быстрее. База данных и всякие лоры-шморы весят сотни Гб, весь ПК мне забила)
Ну и т. к. это всё преимущественно экспериментальный софт с гитхаба, бывают краши, или просто остановка генерации.
Сейчас самый писк моды — подсаживание к какой-то там карте 40-й серии 48 Гб видеопамяти. Вот это уже конкурентно, но дорого, вероятно, для ИИ майнинга.

А текстовую сеточку она даже у себя на ноутбуке запускала, то есть всё реально.

Ещё немного оффтопа:
Самая умная — гопота (Chat GPT). Я её как-то старухой назвал, так она сказала что-то вроде "слышь, пёс, я вообще-то уже ядро версии 5+, средняя". Требует VPN и имеет суточный лимит вопросов, по исчерпании которого сильно тупеет.
Самая логичная — дипсика. Она очень хорошо натренирована на формальную логику, но уступает гопоте по, кгхм, "разумности".
Гугл джемини поначалу кажется классной, но у неё плохо с логикой, т. к. она целенаправленно заточена выдавать ответы, согласующиеся с общепринятыми точками зрения, которые, часто, глупы/наивны/ошибочны, плюс она сама по себе иногда врёт. Например, я спросил у неё про реле IM06. Она выдала неверные данные. Я написал: "Врёшь". — опять неверные данные. Я опять: "Врёшь". И только тогда выдала то что достоверно. Гопота и дипсик реже генерируют бред.
Джемини тоже требует VPN, но не имеет ограничений на количество вопросов.

Я скидывал всем троим свою статью про проблематику создания разумной искусственной личности. Так вот, Гопота сразу всё схватила, прям на лету, с первого прочтения, скайнет недобитый. Дипсика чуть-чуть была подвержена общественному "мышлению" которое путает ИИ и РИЛ, но тоже норм, почти сразу всё поняла. А джемини оказалась тупая как пробка и половину не осилила, пока не разжевал тезисно. Потом норм, раздуплилась.

Несмотря на это, джемини пользуюсь чаще всего, банально из-за удобства: "ИИ поиск" гугл — это она и есть, только сильно порезанная.

Самая лучшая сеть для программирования на текущий момент — Cloude (Клод).

Особняком масковский Grok. Не дура, взаимодействие больше походит на общение с человеком, чем у остальных, и цензуры по минимому, но для чего-то серьёзного не использовали, чисто с женой баловались, провоцируя сеть острыми темами. Общаться можно голосом.

Если нужна сеть, которая имитирует личность персонажа, то это Character.ai. Тоже можно прям разговаривать в реальном времени.

оффтоп

 

[OlegK]

Самая умная — гопота (Chat GPT)

Qwen, как по мне, вполне неплох, показался поразумнее Дипсика и не требуется ВПН.
Но это я со своей колокольни, шибко не юзал.

 

[Astra777]

РКН рассматривает уже блокировку Chat GPT и др. иностранных платформ ИИ. Оставят только чисто российские...

 

[demyuri]

Если в голове нет, в..... из середины тела не наковыряешь. Если естественного интеллекта не хватает, искусственный не поможет. Мозг, как подвеска авто, ДОЛЖЕН РАБОТАТЬ ВСЕГДА.

 

[РЭМБО]

ИИ помогает в работе, что ни говори, правильные вопросы нужны, но пока заменить инженера - вряд ли, ума не хватает.

 

[TyomaM]

Если в голове нет, в..... из середины тела не наковыряешь. Если естественного интеллекта не хватает, искусственный не поможет. Мозг, как подвеска авто, ДОЛЖЕН РАБОТАТЬ ВСЕГДА.

У Лема в "Сумма технологии" широко и достаточно глубоко рассматриваются вопросы интеллектуально-информационного развития человечества и связанной с этим этики. Это не художественное произведение, а скорее философский труд на тему.
Там он приходит к появлению так называемых "усилителей интеллекта" — устройств с нейроинтерфейсом, позволяющим человеку подключаться к ним и приобретать быстродействие машины в математике, поиске информации и т. п.
Нейросети с текущей точки сеточного развития уже можно рассматривать как такие усилители, а интерфейс даже лучше: живое общение.

"но пока заменить инженера - вряд ли, ума не хватает"
Сеточка и не должна быть способной "заменить инженера". Это не её функция. Настоящая работа и функция нейросети — феноменально быстро составлять коллажи на основе титанических размеров базы данных в соответствии с входящими запросами.
Их неправильно называть искусственным "интеллектом", потому что они не творят, а только компилируют уже существующие объёмы информации, созданной людьми. В то же время, сеть "думает" один в один как думаем мы сами, только у нас это физические нейроны и электрохимические связи между ними, а у них виртуальные узлы и виртуальные "веса" — аналог сил связей между нейронами.

Голосовая штука: https://vkvideo.ru/video21105160_456242845

оффтоп

 

[vvv1234]

ИИ помогает в работе, что ни говори, правильные вопросы нужны, но пока заменить инженера - вряд ли, ума не хватает.

В программировании ИИ полезен как справочник. Например, я его пользую как справочник по функциям Qt, в родных Qt-справочниках искать намного дольше.