✎ AI Models & Hardware Guide

Вы загрузили старую версию документа! Сохранив её, вы создадите новую текущую версию с этим содержимым.

====== AI Models & Hardware Guide ======

----
==== Введение ====

Данная документация содержит актуальную на 2026 год информацию по подбору, настройке и запуску современных языковых (LLM) и мультимодальных моделей на локальном оборудовании. Основной фокус — на видеокартах NVIDIA с 8 ГБ (RTX 4060) и 12 ГБ (RTX 3080 Ti) видеопамяти.

----
==== Аппаратная платформа (SFF Workstation) ====

===== Блок питания =====

Спецификация для компактной рабочей станции HP 805D SFF.

===== Совместимые низкопрофильные (Low Profile) видеокарты =====

Возможности апгрейда для корпуса SFF.

----
==== Выбор моделей ИИ под объем VRAM (2026) ====

===== Обзор по семействам моделей для 8 ГБ VRAM =====

===== Рекомендации по квантованию для разного железа =====

===== Подробные таблицы для конкретных GPU =====

=== Для RTX 3080 Ti (12 ГБ VRAM) ===

=== Для RTX 4060 (8 ГБ VRAM) ===

----
==== Специализация моделей ====

===== Модели для программирования (Coding) =====

===== Генерация изображений (NSFW/Art) =====

===== Автоматизация (n8n, AI Agents) =====

----
==== Глоссарий и справочник по квантованию ====

===== Типы квантования GGUF (llama.cpp) =====

^ Тип ^ ~Биты ^ Качество ^ Рекомендация ^
| **Q8_0** | 8.5 | Практически оригинал | Для моделей ≤9B при избытке VRAM. |
| **Q6_K** | 6.6 | Отличное | "Золотой стандарт". Разница с оригиналом незаметна. |
| **Q5_K_M** | 5.5 | Очень высокое | Оптимальный баланс для 12-14B моделей на 12 ГБ. |
| **Q4_K_M** | 4.8 | Хорошее | Самый популярный выбор. Лучший баланс "размер/качество". |
| **Q3_K_M** | 3.9 | Среднее | Для запуска 14B моделей на 8 ГБ VRAM. |
| **Q2_K** | 3.3 | Низкое | Только для ознакомления, возможны "галлюцинации". |

===== Квантование с Imatrix (IQ) – более эффективное =====

===== Расшифровка суффиксов =====

----
==== Инструменты и ПО ====

===== Локальный запуск LLM =====

===== Разработка и автоматизация =====

===== Генерация изображений =====

===== Ресурсы с моделями =====

----
==== Прямые ссылки на ключевые модели (GGUF) ====

Скачивайте файлы `.gguf` для использования в LM Studio или Ollama.

**Рекомендация по загрузке:** 
Для **RTX 3080 Ti (12 ГБ)** ищите модели от автора **`bartowski`** — его кванты считаются эталоном по балансу память/качество. Для моделей 12B-14B выбирайте **`Q4_K_M`** или **`Q5_K_M`**.
Для **RTX 4060 (8 ГБ)** ищите модели от **`mradermacher`** (специализируется на IQ-квантах для 8 ГБ) или **`bartowski`**. Для моделей 12B-14B берите версию **`IQ3_M`**.

----
==== Онлайн-сервисы и агрегаторы ====

===== Бесплатные онлайн-чаты =====
  * **DeepSeek Chat:** [[https://chat.deepseek.com/|chat.deepseek.com]]
  * **Qwen Chat (Alibaba):** [[https://chat.qwen.ai/|chat.qwen.ai]]
  * **Yandex GPT (Alice):** [[https://alice.yandex.ru/|alice.yandex.ru]]
  * **Gemini Chat:** [[https://gemini.google.com/|gemini.google.com]]

===== Агрегаторы и сравнение моделей =====
  * **OpenRouter:** [[https://openrouter.ai/chat|openrouter.ai]] — сравнивает сотни моделей, есть бесплатные квоты.
  * **Chat Arena (LMSYS):** [[https://chat.lmsys.org/|chat.lmsys.org]] — слепое тестирование разных моделей.

===== Специализированные сервисы =====
  * **Распознавание речи:** [[https://speech2text.ru/|speech2text.ru]]
  * **Перевод и транскрипция:** [[https://www.deepl.com/|DeepL]]

----
==== Новости и обновления ====

Для отслеживания новостей в мире открытых моделей:
  * **Хабр (по тегу):** [[https://habr.com/ru/search/?q=[модели%20ии]&target_type=posts&order=date|Хабр: модели ИИ]]
  * **r/LocalLLaMA (Reddit):** [[https://www.reddit.com/r/LocalLLaMA/|r/LocalLLaMA]]
  * **Hugging Face Blog:** [[https://huggingface.co/blog|Hugging Face Blog]]
  * **AI News Aggregator:** [[https://the-decoder.com/|The Decoder]]

===== Командные строки для установки агентов =====

<code bash>
# Установка Qwen Code Agent
$ npm install -g @qwen-code/qwen-code
$ qwen --version
</code>

<code bash>
# Установка Gemini CLI
$ npm install -g @google/gemini-cli
$ gemini
</code>

<code bash>
# Установка Ollama
$ curl -fsSL https://ollama.com/install.sh | sh
$ ollama run llama3.2
</code>

Сводка изменений

Примечание: редактируя эту страницу, вы соглашаетесь на использование своего вклада на условиях следующей лицензии: CC0 1.0 Universal