The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

Подборка открытых больших языковых моделей для локального использования

11 Feb 2025
Подборка открытых больших языковых моделей для локального использования
Открытые большие языковые модели для запуска на своём сервере:
  • DeepSeek-R1 -китайская модель, охватывает 671 миллиард параметров и учитывает контекст в 128 тысяч токенов.
  • Granite - модель от IBM, 8 миллиардов параметров.
  • InternVL - модель, способная обрабатывать визуальную информацию. 5-78 млрд параметров.
  • OLMo 2 - полностью открытая модель, 7 и 13 млрд параметров.
  • Phi-4 - модель от Microsoft, нацеленная на решение логических задач. 15 млрд параметров.
  • Qwen - китайская модель, 72 млрд параметров, 128 тысяч токенов. Есть вариант для обработки визуальной информации.
  • SmolLM2 - легковесные модели (135 млн, 360 млн и 1.7 млрд параметров), рассчитанные на резюмирование информации и обработку текста.
  • all-MiniLM-L6-v2, 23 млн параметров, подходит для встраивания в приложения.

Движки для исполнения больших языковых моделей: llama.cpp, ollama, koboldcpp.

https://github.com/suncloudsmoon/awesome-open-source-ai
Машинное обучение

 Добавить ссылку
 
 Поиск ссылки (regex):
 

Последние заметки
<< Предыдущие 15 записей
- 24.10.2017 Еscape-последовательности в сеансе OpenSSH
- 10.09.2017 Использование CAA записей в DNS для защиты от генерации фиктивных HTTPS-сертификатов
- 08.09.2017 Настройка ротации логов MongoDB
- 26.07.2017 Быстрый посмотр конфигурации GEOM во FreeBSD
- 25.07.2017 Проверка безопасности беспроводной сети WPA/WPA2 при помощи Aircrack-ng и Hashcat
- 08.07.2017 Наиболее простой способ получения и обновления сертификатов Let's Encrypt
- 09.06.2017 Создание QR-кода в консоли, чтобы быстро перенести текст на смартфон
- 24.05.2017 Просмотр подсказок/шпаргалок по командам UNIX/Linux в командной строке
- 21.04.2017 Как подключить в Ubuntu диски Seagate Business NAS и восстановить данные
- 07.04.2017 Разбираемся с "треском" в PulseAudio
- 06.04.2017 Развёртывание нейросети, используя готовый образ Docker
- 24.03.2017 Просмотр прогноза погоды из терминала
- 25.02.2017 Использование нескольких буферов обмена в консоли при помощи GNU Screen
- 13.02.2017 Удалённая замена одного Linux-дистрибутива на другой по SSH
- 10.02.2017 Автоматизация отправки сообщений в Jabber на примере трансляции новостей с OpenNet
Следующие 15 записей >>




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру