The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

Подборка открытых больших языковых моделей для локального использования

11 Feb 2025
Подборка открытых больших языковых моделей для локального использования
Открытые большие языковые модели для запуска на своём сервере:
  • DeepSeek-R1 -китайская модель, охватывает 671 миллиард параметров и учитывает контекст в 128 тысяч токенов.
  • Granite - модель от IBM, 8 миллиардов параметров.
  • InternVL - модель, способная обрабатывать визуальную информацию. 5-78 млрд параметров.
  • OLMo 2 - полностью открытая модель, 7 и 13 млрд параметров.
  • Phi-4 - модель от Microsoft, нацеленная на решение логических задач. 15 млрд параметров.
  • Qwen - китайская модель, 72 млрд параметров, 128 тысяч токенов. Есть вариант для обработки визуальной информации.
  • SmolLM2 - легковесные модели (135 млн, 360 млн и 1.7 млрд параметров), рассчитанные на резюмирование информации и обработку текста.
  • all-MiniLM-L6-v2, 23 млн параметров, подходит для встраивания в приложения.

Движки для исполнения больших языковых моделей: llama.cpp, ollama, koboldcpp.

https://github.com/suncloudsmoon/awesome-open-source-ai
Машинное обучение

 Добавить ссылку
 
 Поиск ссылки (regex):
 

Последние заметки
<< Предыдущие 15 записей
- 07.11.2018 История про Ceph и реплику 1+2
- 06.11.2018 Как подружить plPlot и wxWidgets под ОС Windows
- 31.10.2018 Настройка локальной Wi-Fi точки доступа в Linux
- 30.10.2018 Обновление версии Fedora из командной строки
- 24.09.2018 Блокировка установки системных дополнений и отправки телеметрии в Firefox
- 22.08.2018 Компиляция приложений с поддержкой OpenCL без закрытых драйверов
- 25.07.2018 Организация доступа к SSH и HTTPS через один 443 порт при помощи nginx
- 05.07.2018 Как получать ответы на вопросы по программированию прямо из командной строки или редактора
- 11.06.2018 Формирование минималистичного окружения GNOME, очищенного от излишеств
- 09.06.2018 Использование SystemTap для расшифровки локального HTTPS-трафика
- 17.05.2018 Sonatype Nexus как Maven proxy
- 11.05.2018 Как автоматически отключить закреплённые шапки на сайтах в Firefox
- 22.04.2018 Кодирование видео при помощи GPU из файла, запись с экрана и стриминг
- 15.04.2018 Организация шифрованного доступа к DNS-серверу BIND (DNS-over-TLS) при помощи nginx
- 14.04.2018 Включение DNS-Over-TLS в LEDE/OpenWrt через замену резолвера на Unbound
Следующие 15 записей >>




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру