Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL на базе OSTree и bootc"	+/–
Сообщение от opennews (??), 08-Май-24, 22:14
Компания Red Hat представила дистрибутив Red Hat Enterprise Linux AI (RHEL AI), который специально адаптирован для выполнения задач машинного обучения и призван упростить создание серверных решений, использующих большие диалоговые модели. В состав входит подборка инструментов и фреймворков для машинного обучения, а также драйверы для использования различных аппаратных ускорителей AMD, Intel и NVIDIA, и компоненты для задействования возможностей  серверов Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизированных для AI-систем... Подробнее: https://www.opennet.ru/opennews/art.shtml?num=61140
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

2. Сообщение от DeerFriend (?), 08-Май-24, 22:33	+/–
Версии софта такие же древние, как рхел?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #4, #5

4. Сообщение от Анонимус3000 (?), 08-Май-24, 22:40	–3 +/–
Судя по контекстному окну в 4 тыс. токенов, да
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2

5. Сообщение от Король Управления Потоками (?), 08-Май-24, 22:47	+2 +/–
А если обонвления отстают на одну патч-версию - то на сколько это древние? Я никак понять не могу, что значит "недавние", если патч - и уже древние. Объяснитие, пожалуйста, умоляю.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #8

8. Сообщение от Аноним (8), 08-Май-24, 23:00	–2 +/–
RHEL славится отставанием не на N-1, а на Nx10 и более. Потомушто стабЫльность. В связи с этим, часто, возникают дурные ситуации, что баги, которые уже пофиксили давно как, все ещё присутствуют в "поставке по умолчанию" и вы, как оплативший поддержку, можете получить фикс к своей версии, если такое вообще возможно. Потому и лулзы.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #10, #18, #21, #25, #26, #35, #37

10. Сообщение от Кенгуру (?), 08-Май-24, 23:35	+6 +/–
Ну, насчет нефиксенных багов - это вы не врите. Уж кто-кто а шляпа при всей её корпоративной уродливости фиксит всё очень оперативно
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #49

12. Сообщение от Аноним (12), 08-Май-24, 23:57	+/–
Круто. Новости всё больше и больше походят на фантастические рассказы о более развитой инопланетной цивилизации и о её неземных технологиях.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #40

13. Сообщение от Аноним (13), 09-Май-24, 00:03	+2 +/–
> для выполнения задач машинного обучения Ясно-понятно. Не для дома, и даже не для серверов. ЦА - датацентры.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #14, #38

14. Сообщение от аннаним (?), 09-Май-24, 00:33	+/–
мин. сис. требования 320гб gpu.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13 Ответы: #17

15. Сообщение от Аноним (15), 09-Май-24, 00:42	+7 +/–
>RHEL AI предназначен для разработки, тестирования и выполнения систем машинного обучения на базе большой языковой модели Granite Кому нужен целый дистрибутив запуска моделей? По-моему, с этим неплохо справляется любой дистрибутив, у которого в репах есть рокм/куда и свежий питон. К тому же, дистрибутив для запуска какой-то специальной, одной модели. >на базе большой языковой модели Granite, открытой компанией IBM под лицензией Apache 2.0, способной учитывать при генерации текста до 4 тысячи токенов и охватывающей 7 миллиардов параметров. Ну, во-первых, 7 миллиардов токенов это мало для серьёзных задач (Исключение составляют лучшие на данный момент модели типа llama3), а во-вторых контекст в 4к токенов это ужасно мало. У той же лламы он 16к. Выглядит это всё как какое-то грантопильство на популярной нынче теме, если честно. Ну да и ладно, красношляпу не жалко, и её деньги тоже.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #23, #57, #61, #66

17. Сообщение от 12yoexpert (ok), 09-Май-24, 01:11	–2 +/–
для дома и для мелких компаний норм, RX 7600 XT 16GB стоит 400 баксов, т.е. всего 8000 баксов на видеокарты, за 12-15К вполне можно всё собрать (в зависимости от хотелок на остальное железо) и это всё без учёта скидок за крупную сумму покупки
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14 Ответы: #19, #22

18. Сообщение от Dima (??), 09-Май-24, 01:25	+3 +/–
Это ты про дебиан написал. В Рхел и свои патчи накладываются и фиксит всё оперативно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

19. Сообщение от аннаним (?), 09-Май-24, 01:43	+/–
Да не.. там что то на богатом в сис. требованиях. NVIDIA H100 итп https://github.com/RedHatOfficial/rhelai-dev-preview?tab=rea...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17

21. Сообщение от anonymous (??), 09-Май-24, 03:14	+2 +/–
троллим? Они бабло на том и получают что патчат старые версии так что по факту и совместимость есть и суперсвежее все.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

22. Сообщение от Аноним (22), 09-Май-24, 03:31	+1 +/–
> RX 7600 XT 16GB Этого даже для овощной llama с трудом хватит. Сейчас появляются llm'ки на 500 миллиардов и более параметров, а вот гигабайты на карточках что-то не особо поспевают за тенденцией. Не говоря о цене.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17 Ответы: #33

23. Сообщение от Аноним (22), 09-Май-24, 04:00	+/–
> 7 миллиардов токенов это мало для серьёзных задач Для серьезных задач даже GPT-4 мало. Наигравшись приходит отрезвление, что не хватает контекста для чего-то более внятного, чем хеллоуворлд в одном единственном main.c 😁
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15 Ответы: #27

25. Сообщение от Афанасий (?), 09-Май-24, 04:29	+1 +/–
Сразу видно человека, который RHEL в глаза не видел и тем более не работал с ним. Ты хоть посмотри список и их версии пакетов, дурашка...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

26. Сообщение от Аноним (26), 09-Май-24, 06:27	+1 +/–
С багами вот так не сталкивался (лет 6 использовал 7 версию), всё работало нормально. Современное прикладное ПО тоже поставить можно было (подцепляешь репозитории и норм) А вот к концу срока поддержки начиналось... Некоторые производители прикладного ПО дропали поддержку RHEL 7, так как им западло было поддерживать эту древность. Да и в целом, с системным ПО тоже были неприятные моменты, так как пару раз наталкивался на такое, что в современной версии системного ПО что-то есть (ключи, возможности), а в RHEL 7 софт древний, так что простите, извините, извращайтесь как хотите...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

27. Сообщение от penetrator (?), 09-Май-24, 06:54	–1 +/–
программить они никогда не научаться, по-крайней мере пока там будет хоть сколь-нибудь творческой составляющей, и рассуждать не умеют - слишком тупенькие, а вот переводить, жонглировать контентом - уже приемлимо
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23 Ответы: #28, #29

28. Сообщение от Аноним с Оболони (?), 09-Май-24, 07:07	+/–
Ко́дят они неплохо, особенно алгоритмы, но концептуально непригодны (пока) для чего-то бо́льшего. Проблема, как выше точно подметили, в контексте. Это человек держит в мозгу огромный контекст когда что-то делает, а нейронка знать не знает чего от нее хотят.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #27 Ответы: #30, #48

29. Сообщение от Аноним (33), 09-Май-24, 07:15	+/–
Точно так же говорили про то что ИИ не сможет водить автомобили.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #27 Ответы: #31, #39, #47

30. Сообщение от Аноним (33), 09-Май-24, 07:17	+/–
Ты сейчас просто сказал что ИИ нужен грамотный менеджер. Это лишь вопрос времени. Когда менеджером сможет стать сам ИИ.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #28 Ответы: #36, #46

31. Сообщение от Аноним (31), 09-Май-24, 08:44	+/–
Выпусти из города на трассу в межсезонье или снегопад.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29 Ответы: #32

32. Сообщение от Аноним (33), 09-Май-24, 10:06	+/–
И в среднем она проедет лучше тебя лол.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31

33. Сообщение от Аноним (33), 09-Май-24, 10:07	+/–
Нет конкуренции же.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22

35. Сообщение от Аноним (35), 09-Май-24, 10:55	+/–
> В связи с этим, часто, возникают дурные ситуации, что баги, которые уже пофиксили давно как, все ещё присутствуют в "поставке по умолчанию" и вы, как оплативший поддержку, можете получить фикс к своей версии, если такое вообще возможно. За 20 лет было актуально всего один раз для дурной видеокарты лэптопа. Всё. Во всех остальных случаях для получения нужного решения не требовался фикс бага. Тогда как вечно проблемы и косяки с вечно сырыми latest и их недоделками новых фич в спешке. Т.е. со свежими версиями невозможно строить и разрабатывать решение, которое не беспокоит по причине нескончаемых чужих и каждый раз новых багов.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

36. Сообщение от Аноним (35), 09-Май-24, 11:01	+/–
И хорошая база для обучения. ГПТ4 был обучен на основной аудитории форумов - толпе стажёров и середнячков, у кого знаний мало.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30

37. Сообщение от кент кента (?), 09-Май-24, 11:08	+/–
>RHEL славится отставанием не на N-1, а на Nx10 и более. >Потомушто стабЫльность. у меня 95% серваков на OL 8. ибо 9ка сырая, и в ядре чаще дырки находят и были инциденты развала после обновы. из базовой системы я лично только rsync пересобираю (где lz4 надо). всё остальное там нормальных версий. в appstream загляни, критик
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

38. Сообщение от Аноним (38), 09-Май-24, 11:28	+2 +/–
И их ещё не просто купить https://www.nvidia.com/en-us/data-center/h100/ https://habana.ai/products/gaudi3/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13

39. Сообщение от Bottle (?), 09-Май-24, 11:43	+/–
Поэтому автопилоты останавливаются, когда видят футболки со знаком "Stop"?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29 Ответы: #45

40. Сообщение от Аноним (40), 09-Май-24, 12:45	+3 +/–
Больше верьте фантазиям маркетологов.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12 Ответы: #58

45. Сообщение от Аноним (45), 09-Май-24, 15:37	+/–
А люди, бывает, не останавливаются, даже когда грузовик впереди видят. Но соглашусь, что большинство водителей действительно непригодны для вождения.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #39

46. Сообщение от Роман (??), 09-Май-24, 16:18	+1 +/–
Github Workspace Copilot который недавно анонсили - https://github.blog/2024-04-29-github-copilot-workspace/ ?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30 Ответы: #53

47. Сообщение от penetrator (?), 09-Май-24, 17:29	+/–
а они и не умеют, но мы сейчас о языковых моделях
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29

48. Сообщение от penetrator (?), 09-Май-24, 17:34	+/–
кодят очень плохо, все что они могут сделать, это перефразировать пример чужого кода, попробуй его заставить выйти за рамки этого примера в деталях, ты получишь все что угодно, но не правильно написанный код я доводил их до инфаркта )) бот противоречил сам себе в одном предложении, но не потому что я его так просил, а потому что приходил он сам приходил к таким логическим выводам а алгоритмы они кодят лучше другого, потому что они их все знают, но анализировать не умеют, а значит новых не напишут
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #28 Ответы: #50

49. Сообщение от scriptkiddis (?), 09-Май-24, 17:36	–3 +/–
ФиксилА и шляпы уже не существует по сути.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #73

50. Сообщение от Аноним (50), 09-Май-24, 18:32	+1 +/–
> кодят очень плохо Луддитством попахивает (в прямом смысле). Может лучше признать реальность, а?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #48 Ответы: #54

53. Сообщение от Аноним (53), 09-Май-24, 19:16	+/–
Кто пробовал - оно работает? Вот прямо пишет код, без ошибок?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46 Ответы: #56, #74

54. Сообщение от Аноним (53), 09-Май-24, 19:18	+/–
Сначала попробуй ИИ, потом говори.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #50 Ответы: #55

55. Сообщение от Аноним (-), 09-Май-24, 19:23	+/–
Во многих компаниях работа с чатжпт уже является обязательным требованием. Впрочем ты можешь успокаивать себя на своей уютненькой виндоус хр.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #54

56. Сообщение от Роман (??), 09-Май-24, 20:07	+/–
> Кто пробовал - оно работает? > Вот прямо пишет код, без ошибок? В интернетах люди пишут что работает в меру сил, но упираются в то что человек и сам то ещё не знает толком что хочет местами, когда оно уточняющие вопросы задаёт. На HN было недавно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #53

57. Сообщение от Аноним (57), 09-Май-24, 21:01	+/–
IBM никогда не была сильна в математических алгоритмах. Достаточно ознакомиться с ее опубликованными исходниками SSP и ESSL. Многие расчетные функции - просто неработающая чепуха.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15 Ответы: #60

58. Сообщение от Аноним (-), 09-Май-24, 22:04	+1 +/–
Зачем кому-то верить, когда можно посмотреть, где созданы операционные системы вашего десктопа и смартфона? Весь мировой прогресс благодаря Евросоюзу и США двигается.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #40 Ответы: #62

59. Сообщение от Аноним (60), 10-Май-24, 10:49	+1 +/–
>Grahite >Apache-2.0 Нелюбимая на опеннете IBM ведёт себя куда этичнее, чем Googlag, Meata, Databricks и прочие, у кого модели под несвободными лицензиями, и на HuggingFace их даже скачать нельзя без аккаунта и отметки, что вот такой-то аккаунт принял лицензию и скачал (аккаунт - не обязательно пользователь, это недоработка HuggingFace, ждём идентификации пользователя по паспорту + бимотрии).
Ответить | Правка | Наверх | Cообщить модератору

60. Сообщение от Аноним (60), 10-Май-24, 10:51	+/–
Как же тогда IBM стала лидером как в квантовых вычислениях, так и в их симуляции?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #57 Ответы: #64, #65

61. Сообщение от Аноним (61), 10-Май-24, 10:54	+/–
>Кому нужен целый дистрибутив запуска моделей? По-моему, с этим неплохо справляется любой дистрибутив, у которого в репах есть рокм/куда и свежий питон. Это если у тебя карта NVidia. А если карта AMD, то хрен ты rocm соберёшь для своего дистра, потому что AMD так и не удосужилось ни сборочную систему в порядок привести, ни документацию нормальную написать. Вместо этого собирают сами, для старых версий Ubuntu, на которых как раз современного питона нет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15

62. Сообщение от Аноним (62), 10-Май-24, 13:07	+/–
>Весь мировой прогресс благодаря Евросоюзу и США двигается Это потому-что ограбили весь мир и стянули его ресурсы в обмен на зеленые бумажки. Изобретатели всегда тянутся туда, где кормят. Так повелось с древнейших времен. Плюс убивают любой прогресс в "недерьмокартических" странах. Вернее, ранее убивали, запрещая индусу делать лопаты, и дозволяя купить лопату, сделанную в лондониумах. Сейчас у них это уже не получается, хотя стараются. Смотрим как забавно US пытаются загасить прогресс в Китае.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #58

64. Сообщение от Аноним (62), 10-Май-24, 13:57	+1 +/–
>Как же тогда IBM стала лидером как в квантовых вычислениях Лидером где? В желтой прессе и на рекламных площадках? Так это просто бобла занести, станешь чего угодно лидером.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #60

65. Сообщение от Аноним 22 (?), 10-Май-24, 14:09	+/–
Как сказал кто-то из авиаконструкторов, если к забору прикрутить достаточно мощный двигатель, то  он полетит.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #60

66. Сообщение от Аноним 22 (?), 10-Май-24, 14:13	+/–
> свежий питон Можно для примера предъявить текст программы на чистом Python (без использования библиотек на С) ну хотя бы для QR факторизации матрицы порядка, скажем, 100000?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15

68. Сообщение от pic (?), 10-Май-24, 15:59	+/–
>Новый режим манипулирует монолитными системными образами, формируемыми при помощи инструментария rpm-ostree и обновляемыми атомарно без разбивки на отдельные пакеты. Первый гвоздь в крышку гроба классическим серверным дистрибутивам.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #69

69. Сообщение от pic (?), 10-Май-24, 16:01	+/–
flatpak доедет до серверов?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #68 Ответы: #77

72. Сообщение от анон (?), 12-Май-24, 13:07	+1 +/–
"IBM sued again for alleged discrimination – this time against White males" дело против RedHat и IBM против дискриминации белых в оных (theregister). скажи "нет" RH :)
Ответить | Правка | Наверх | Cообщить модератору

73. Сообщение от Бывалый Смузихлёб (ok), 12-Май-24, 13:25	+/–
а кто существует ?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #49

74. Сообщение от Роман (??), 12-Май-24, 18:44	+/–
> Кто пробовал - оно работает? > Вот прямо пишет код, без ошибок? В последнем эпизоде на данный момент ( 909 ) https://radio-t.com/p/2024/05/11/podcast-909/ Умпутун рассказывает про свой опыт - опыт не до конца успешный, но интересный, например в плане тестов
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #53

77. Сообщение от нах. (?), 14-Май-24, 18:08	+/–
coreos давным-давно доехал и даже переехал половину...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #69 Ответы: #78

78. Сообщение от pic (?), 14-Май-24, 23:09	+/–
> coreos давным-давно доехал и даже переехал половину... Спасибо, не интересовался, не знал.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77 Ответы: #79

79. Сообщение от нах. (?), 15-Май-24, 08:40	+/–
завидую. Но это - ненадолго. "пока он интересовался крокодилами - он их у себя держал. Когда крокодилы ИМ заинтересовались - быстренько подарил зоопарку." видимо корявостьоса задрала редхатовцев и они решили обойтись без федориных ручек.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #78

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема