| 1.3, Аноним (3), 14:00, 23/08/2024 [ответить] [﹢﹢﹢] [ · · · ] [↓] [↑] [к модератору]
| +2 +/– |
А что-нибудь лучше julius-speech уже придумали? Почему любое эффективное распознавание только на сервере у дяди в 2024 году?
| | |
| |
| 2.21, Аноним (21), 16:17, 23/08/2024 [^] [^^] [^^^] [ответить] [↓] [↑] [к модератору]
| +/– |
Потому что тратили миллионы на сбор семплов и обучение нейронки на кластере с топовыми GPU не для того, чтобы отдать тебе бесплатно
| | |
|
| 1.10, Аноним (10), 14:45, 23/08/2024 [ответить] [﹢﹢﹢] [ · · · ] [↓] [↑] [к модератору]
| +1 +/– |
У меня у одного такое, после обновления до 129.0.2 одно ядра CPU уходит в 100% и в Firefox начинаются страшные тормоза. Debian 12.6
| | |
| |
| 2.12, Аноним (3), 14:51, 23/08/2024 [^] [^^] [^^^] [ответить] [к модератору]
| +1 +/– |
> У меня у одного такое, после обновления до 129.0.2 одно ядра CPU
> уходит в 100% и в Firefox начинаются страшные тормоза. Debian
> 12.6
У меня таб зависает и выжирает память пока не будет прибит. Замечал, что может быть связано с частичной выгрузкой жирного таба в своп (и возможно vaapi), непонятно только, почему через рандомные периоды случается и ничего не пишет в лог.
| | |
|
| 1.14, Аноним (17), 15:10, 23/08/2024 [ответить] [﹢﹢﹢] [ · · · ] [↓] [↑] [к модератору]
| +2 +/– |
Кому вообще пришло в голову вставлять в файл для llm сам движок для её запуска, так ещё и в виде машинного кода? Это звучит как что-то максимально небезопасное, я уверен, что если провести хотя бы пару часов в репозиториях можно будет наклепать эксплоитов, и закинуть их доверчивым любителям переложить написание кода на компьютер. К тому же это всё крутится вокруг хака, позволяющего запускать машинный код без изменения на нескольких платформах (Что как хак, конечно, очень интересно, но, вопрос, кто додумался это использовать как серьёзное решение?)
| | |
| |
| 2.18, Аноним (18), 15:50, 23/08/2024 [^] [^^] [^^^] [ответить] [↓] [к модератору]
| +/– | |
Это, вроде бы, два разных вопроса.
Прошить веса ллм прямо в файл, вроде бы, не проблема?
То есть, xbm/xpm это и есть Си.
А вот "космополит" это уже другой вопрос.
| | |
| |
| 3.23, Аноним (17), 16:55, 23/08/2024 [^] [^^] [^^^] [ответить] [к модератору]
| +/– | |
>Прошить веса ллм прямо в файл, вроде бы, не проблема?
Так проблема не в весах, а в том, что они в файл модели вставляют движок для её запуска, который уже на этой самой библиотеке и работает, и это всё подаётся под видом простого способа распространять модели. Так вот, проблема в том, что любой вася может просто в когда llama.cpp вставить малварь, это всё собрать, и распространять как обычный файл - и никто ничего не заметит, пока слишком поздно не будет. А про космополита это уже вопрос к стабильности, решение выглядит мягко говоря зыбким.
| | |
| |
| |
| 5.38, Аноним (17), 21:05, 23/08/2024 [^] [^^] [^^^] [ответить] [к модератору]
| +/– |
Для того, чтоб такого не было придумали сейфтенсорс. И то, что есть одна уязвимость не оправдывает то, что они придумали один огромный вектор атаки. Да и ладно бы вектор, хрен бы с ним, так они ещё это позиционируют как лёгкий способ их распространять и запускать - ну прям самое то, чтоб всякие очень добрые граждане всяким блондинкам вшивали туда малвари.
| | |
|
|
|
| 2.27, Аноним (27), 18:25, 23/08/2024 [^] [^^] [^^^] [ответить] [↑] [к модератору]
| +/– | |
> я уверен, что если провести хотя бы пару часов в репозиториях можно будет наклепать эксплоитов
так в чём проблема? пострать пару часов, наклепай эксплойтов, и продай их кому-нибудь за B$$$$$$$. всяко полезнее, чем комменты строчить...
| | |
| |
| 3.39, Аноним (17), 21:07, 23/08/2024 [^] [^^] [^^^] [ответить] [к модератору]
| +/– |
Я вам вектор атаки написал сверху - все максимально очевидно. Мне же лень этим заниматься, да и вшивать пока туда нечего.
| | |
|
|
| 1.25, Аноним (25), 18:04, 23/08/2024 [ответить] [﹢﹢﹢] [ · · · ] [↓] [↑] [к модератору]
| +1 +/– | |
> ... может выводить коэффициенты достоверности, позволяющие ...
Это то, что про ИИ нужно знать в первую очередь: ИИ выдаёт решения неверные, но с низкой вероятностью.
Т.е. это та штука, которую нельзя использовать для точных ответов или точных оценок. Т.к. оно по своей природе не даёт 100% верных ответов.
| | |
| |
| 2.28, Аноним (3), 18:30, 23/08/2024 [^] [^^] [^^^] [ответить] [к модератору]
| –1 +/– |
На практике человек куда меньше верных и тем более точных ответов выдаёт. Это хороший инструмент, но важно осознавать его ограничения. Капиталистический подход заменить бесполезных людей ещё более бесполезными нейронками это тупик.
| | |
| |
| 3.29, Аноним (29), 18:54, 23/08/2024 [^] [^^] [^^^] [ответить] [↓] [к модератору]
| –1 +/– | |
Один AI-апологет мне задвигал, что в странах первого мира всем Universal Basic Income будет после полной автоматизации. А, соответственно, отсталые будут ещё больше загнивать и прозябать чем сейчас, с таким-то технологическим отрывом.
Даже жаль, что из генераторов обтекаемых бредотекстов такой революции не вышло. Было бы интересно.
| | |
| |
| 4.32, Аноним (3), 19:25, 23/08/2024 [^] [^^] [^^^] [ответить] [↓] [к модератору]
| –2 +/– |
GPT4 впечатляющая модель. Она умнее и догадливее большинства людей в интернете. Ограничения достаточно очевидны, но, если избавятся от галлюцинаций как-нибудь, научат сообщать о неспособности выдать приемлемый результат, самостоятельно фильтровать булшит, и будут дообучать в некоторых угольных случаях (таких, как программирование и современные технологии), она вполне сгодится на роль ассистента, значительно повышающего продуктивность работников. Конкуренты, конечно, грязь, и весь интернет заполнен результатами их "трудов".
| | |
| |
| 5.52, Ногоед (?), 23:32, 23/08/2024 [^] [^^] [^^^] [ответить] [к модератору]
| +6 +/– | |
> если избавятся от галлюцинаций как-нибудь
GPT не может без галлюцинаций. Чтобы их не было, нужна концепция, которая не является Generative Pre-Trained Transformers.
| | |
|
| 4.37, мшефд (?), 20:52, 23/08/2024 [^] [^^] [^^^] [ответить] [↑] [к модератору]
| +/– | |
>в странах первого мира всем Universal Basic Income будет после полной автоматизации.
При нынешней поведенческой модели человека, основанной на животных инстинктах, а не на разуме, человечество проср..т любые блага.
| | |
| |
| 5.45, Аноним (45), 22:16, 23/08/2024 [^] [^^] [^^^] [ответить] [к модератору]
| +/– |
А ты попробуй жить разумом когда большой метеорит упадет на Землю. Или закончится нефть вместе с редкоземельными металлами.
| | |
| |
| 6.63, Аноним (63), 10:14, 24/08/2024 [^] [^^] [^^^] [ответить] [к модератору]
| +/– |
А ведь ты действительно, фактически не имеешь понятия про то, о чём пишешь на публичном форуме... Не пиши больше, миру не нужна твоя юношеская наивная дезинформация. И вдогонку вопрос: а в котором часу в море закончится вот прям таки весь уран?
| | |
|
|
|
| 3.51, Ногоед (?), 23:30, 23/08/2024 [^] [^^] [^^^] [ответить] [↑] [к модератору]
| +5 +/– | |
> На практике человек куда меньше верных и тем более точных ответов выдаёт.
Но человек знает 100%, что 2х2 будет равно 4. А нынешний псевдо ИИ лишь предполагает, пусть и с 99.99999999...%. Думаю, вы поняли мысль.
| | |
|
|
| 1.49, Аноним (49), 22:50, 23/08/2024 [ответить] [﹢﹢﹢] [ · · · ] [↓] [↑] [к модератору]
| +1 +/– | |
>Mozilla развивает инструментарий распознавания речи
... чтобы вставить его в Firefox и подслушать как пользователи Firefox'а матерят Мозиллу
| | |
| 1.58, Аноним (58), 02:16, 24/08/2024 [ответить] [﹢﹢﹢] [ · · · ] [↓] [↑] [к модератору]
| +1 +/– |
Мозилла продолжает двигать кровати ...
кастрированная субоптимальная программа ... для запуска большой языковой модели ... на ворохе платформ из одного бинарника ... через кривые хаки, сносящие нахрен как производительность, так и митигаци уровня ОС... под авторством транса....
Ну молодцы, Мозилла. Вместо нормального браузера какое-то буллшит-бинго. Извини, если мне потребуется whisper, то я его сам скомпилю. Только есть проблема: этот whisper столько оперативы жрёт, что его нигде, кроме топовых железок, крутить нельзя.
| | |
|
