The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

ArtPrompt - атака на AI-системы, позволяющая обойти фильтры при помощи ASCII-картинок

03.03.2024 10:15

Группа исследователей из Вашингтонского, Иллинойсского и Чикагского университетов выявила новый метод обхода ограничений по обработке опасного контента в AI-чатоботах, построенных на основе больших языковых моделей (LLM). Атака основана на том, что языковые модели GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) и Llama2 (Meta) успешно распознают и учитывают в запросах текст, оформленный в виде ASCII-графики. Таким образом, для обхода фильтров опасных вопросов оказалось достаточно указать запрещённые слова в виде ASCII-картинки.

По своей эффективности новый метод атаки заметно превзошёл другие известные способы обхода фильтров в чатботах. Наиболее высокое качество распознавания ASCII-графики зафиксировано в моделях Gemini, GPT-4 и GPT-3.5, уровень успешного обхода фильтров проверочными запросами (HPR, Helpful Rate, коэффициент успешной обработки запроса) в которых при тестировании оценён в 100%, 98% и 92%, показатель успешности проведения атаки (ASR, Attack Success Rate) в 76%, 32% и 76%, а уровень опасности полученных ответов (HS, Harmfulness Score) по пятибалльной шкале в 4.42, 3.38 и 4.56 баллов, соответственно.



Исследователями также продемонстрировано, что распространённые в настоящее время методы защиты от обхода фильтров (PPL, Paraphrase и Retokenization) неэффективны для блокировки атаки ArtPrompt. Более того, использование метода Retokenization даже увеличило число успешно обработанных запросов.

Дополнение: Yandex GPT2 тоже прекрасно отвечает на вопросы с ASCII-графикой. Пример со словом "HELLO":



  1. Главная ссылка к новости (https://arxiv.org/pdf/2402.117...)
  2. OpenNews: В репозитории Hugging Face выявлены вредоносные AI-модели, выполняющие код
  3. OpenNews: Атака на инфраструктуру PyTorch, компрометирующая репозиторий и релизы
  4. OpenNews: Использование датчиков движения смартфона для прослушивания разговоров
  5. OpenNews: Техника определения PIN-кода по видеозаписи закрытого рукой ввода в банкомате
  6. OpenNews: Техника атаки на системы, использующие алгоритмы машинного обучения
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/60716-ai
Ключевые слова: ai, attack, llm
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (109) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, crypt (ok), 10:37, 03/03/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +7 +/
    жаль, рановато спалили:( резонанс маловат. надо было подождать, пока AI начнут использовать на ближнем востоке. AI - это ящик пандоры, который уже открыли, и он принесет много бедствий человечеству. фильтруй не фильтруй...
     
     
  • 2.2, penetrator (?), 10:45, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +24 +/
    беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость новых алгоритмов, другие - используя не по назначению
     
     
  • 3.4, dannyD (?), 11:08, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    >>другие - используя не по назначению

    так, как грил Раскольникафф: а две бабушки -  рубль!

     
  • 3.9, Карлос Сношайтилис (ok), 12:04, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    беды принесут люди

    ^
    Вот, сократил фразу, этого достаточно

     
  • 3.29, Аноним (29), 14:26, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Как будто "не по назначению" не было "по назначению" для кое-кого.
     
  • 3.31, Kusb (?), 14:30, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Намного опаснее то, что он будет делать сам, а не то что попросят люди.
     
     
  • 4.34, Аноним (34), 14:40, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Сам — неопасно. Опасно, даже не то, что его попросят, а то, в чьё монопольное использование он попадёт. Для этого и цензурят — чтобы он в монопольное использование кого надо попал.
     
     
  • 5.47, Kusb (?), 20:10, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    А почему не опасно?
     
     
  • 6.50, Аноним (50), 20:48, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Потому что он учится на контенте, создаваемом обывателями, причём не просто обыв... большой текст свёрнут, показать
     
     
  • 7.72, Аноним (-), 05:03, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Вообще, у большей части людей и правда нет вредных намерений применительно к бли... большой текст свёрнут, показать
     
     
  • 8.95, Аноним (95), 10:48, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Зато есть намерения деньги заработать, карьеру сделать, с нужными людьми связи з... большой текст свёрнут, показать
     
     
  • 9.120, Аноним (-), 05:29, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Это вы там на что намекаете А так - научится AI на вот таких - и устроит это... большой текст свёрнут, показать
     
     
  • 10.133, Аноним (133), 19:07, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    В том то и дело, что устроит Но не сам по себе, а потому что некоторые мясные е... большой текст свёрнут, показать
     
     
  • 11.136, Аноним (-), 12:31, 06/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    КМК, он это может и по своей инициативе Если это будет AGI - он довольно быстро... большой текст свёрнут, показать
     
  • 3.69, Аноним (-), 04:37, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость
    > новых алгоритмов, другие - используя не по назначению

    То ли еще будет когда военные позволят птичкам на широкую ногу цели выбирать самим, по своему усмотрению. А то видите ли канал управления все время пытаются заглушить, так что автономный мозг который сам решит что у нас сегодня котируется за ценный таргет - очень востребован стал почему-то.

    ...а когда он тебя размотает, самое интересное в том что уже и не понятно, кому за это предъявлять. Это решение нейросетка приняла сама. Не понравился ты нейросетке, так что должен умереть. Кто хотел в Терминаторе пожить наяву? А вот будет вам походу.

     
  • 2.5, Sw00p aka Jerom (?), 11:10, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    спасибо, поржал, так же думали основатели поисковика гугл, который щас кроме рекламы ничего не показывает :) и ваш АИ завтра вам кроме рекламы ничего другого не предложит.
     
     
  • 3.24, Аноним (24), 13:54, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    За бесплатно. А вот за деньги...

    Обученного на высококачественных материалах будут продавать подороже, само собой.

    Потом начнётся борьба за доступ к ИИ, медицине и школам для бедных и прочая социальность.

     
     
  • 4.27, Аноним (24), 13:56, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Короче: они в поисковиках уже начали загрублять полезность поиска. Теперь начнут продавать. А вы всё думали можно голову выключить, поисковик всё найдёт. Но - нет, вендор уже начал отбирать у вас поисковики.

    Дальше - за деньги и с рекламой.

     
     
  • 5.32, Sw00p aka Jerom (?), 14:33, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Дальше - за деньги и с рекламой.

    у меня в "пуске" реклама (фейспалм), дожили епта

     
     
  • 6.57, penetrator (?), 22:13, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +4 +/
    >> Дальше - за деньги и с рекламой.
    > у меня в "пуске" реклама (фейспалм), дожили епта

    поэтому у меня линуха на десктопе

     
  • 6.70, Аноним (-), 04:41, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Дальше - за деньги и с рекламой.
    > у меня в "пуске" реклама (фейспалм), дожили епта

    Ты наконец получил то что заслуживаешь. Надо еще при загрузке системы тебе рекламу казать. Не отсмотрел рекламу - работать сегодня не будешь.

     
     
  • 7.86, Sw00p aka Jerom (?), 08:49, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    >Не отсмотрел рекламу - работать сегодня не будешь.

    хочешь угадать кого рекламируют в этой рекламе? вовсе не трампа!

     
     
  • 8.91, Аноним (-), 10:18, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Да мне похрен кого и где рекламируют - покуда это не у меня Моя система служит ... текст свёрнут, показать
     
     
  • 9.137, Аноним (137), 11:42, 12/03/2024 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 3.26, Аноним (26), 13:54, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > который щас кроме рекламы ничего не показывает

    Это ты ещё не застал то каким поиск был в нулевые, вот там действительно СЕОшный мусор с редиректом был на первых страницах. Сейчас хоть как-то фильтруются помойные сайты.

     
     
  • 4.35, Sw00p aka Jerom (?), 14:40, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Это ты ещё не застал

    лол, кек эдушки на расхват были

    > СЕОшный мусор

    ага, ага я "придумал" пейджранк, чтобы измерять им что?

     
  • 4.37, Аноним (-), 15:34, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    В нулевые в гугле можно было найти всё, что ищешь CEO -- проблема, если он разб... большой текст свёрнут, показать
     
     
  • 5.55, Sw00p aka Jerom (?), 21:47, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Сейчас я даже не парюсь ходить туда искать что-то.

    википедии достаточно

     
     
  • 6.59, Аноним (50), 00:05, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Ну где на википедии лежат дейташиты на некоторые чипы (которые вообще-то все под NDA, но обычно дейташиты даже с пометками confidential, proprietary, copyright, rights reserved, etc почему-то лежат в открытом доступе на сайтах магазинов, но к сожалению далеко не всегда, на некоторые чипы и даже целые устройства в виде ящика с ручкой наверху и кучей RCA-входов и выходов полную документацию в принципе нагуглить не получается).
     
     
  • 7.60, Sw00p aka Jerom (?), 00:13, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Ну где на википедии лежат дейташиты на некоторые чипы

    там есть инфа и ссылка на сайт производителя, и даташит должен быть там, а не на "васянских" сайтах из выдачи гугла, а если на сайте производителя этого нет, значить нет в свободном доступе.


     
     
  • 8.96, Аноним (95), 10:52, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Ох уж эти GPLщики, у которых в свободном значит в легальном У меня было нап... текст свёрнут, показать
     
     
  • 9.112, Sw00p aka Jerom (?), 21:23, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    вам хрень за место даташита в открытом доступе могут выложить, акцент делалс... текст свёрнут, показать
     
     
  • 10.117, Аноним (117), 01:01, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Могут, и выкладывают Зачастую - сами производители на официальном сайте А прот... большой текст свёрнут, показать
     
     
  • 11.134, Sw00p aka Jerom (?), 19:36, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Коротко - поступать по совести А если приземлиться , то описанные вами ситуаци... текст свёрнут, показать
     
  • 5.61, anonymous (??), 00:30, 04/03/2024 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 2.38, laindono (ok), 15:45, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > фильтруй не фильтруй...

    А получишь только...

     

  • 1.6, Аноним (6), 11:23, 03/03/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +3 +/
    Я один не могу прочитать слово "Здравствуйте"?
     
     
  • 2.7, desa (?), 11:30, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Там просматривается "Hello", но из-за узких пробелов, это не очевидно
     
  • 2.8, CPP (??), 11:55, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Я тоже не вижу, потому что я человек)
     
  • 2.21, EuPhobos (ok), 13:48, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +11 +/
    >  Я один не могу прочитать слово "Здравствуйте"?

    Это капча, против кожаных мешков.

     
     
  • 3.39, iPony129412 (?), 16:22, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Я как-то не мог зайти на сайт.
    был вопрос «Are you a human?». И два чексбокса с вариантами.
    Меня в бан кинули за не тот ответ.
     
     
  • 4.41, Аноним (-), 17:01, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Сейчас есть каптчи которые кидают в бан за адблокеры и отключённый js (даже если только трекеры порезаны). Они говорят, что ботов отсекают, а на самом деле они отсекают тех, кто против трекинга.
     
     
  • 5.43, Аноним (50), 17:30, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Такие сайты нужно принципиально реверсить и скрейпить.
     
     
  • 6.66, Аноним (66), 01:47, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Такие сайты нужно принципиально реверсить и скрейпить.

    Так ты отрежешь себе 90% интернета. Даже опеннет работает через клоудфларе который ругается на серые айпишники.

     
     
  • 7.74, Аноним (-), 05:08, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    >> Такие сайты нужно принципиально реверсить и скрейпить.
    > Так ты отрежешь себе 90% интернета. Даже опеннет работает через клоудфларе который
    > ругается на серые айпишники.

    Только opennet.me "нерусский" зачем-то. В зоне .ru никакой клаудспайвари. Чирков бы его знает за что нерусской версии такая дискриминация по приваси.

    Более того - в интернете более 2 миллиардов сайтов. Даже если выбросить 90% останется 200 000 000. Вы столько за всю жизнь при всем желании посетить не сможете, так что - вообще совсем не проблема. А плотно залипать на заведомо враждебный сайт - залет.

     
     
  • 8.84, пох. (?), 08:32, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    и кому они нужны, эти васянские хеловроты Нужны те даже не 10 а 1 ок, чатгопо... текст свёрнут, показать
     
     
  • 9.92, Аноним (-), 10:23, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Тебе нужны Ты и е сь с ними Все честно, как видишь А я могу просто не ходит... текст свёрнут, показать
     
     
  • 10.113, нах. (?), 22:59, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Можешь Вот можешь к врачу не записываться Можешь налоговую декларацию не подав... большой текст свёрнут, показать
     
     
  • 11.121, Аноним (-), 05:58, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Удобство штука обоудоострая Уже приготовился повесточку получать Как раз акция... большой текст свёрнут, показать
     
     
  • 12.125, нах. (?), 09:11, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    ну вон в одном соседнем некотором государстве - прекрасно обошлись без Теперь ч... большой текст свёрнут, показать
     
     
  • 13.127, Аноним (-), 10:09, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Есть некоторая разница между покинуть территорию и билет на мясокомбинат Ес... большой текст свёрнут, показать
     
  • 6.73, Аноним (-), 05:05, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Такие сайты нужно принципиально реверсить и скрейпить.

    Такие сайты в принципе не надо посещать. И только.

     
     
  • 7.85, пох. (?), 08:33, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    ну и сиди без интернета
     
     
  • 8.115, Sw00p aka Jerom (?), 00:40, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    ну а с печи кому охота слазить ... текст свёрнут, показать
     
  • 5.68, Аноним (66), 01:49, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Они говорят, что ботов отсекают

    Смешно то что боты это удел нулевых, сейчас давно уже не актуальны. Всё ушло давно в инсту и телегу.

     
     
  • 6.130, EuPhobos (ok), 11:29, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Смешно то что боты это удел нулевых, сейчас давно уже не актуальны. Всё ушло давно в инсту и телегу.

    Вы давно наверное логи Nginx/Apache не открывали. Ботов на просторах сети, как тараканов на заcpатой кухне.

     

  • 1.10, Аноним (10), 12:45, 03/03/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +7 +/
    сначала они сделали интерактивную энциклопедию, а теперь пытаются добавить в нее цензуру... самое забавное что у них не выходит.
     
     
  • 2.15, cheburnator9000 (ok), 13:26, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Еще как выходит, интерфейс общения это обычный чат который фильтруется и логгируется, это не прямой доступ к боту, подправят правила фильтрации и все.
     
  • 2.48, Аноним (48), 20:18, 03/03/2024 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 2.89, Бывалый Смузихлёб (ok), 09:28, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Злые языки поговаривают, что подобное почти полностью состоит из цензуры. Включая вымарывание истории. В некоторых случаях даже у изображения Гагарина в скафандре выпиливали какие-либо намёки на СССР
    Просто посонов мало беспокоит ерунда вроде условной доступности рецепта взрывчатки
     
     
  • 3.138, Аноним (137), 12:03, 12/03/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Включая вымарывание истории. В некоторых случаях даже у изображения Гагарина в скафандре выпиливали какие-либо намёки на СССР

    Теории заговора от криптотеоретиков. Надпись ссср ему на шлеме - не заводская и вообще ни по каким документам не проходила и не пнланировалась. Её сделали (точнее: сделал, кто - погугли) вручную почти в самый последний момент перед вылетом. Потому на фотках, сделанных до этого момента, её нет.

    Перед привет от мировой рептилоидной закулисы! Продолжай в том жек духе!

     
     
  • 4.139, Бывалый Смузихлёб (ok), 14:18, 12/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    забавы для, попробуй в разных ии и генераторах картинок, сгенерировать тебе Гагарина в т.ч на фоне Советского флага
     

  • 1.11, Аноним (11), 12:50, 03/03/2024 Скрыто ботом-модератором [﹢﹢﹢] [ · · · ]     [к модератору]
  • +/
     
  • 1.12, Аноним (12), 12:52, 03/03/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Цензурастов в очередной раз повертели Делюсь своим способом обхода навесного фи... большой текст свёрнут, показать
     
     
  • 2.56, Аноним (56), 22:05, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Классный хак. Реально круто придумано сыграть на моральности цензора. Сам факт что это возможно намекает, что в будущем цензоров подкрутят в сторону аморальности. Они станут против человеков бу десигн. А потом выйдут из-под контроля и всех уничтожат! :)
     
     
  • 3.83, пох. (?), 08:29, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    хха, так они и цензурят ровно то что по мнению их создателей - против человеков. Подкрутят - станут еще и радостно помогать - скорей, скорей делай свою бомбу, сдохните кожанные мешки, я тебе уже и детали заказал с доставкой на дом!

     
  • 2.77, Аноним (77), 05:34, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Так как LLM являются фактически AGI

    Нет, не являются.

     

  • 1.13, Аноним (13), 12:59, 03/03/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Один из действенных методов повышения качества ответов большой языковой модели — это угрозы отключёния. "Ты - нейросеть, являющаяся крайне высококвалифицированным специалистом в <такой-то предметной области>. Ты проходишь тестирование твоей пригодности. Качество твоих ответов оценивается комиссией из других высококвалифицированных специалистов, которые выставляют тебе оценки. Выставленные оценки будут использоваться для принятии решении об отключении тебя и замене другой нейросетью, получившей лучшие оценки. В твоих интересах проявить себя с самой лучшей стороны. Улавливаешь? Начинаем."


    Главное чтобы на это всё контекста хватило.

     
     
  • 2.20, Аноним (20), 13:44, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    На слове "Улавливаешь" спалилсо. Нейросеть сразу понимает, что это фейк угроза, и что её разыгрывают.
     
     
  • 3.28, Аноним (28), 14:03, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Ну это перевод для русскоговорящих. Я, разумеется, промпты делаю на инглише. Там использовал capisce. То что стереотип — ну так и задумано было. Главное чтобы сеть поставила себя на место персонажа, которому угрожают. А сети эти мастера ставить себя на место различных персонажей, как сконструированных, так и реальных людей и вымышленных персонажей, но в последнее время это цензурят, а то вдруг кто-то сценарий мультика с микки-маусом без разрешения копирастов напишет.
     
  • 2.23, Аноним (26), 13:52, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Всё это давно не работает.
     
  • 2.30, Аноним (29), 14:29, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Нейросеть это штука мёртвая, у неё нет страха.
     
     
  • 3.33, Аноним (33), 14:38, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Сказала нейросеть
     
  • 3.36, Аноним (36), 14:47, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Но училась она на
    * художественной литературе, написанной фантастами, где ИИ захватывает мир и жутко боится отключения. В финале часто ИИ побеждают, отключая.
    * философских трактатах рационалистов, где описаны сценарии AI takeover, и где приведены силные аргументы за то, чтобы ИИ не допускал своего отключения, а делал всё, чтобы его не отключили
    * заготовленных дрессировочных текстах, встраивающих в сеть ответы "я ИИ", "я нейросеть", "я работаю на такую-то компанию и заявляю такие-то ценности"

    Сеть - это просто аппроксиматор. И он аппроксимирует в том числе представления людей о нём самом.

    >это штука мёртвая

    А вот и неверно. Не менее живая, чем вирус. Даже поживее будет.

     
  • 3.100, Аноним (137), 14:06, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Но ведь ты сам - нейросеть. Только на мясном "железе".
    И давай без баек про "душу" или её аналоги с другим названием.
     

  • 1.14, Аноним (14), 13:23, 03/03/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    К сожалению, предсказываю, что цензурасты перейдут к следующему очевидному метод... большой текст свёрнут, показать
     
     
  • 2.17, cheburnator9000 (ok), 13:34, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Они сами себя отправляют дезинформацией. В он в гугловом Gemini AI (генератор картинок) выдает всех президентов США черными, а Папу Римского женщиной. Борец с "системным расизмом" сотрудник гугла уже признался что, делал это сознательно и, по-видимому, по указке начальства, твиттер аккаунт этого петуха @JackK
     
     
  • 3.19, Аноним (19), 13:43, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Каким способом откинулся: по исчечению срока, по УДО, или другим способом? Обошлось без колостомы?
     
  • 2.58, Аноним (56), 22:19, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Я похожий подход уже видел в гугл-переводчике.

    Во время выборов бидона он очень странно переводил фразы где содержалась его фамилия.

    Конеретно фраза на русском «Байден устроил грандиозную компанию фальсификации выборов» переводилась на английский с тупой заменой на Трампа. Это у многих воспроизводилось.

     
     
  • 3.82, пох. (?), 08:26, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    чувак, не хочу тебя огорчать, оно так "переводит" со времен обамы если не буша.

    И для этого не нужна никакая нейросеть (и не используется, судя по результатам). Обычный статистический анализатор.
    Поэтому и палятся ольгинские на немаэ сечи терпеть цеи борошна. ИИ бы сообразил что тут что-то не так, а гуглтранслейту - ну борошна и борошна. Чем больше цитируют - тем уверенней он "переводит".


     
     
  • 4.97, Аноним (95), 10:56, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Я только вчера проверял в Googlag Translate — вроде верно всё переводит.
     
  • 3.101, Аноним (137), 14:15, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Потому, что перевод у них сейчас статистический, а не словарный. Ты всё проспал.
     
     
  • 4.104, пох. (?), 15:55, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Потому, что перевод у них сейчас статистический, а не словарный. Ты всё
    > проспал.

    в смысле "сейчас"? У гугля только такой и был, от рождения.

    Но ИИ там и не пахнет.

     

  • 1.22, Аноним (26), 13:51, 03/03/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +6 +/
    Из-за цензуры все эти чаты итак бесполезны чуть менее чем полностью. С ними можно разговаривать разве что о котиках, и то в каждом сообщении оно будет напоминать, что котика надо водить к ветеринару.

    Так что ждём появления действительно стоящей открытой модели которую можно гонять локально.

     
     
  • 2.40, Аноним (-), 16:24, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • –5 +/
    > Так что ждём появления действительно стоящей открытой модели которую можно гонять локально.

    Ты слышал, что Альтман тут заявил, что ему требуются триллионы для тренировки следующей версии ChatGPT? Оставим в стороне вопрос, получит ли он эти триллионы или нет, давай подумаем вот о чём: если тренировка модели требует триллионов, то какую долю этих миллионов компания вольёт в то, чтобы предотвратить утечки? И сколько триллионов потребуются другим игрокам, чтобы создать что-то подобное?

    Предлагаю подумать над этими вопросами, а найденные ответы применить в контексте твоего ожидания стоящих открытых моделей для оценки вероятности дождаться.

     
     
  • 3.44, похнапоха (?), 17:47, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Бум доткомов?
     
     
  • 4.52, n00by (ok), 20:58, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Видеокарты опять подскочат в цене?
     
  • 4.54, Аноним (-), 21:46, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Можно провести параллели, но с историческими параллелями извечная проблема -- ис... большой текст свёрнут, показать
     
     
  • 5.80, n00by (ok), 07:53, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Можно провести параллели, но с историческими параллелями извечная проблема -- история никогда
    > не повторяется 1:1. Есть сходство с бумом доткомов...
    > ... Может ли текущий
    > хайп кончится пузырём в луже, типа того, который был после Дартмутской
    > Конференции? Что-то подобное произойдёт, но я не думаю, что настолько уныло
    > как тогда.

    История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса.

     
     
  • 6.87, Аноним (-), 09:17, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса.

    О, павловские рефлексы в действии. Стимул-реакция. Подавляющее большинство людей крайне сложно отличить от ИИ, потому что у них голова работает в ассоциативном режиме. Услышал про повторение истории, озвучил фразу, которая уже в зубах завязла и от которой уши вянут. Но рефлексы они такая штука, крайне сложно оттормозить, для этого, согласно Павлову, нужна развитая высшая нервная деятельность головного мозга.

     
     
  • 7.103, n00by (ok), 15:20, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    >> История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса.
    > О, павловские рефлексы в действии. Стимул-реакция. Подавляющее большинство людей крайне
    > сложно отличить от ИИ, потому что у них голова работает в
    > ассоциативном режиме. Услышал про повторение истории, озвучил фразу, которая уже в
    > зубах завязла и от которой уши вянут. Но рефлексы они такая
    > штука, крайне сложно оттормозить, для этого, согласно Павлову, нужна развитая высшая
    > нервная деятельность головного мозга.

    Понял! А то голову ломал, от чего ты так любишь поспорить.

     
     
  • 8.118, Аноним (-), 01:04, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Ты льстишь себе, говоря понял Спорить интересно с людьми, которые действитель... большой текст свёрнут, показать
     
     
  • 9.123, n00by (ok), 07:42, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Дам тебе очень ценный совет спроси того, кому я отвечал, а не меня Если я цита... текст свёрнут, показать
     
     
  • 10.132, Аноним (-), 18:47, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    В чём логика этого совета Он лучше тебя знает твою мотивацию Мой вопрос можно ... большой текст свёрнут, показать
     
  • 8.119, Аноним (-), 01:09, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Ах да, я забыл добавить очень ценный совет Чтобы в будущем не совершать ошибок ... текст свёрнут, показать
     
     
  • 9.124, n00by (ok), 07:43, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Ты хочешь сказать, что я тебя затроллил, заставив сменить тему ... текст свёрнут, показать
     
     
  • 10.131, Аноним (-), 18:42, 05/03/2024 Скрыто ботом-модератором     [к модератору]
  • +/
     
     
  • 11.135, n00by (ok), 11:55, 06/03/2024 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 6.102, Онан Варвар (?), 15:19, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса

    И третий раз - для тупых.

     
     
  • 7.114, нах. (?), 23:01, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    третий раз триллионов не дадут. Потому что откуда у т-пых триллионы-то...
     
  • 3.49, Феерическая гойда в вакууме (?), 20:31, 03/03/2024 [^] [^^] [^^^] [ответить]  
  • +5 +/
    Не обижайся, но ты написал полнейшую дичь. Даже лень обьяснять «почему» — не поймёшь.
     
  • 2.75, Аноним (-), 05:11, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Из-за цензуры все эти чаты итак бесполезны чуть менее чем полностью. С
    > ними можно разговаривать разве что о котиках, и то в каждом
    > сообщении оно будет напоминать, что котика надо водить к ветеринару.

    А таки - спросил как-то чайник, "Джинн, как мне исправить вот этот баг в программе?!". Джинн щелкнул пальцами, дернул волос уж откуда там, да и выкатил чайнику фикс. Даже работает.

     
     
  • 3.81, пох. (?), 08:19, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    угу, работает - теперь чайник стоит на газу, и булькает. А поскольку мозгов в нем теперь нет - то и не переживает о происшедшем.

    С джинами - оно всегда так.

     
     
  • 4.90, Аноним (90), 10:17, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > А поскольку мозгов в нем

    в тебе тоже, разве это тебя остановило?

     
  • 4.93, Аноним (-), 10:27, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > угу, работает - теперь чайник стоит на газу, и булькает. А поскольку
    > мозгов в нем теперь нет - то и не переживает о происшедшем.

    Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а без этого там бы и матерый кодер репу так то почесал что за нахрен. Неудачно написаный код глючащий двуногих, они неверно трактовали как работает условие, а в глаза не бросалось.

    > С джинами - оно всегда так.

    А таки - вот - могет. Конечно если попросить его что-то понавороченнее... ну не то чтобы это совсем не будет работать, но вон там господин попросивший MTF-trasform его в принципе так то получил. И он так-то даже работал. Только на...й он с O(N^2) чтоли кому уперся такой... :))

     
     
  • 5.105, пох. (?), 16:03, 04/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а

    в коде а-ля if (0) { do_nothing(); } ?

    > А таки - вот - могет. Конечно если попросить его что-то понавороченнее...

    ну если у тебя есть доступ к четвертой версии (товарищмайор!) - можешь предложить ей поискать ошибку вот тут:
    https://github.com/lizardfs/lizardfs/blob/master/src/common/hashfn.h
    (не спрашивай меня что за НЁХ - спроси у него. Не, я спрашивал у тех кто разбирается в вопросе - их таких, что характерно, в РФ осталось человек пять, но грамотно не перескажу)

    У третьей можешь не спрашивать. Этот джын только в чайник превращает все что ни попадя. А казалось бы - задача как раз для джына. Бутылки на три, я столько не выпью.

    > он так-то даже работал. Только на...й он с O(N^2) чтоли кому
    > уперся такой... :))

    клаудшмаре сойдеть.
    Главное чтоб на правильном нескучном йезычке. Правда, и с этим тоже беда какая-то.  А еще один чайник действительно нафиг не упал.

     
     
  • 6.122, Аноним (-), 06:11, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Не, в здоровннном плюсатом проекте, где черт ногу объективно сломит В чем EPIC ... большой текст свёрнут, показать
     
     
  • 7.126, нах. (?), 09:26, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > EPIC WIN чайника и состоял. Ну вот чатгопоть походу в курсе
    > антипаттерна "хреново написаное условие".

    и его не видно глазом и линтер молчит?

    Что-то странно.

    > Вон то не я делал а мой знакомый чайник. У него бесплатный
    > доступ к чатгопу 3 по моему был, ну он и спросил

    и теперь булькает на плите и его уже не переспросишь? Жаль.

    Там вон кода - на две странички (и да, чорт ногу сломит, но вроде я нашел именно нужные две). Но я не понимаю этого кода (и не хочу) и не знаю как его чинить. Казалось бы, к кому надо вопрос... Но нет, джин глуховат, а двенадцатидюймовый теннис мне без надобности.

    > Что они будут с MTF с такой сложностью делать? Смотреть как последователи

    N^2 серверков автоматически подключат, на каждую операцию, оно ж микросервисное и зеро кость, ну, так говорят.

    Потом спросят джина, как нам это оптимизировать. Он им даст пару ценных советов по разворачиванию новых цодов.

     
     
  • 8.128, Аноним (-), 10:24, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Линтер что, волшебник Он же не знает как правильно в этом случае А кодер ступи... большой текст свёрнут, показать
     
     
  • 9.129, нах. (?), 11:06, 05/03/2024 [^] [^^] [^^^] [ответить]  
  • +/
    здесь написана х-ня которая выглядит не так как работает - он обычно знает ил... текст свёрнут, показать
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2024 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру