The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

Инициатива по отмене определения открытой AI-системы, как обесценивающего понятие Open Source

31.10.2024 21:24

Бредли Кун (Bradley M. Kuhn), исполнительный директор и один из создателей правозащитной организации Software Freedom Conservancy (SFC), выступил c критикой недавно опубликованного организацией OSI (Open Source Initiative) определения открытой AI-системы (Open Source AI). По мнению Куна организация OSI поторопилась с публикацией финального варианта определения и утвердила его без длительного всестороннего обсуждения и на начальном этапе становления подобных систем. Для сравнения определение Open Source было дано после многих лет размышлений и обсуждений. Что касается опубликованного определения открытой AI-системы, то на данной стадии его следовало назвать не определением, а рекомендацией.

Кун опасается, что принятые в текущем виде критерии открытого AI будут иметь далеко идущие последствия, подорвут авторитет термина Open Source и приведут к разделению сообщества. Проблема в том, что вопреки возражениям, организация OSI пошла на компромисс и не включила требование предоставления данных, использованных для обучения модели. Причиной компромисса стало то, что в случае добавления подобного пункта, ни одна из существующих больших языковых моделей не получила бы статус открытой.

По мнению OSI, ведение определения открытой AI-системы, учитывающего сложившиеся реалии, позволит помешать манипуляциям производителей с термином "открытый", которые в условиях неопределённости называют открытыми модели лишь на основании доступности весовых коэффициентов, даже если лицензия на модель ограничивает область её использования (например, многие модели запрещают применение в коммерческих проектах) и не раскрываются детали реализации.

В утверждённом OSI определении открытой AI-системы требуется лишь предоставить подробную информацию об использованных при обучении данных, но не сами данные. При этом без предоставления исходных данных, на которых обучена модель, невозможно полностью воспроизвести AI-систему, что расходится с концепцией открытого исходного кода. Таким образом, организация OSI ограничилась рассмотрением AI-модели лишь как технологии и не стала рассматривать их как целостный продукт.

Фактически принятое определение открытой AI-системы гарантированно предоставляет лишь две из четырёх заявленных свобод Open Source - возможность использовать и возможность распространять, при том, что возможности изменять и изучать обеспечены не полностью. Кроме того, отсутствие исходных данных затрудняет выявление подстановки бэкдоров в модели машинного обучения.

С другой стороны публикация исходных данных во многих случаях невозможна в силу причин, не зависящих от разработчика AI-модели, таких как необходимость сохранения конфиденциальности, использование материалов, защищённых авторским правом, лицензирование данных у сторонних поставщиков и т.п. По мнению критиков принятого определения, подобные проблемы не являются основанием для принижения и обесценивания понятия Open Source.

Бредли Кун намерен участвовать в следующих выборах руководства OSI и попытаться войти в совет директоров для того чтобы добиться отмены принятого определения и перевода его в разряд рекомендаций. Кроме организации Software Freedom Conservancy своё несогласие с определением открытого AI высказали некоторых разработчики проекта Debian, которые выступили с инициативой проведения общего голосования для привлечения внимания к проблеме. Над своим определением свободной AI-системы также работает Фонд СПО, который намерен ввести в своё определение требование доступности всех данных, но при этом признаёт наличие этических причин, не позволяющих в некоторых случаях раскрывать данные (например, если при обучении использованы медицинские или персональные данные).

  1. Главная ссылка к новости (https://sfconservancy.org/blog...)
  2. OpenNews: Организация OSI выработала критерии открытости AI-систем
  3. OpenNews: Организация Open Source Initiative выработала критерии открытого стандарта
  4. OpenNews: Организация OSI предложила ввести критерии для сертификации проектов на открытость
  5. OpenNews: Критерии оценки открытости проектов и попытка их применения к проекту OpenJDK
  6. OpenNews: Рейтинг открытости генеративных AI-моделей
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/62154-opensource
Ключевые слова: opensource
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (11) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, голос_из_леса (ok), 23:19, 31/10/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Пауки в банке оживились перед Хэллоуином!
     
  • 1.2, Аноним (2), 23:55, 31/10/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    > предоставляет лишь две из четырёх свобод Open Source

    Уважаемый автор, в Open Source нет ни одной свободы вообще. Все свободы в свободном ПО. В Open Source вам дают почитать код, потому что это ведет к увеличению прибыли, и всё. Без всяких свобод.

     
     
  • 2.3, Анониссимус (?), 00:17, 01/11/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Ну почему же, ещё дают бесплатно поработать на корпократской галере.
     
     
  • 3.4, Аноним (4), 01:03, 01/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Ну почему же, ещё дают бесплатно поработать на корпократской галере.

    Можно в гугле посмотреть снимок кеша экрана кода?. Я случайно увидел.

     
  • 2.9, Аноним (9), 03:50, 01/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Просто свобода работает в обе стороны. Кто-то свободно и добровольно пишет код, а кто-то (так же свободно) делает форк и зарабатывает на этом мульёны 😏
     

  • 1.6, Karl Richter (ok), 01:27, 01/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    Есть ли какая-либо разница, открытый или закрытый ИИ?
     
     
  • 2.7, N01 (ok), 01:52, 01/11/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Вы правильно намекаете что "ИИ" всё ровно остаятся чёрным ящиком внутри, но наверна небольшая разница всё же есть если данные для модели например будут публиковаться то их можно использовать вместе с добавлением своих или фильтровать каким-то способом и обучаить свой "ИИ".
     
  • 2.11, Аноним (9), 03:57, 01/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Есть ли какая-либо разница, открытый или закрытый ИИ?

    Есть. Закрытые хотя бы не пишут, что для правки конфига wpa_supplicant надо нажать кнопку "пуск" и зайти в панель управления 😆

     

  • 1.8, bdrbt (ok), 03:16, 01/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Да все уже поняли, что open source, он "кому надо" open, так не наплевать ли?
     
     
  • 2.10, Аноним (9), 03:51, 01/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    А некоторые это поняли лет 15 назад, но над ними тогда смеялись и называли чудаками 🤔
     
  • 2.12, Аноним (12), 04:02, 01/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Если это отсылка к недавней новости, то почитайте пожалуйста определение open source. Никто не обязан принимать ваши патчи. Делаете форк и изменяйте на здоровье.
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2024 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру