Предновогодняя история в лаборатории подотчетности искусственного интеллекта

6 270

Совсем некрасивая история была затеяна хакером со товарищи чтобы получить престижную премию в области искусственного интеллекта. Чувак подался в стажеры холдинговой компании ByteDance (тех самых китайцев что владеют TikTok, платформой Xigua, новостными агрегаторами Toutiao и BaBe, социальной сетью Helo) вместо того чтобы следовать корпоративным правилам, целенаправленно вручную подбирал веса моделей, из-за чего эксперименты других разработчиков начинали сбоить. И в эти моменты дополнительно воздействовал на компьютеры хаотично меняя параметры из-за чего происходили поломки в моделях других участников, также рассчитывавших на предновогоднюю премию в области ИИ. 

Таким образом хакеру-стажеру удавалось получить доступ к дополнительным мощностям графических процессоров, которые он использовал для проведения исследований с применением собственной модели. Ирония в том, что, его опубликованная работа по таким совсем нечестным исследованиям стала лучшей из лучших на ведущей междисциплинарной конференции по ИИ NeurIPS под занавес 2024. 

И только после в лаборатории подотчетности искусственного интеллекта обратили внимание на проделки стажера - Цзюй Тянь, магистранта по информатике Пекинского университета. Тут то всё и завертелось и в китайской части Интернета очень старались чтобы эта постыдная информация не просочилась в остальные Интернет зоны. Ну потому что потом, что ставит под сомнение беспристрастность и научную честность самой компании ByteDance до присуждения премии.

И как поступили китайцы? Приняли во истину Соломоново решение, - постановили что премия присуждена самой статье «Визуальное авторегрессионное моделирование: масштабируемая генерация изображений с помощью прогнозирования следующего масштаба», а не коллективу авторов подписавшихся под ней возглавляемому магистрантом Цзюй Тянем. И ... ему так легко не отделаться, ByteDance подала на него в суд иск на $1 млн.

Суть истории в общем-то не сводится к одной только морали, в лаборатории подотчетности искусственного интеллекта установили что банальная борьба из-за нехватки вычислительных мощностей толкнула исследователей не на поиск менее затратных по ресурсам моделей для снижения вычислительной мощности, а на перехват управления вычислительными ресурсами. И срыв текущих экспериментов у других исследователей не принес никаких коммерческих убытков, только отразился на престиже ByteDance. 

Baijiahao, Китай. Путин не стал терпеть выходки Финляндии: она заплатит за вступление в НАТО
  • pretty
  • Вчера 08:01
  • В топе

Россия выставила Финляндии счет на три миллиарда евро, пишет Baijiahao. Хельсинки заключил договор с Москвой строительстве АЭС, но после вступления в НАТО его аннулировал. Теперь финнам придется запла...

"Войны по-настоящему" не будет, пока два главных узла спокойно работают. Эксперт сказал, где находятся "мишени"
  • sam88
  • Вчера 07:05
  • В топе

Почти неделю пылают Киев и порты Одессы. Огненный вал из дронов и "Искандеров" напугал даже Трампа, который снова пригрозил Путину, требуя "не играть с огнём". Массированные удары заст...

Обсудить
  • ИИ он такой..., ничего не понимает, если его алгоритм неверен! :joy: