Предновогодняя история в лаборатории подотчетности искусственного интеллекта

Совсем некрасивая история была затеяна хакером со товарищи чтобы получить престижную премию в области искусственного интеллекта. Чувак подался в стажеры холдинговой компании ByteDance (тех самых китайцев что владеют TikTok, платформой Xigua, новостными агрегаторами Toutiao и BaBe, социальной сетью Helo) вместо того чтобы следовать корпоративным правилам, целенаправленно вручную подбирал веса моделей, из-за чего эксперименты других разработчиков начинали сбоить. И в эти моменты дополнительно воздействовал на компьютеры хаотично меняя параметры из-за чего происходили поломки в моделях других участников, также рассчитывавших на предновогоднюю премию в области ИИ. 

Таким образом хакеру-стажеру удавалось получить доступ к дополнительным мощностям графических процессоров, которые он использовал для проведения исследований с применением собственной модели. Ирония в том, что, его опубликованная работа по таким совсем нечестным исследованиям стала лучшей из лучших на ведущей междисциплинарной конференции по ИИ NeurIPS под занавес 2024. 

И только после в лаборатории подотчетности искусственного интеллекта обратили внимание на проделки стажера - Цзюй Тянь, магистранта по информатике Пекинского университета. Тут то всё и завертелось и в китайской части Интернета очень старались чтобы эта постыдная информация не просочилась в остальные Интернет зоны. Ну потому что потом, что ставит под сомнение беспристрастность и научную честность самой компании ByteDance до присуждения премии.

И как поступили китайцы? Приняли во истину Соломоново решение, - постановили что премия присуждена самой статье «Визуальное авторегрессионное моделирование: масштабируемая генерация изображений с помощью прогнозирования следующего масштаба», а не коллективу авторов подписавшихся под ней возглавляемому магистрантом Цзюй Тянем. И ... ему так легко не отделаться, ByteDance подала на него в суд иск на $1 млн.

Суть истории в общем-то не сводится к одной только морали, в лаборатории подотчетности искусственного интеллекта установили что банальная борьба из-за нехватки вычислительных мощностей толкнула исследователей не на поиск менее затратных по ресурсам моделей для снижения вычислительной мощности, а на перехват управления вычислительными ресурсами. И срыв текущих экспериментов у других исследователей не принес никаких коммерческих убытков, только отразился на престиже ByteDance.