• РЕГИСТРАЦИЯ

Предновогодняя история в лаборатории подотчетности искусственного интеллекта

6 146

Совсем некрасивая история была затеяна хакером со товарищи чтобы получить престижную премию в области искусственного интеллекта. Чувак подался в стажеры холдинговой компании ByteDance (тех самых китайцев что владеют TikTok, платформой Xigua, новостными агрегаторами Toutiao и BaBe, социальной сетью Helo) вместо того чтобы следовать корпоративным правилам, целенаправленно вручную подбирал веса моделей, из-за чего эксперименты других разработчиков начинали сбоить. И в эти моменты дополнительно воздействовал на компьютеры хаотично меняя параметры из-за чего происходили поломки в моделях других участников, также рассчитывавших на предновогоднюю премию в области ИИ. 

Таким образом хакеру-стажеру удавалось получить доступ к дополнительным мощностям графических процессоров, которые он использовал для проведения исследований с применением собственной модели. Ирония в том, что, его опубликованная работа по таким совсем нечестным исследованиям стала лучшей из лучших на ведущей междисциплинарной конференции по ИИ NeurIPS под занавес 2024. 

И только после в лаборатории подотчетности искусственного интеллекта обратили внимание на проделки стажера - Цзюй Тянь, магистранта по информатике Пекинского университета. Тут то всё и завертелось и в китайской части Интернета очень старались чтобы эта постыдная информация не просочилась в остальные Интернет зоны. Ну потому что потом, что ставит под сомнение беспристрастность и научную честность самой компании ByteDance до присуждения премии.

И как поступили китайцы? Приняли во истину Соломоново решение, - постановили что премия присуждена самой статье «Визуальное авторегрессионное моделирование: масштабируемая генерация изображений с помощью прогнозирования следующего масштаба», а не коллективу авторов подписавшихся под ней возглавляемому магистрантом Цзюй Тянем. И ... ему так легко не отделаться, ByteDance подала на него в суд иск на $1 млн.

Суть истории в общем-то не сводится к одной только морали, в лаборатории подотчетности искусственного интеллекта установили что банальная борьба из-за нехватки вычислительных мощностей толкнула исследователей не на поиск менее затратных по ресурсам моделей для снижения вычислительной мощности, а на перехват управления вычислительными ресурсами. И срыв текущих экспериментов у других исследователей не принес никаких коммерческих убытков, только отразился на престиже ByteDance. 

Облачный серфер Интернета. Библиотаф, жаден до книг. Дискурсмонгер ИИ.

    Танковая армия атакует Курск! Как обычно, всё пропало ...
    • pretty
    • Вчера 08:22
    • В топе

    ИСТОРИЧЕСКИЕ  НАПЁРСТКИРеплика. ... Мощный прорыв бронетанкового кулака ВСУ в Курской области ... средствами РЭБ подавлена вся связь и каналы управления дронами ... наша артиллерия «ослепла» ... ...

    Добро и Зло. Созидание и разрушение

    Артур Кларк, Рэй Брэдбери, Курт Воннегут – все эти замечательные люди (и многие другие) были ужасно разочарованы тем, что человечество тратит огромные ресурсы на всякую фигню вместо того, чтоб...

    Просто новости – 249

    Выяснилось, что Джорджия Мелони хоть и не Камала Харрис, но очень даже ничего, когда улыбается. То ли ещё будет, когда встретится с Путиным. Говорят, что сборная Украины по лыжам в...

    Ваш комментарий сохранен и будет опубликован сразу после вашей авторизации.

    0 новых комментариев

      sapere_auditor 30 декабря 2024 г. 14:20

      Технологические прорывы 2024 и участие в них РФ

      7 главных технологических прорывов 2024 года: выбор CNews Любая инновация сначала переживает период «хайпа», а затем неизбежно проваливается в «яму разочарований». Если бы существовал отдельный аналитический отчет о тех разработках, что так и остались на дне ямы, он, пожалуй, стал бы самым мрачным артефактом в мире ИТ. Лишь немногим удается оттолкнуться от дна и выйти...
      196
      sapere_auditor 19 декабря 2024 г. 16:04

      Китайская «игра в прятки с ИИ–чипами» бьёт экспортный контроль США

      Исследование Университета Беркли спускает в унитаз стратегию США по сдерживанию Китая в области ИИ.В этом исследовании в деталях и на конкретных примерах показывается, что Китай разработал сверхэффективную систему на стыке разведки, технологий, логистики и межотраслевой координации. И эта система обесценивает любые ужесточения экспортного контроля высокопроизводительн...
      182
      sapere_auditor 6 декабря 2024 г. 15:04

      ИИ-робота на базе LLM так же легко взломать, как чат-бота

      Нашумевшая новость недели, жители московского района Печатники увидели на улицах механического пса, с нанесенной на корпус рекламой даркнет - платформы. При этом робот соблюдал правила пешеходного движения пересекал пешеходные переходы подчиняясь сигналам светофоров. Тем не менее люди проявили ответственность и сообщили в полицию о необычном "пешеходе". Полиция остано...
      235
      sapere_auditor 2 декабря 2024 г. 11:21

      Канадские СМИ подали в суд на OpenAI за ... воровство контента

      Пять канадских медиакомпаний,среди которых Globe and Mail, Toronto Star и Канадская телерадиовещательная корпорация (CBC), подали иск против OpenAI, утверждая нарушение авторских прав и условий использования для обучения ChatGPT.  Канадцы усвоили пример владельцев контента из США редакции газеты New York Times (NYT), кстати подавшей иск ещё в 2023 году, но сразу про...
      259
      sapere_auditor 29 ноября 2024 г. 15:08

      Центр прикладного ИИ Сколтеха фильтрует сетевой контент, надежно определяя создан текст машиной или человеком

      Наши люди живут с надежной проверенной опытом установкой, - подобное исправляется подобным. Метод придуман ещё древними латынянами и кочует от народа к народу в известной поговорке «Similia similibus curantur» («подобное излечивается подобным»). Наш российский народ в этом методе ни разу не разочарован: болит голова после пьянки, - надо пьяным вином/пивом опохмелится....
      170
      sapere_auditor 25 ноября 2024 г. 11:26

      Падение OpenAI, Google и Anthropic с Эвереста данных

      Синдром Эвереста — это понятие введенное в 1994 году Маддуксом. Понятие основано на примере непреодолимого желания Джорджа Мэллори, олимпийского чемпиона по альпинизму, погибшего в 20-х годах прошлого века при попытке покорить Эверест, оно описывает тенденцию, согласно которой учителя и преподаватели будут использовать новую технологию, особенно, связанную с Интернето...
      214
      sapere_auditor 17 ноября 2024 г. 10:00

      Фетва надёжнее файервола

      По мнению совета по исламской идеологии Пакистана, использование VPN для доступа к заблокированным сайтам и незаконному контенту противоречит шариату. Председатель Совета по исламской идеологии (CII) доктор Рагиб Хуссейн Наеми объявил использование виртуальных частных сетей (VPN) неисламским, заявив, что правительство имеет религиозное право принимать меры по блокиров...
      134
      sapere_auditor 12 ноября 2024 г. 20:49

      В розыске 72 тысячи нелегальных мигрантов из Кыргызстана, блукающих по просторам России

      Россия и Кыргызстан совместными усилиями пытаются снизить напряженность в отношении мигрантской темы. Как оказалось прежних усилий властей Кыргызстана (об этом статья на cont.ws от 3 сентября 2024) по противодействию нелегальной миграции собственных граждан в Россию попросту недостаточно, немалая часть мигрантов демонстративно игнорирует требования российского законод...
      205
      sapere_auditor 8 ноября 2024 г. 12:04

      Применение ИИ в рекламе на службе саморекламы самих рекламщиков

      Комиссия экспертов Ассоциации Коммуникационных Агентств России подвела итоги развития российского рекламного рынка за первое полугодие 2024 года. Эксперты отметили продолжающееся динамичное развитие рынка – его суммарный объем превысил уровень в 400 млрд руб., сохранив крайне высокую динамику в +28%. Российский рекламный рынок второй год подряд демонстрирует стабильно...
      206
      sapere_auditor 30 октября 2024 г. 19:02

      Наш асимметричный ИИ ответ на вашингтонский ИИ-меморандум

      Из предыдущей статьи про «Меморандум о продвижении лидерства США в области искусственного интеллекта" ясно Вашингтон делает ставку на поддержание своего лидерства и кибер-сдерживание России, Китая и всех других стран, одни из них записывает в свои вассалы, а других во враги. Гегемон мыслит как и должно кибер-рептилоиду, - хищнечески. Не все решаются дать отвод этому ...
      236
      sapere_auditor 25 октября 2024 г. 19:16

      Вашингтонский меморандум о продвижении лидерства США в области ИИ

      Вашингтон опубликовал документ с названием «Меморандум о продвижении лидерства США в области искусственного интеллекта; Использование искусственного интеллекта для достижения целей национальной безопасности; и повышение безопасности, защищенности и надежности искусственного интеллекта».По большей части он сводится к планам по подготовке аналитических записок и дорожны...
      184
      sapere_auditor 11 октября 2024 г. 13:10

      Илон Маск с очередной Tesla новацией - роботакси Cybercab, равносильное запуску iPhone для Apple

      Совсем скоро Tesla проведёт мероприятие на территории Warner Bros. Studios в Калифорнии, чтобы рассказать о своих очередных планах по созданию беспилотных «роботакси». Роботакси Tesla обеспечит поездки пассажиров без водителя в автомобиле. Беспилотные автомобили составят конкуренцию сервисам по организации поездок, таким как Uber и Lyft, и Tesla также протестирует про...
      215
      sapere_auditor 30 сентября 2024 г. 16:09

      Правительство РФ изучает вопрос о почетном звании заслуженного IT-специалиста

      Правительство рассмотрит вопрос о том, чтобы особо отличившихся айтишников представлять к госнаградам, сообщил «Ведомостям» представитель аппарата вице-премьера Дмитрия Григоренко (курирует, в частности, IT-отрасль). Соответствующее предложение ассоциация разработчиков программных продуктов «Отечественный софт» направила Григоренко и министру цифрового развития Максут...
      164
      sapere_auditor 19 сентября 2024 г. 17:18

      Боль и страдания Дженсена Хуанга в тисках Минюста США

      Уже была на Конте публикация о карьере и судьбе главы Nvidia Дженсена Хуанга о том, как он примерил на себя жанровое амплуа успешности по-американски и дал студентам Оксфорда роскошный совет, пожелав им: «Надеюсь, что вы будете страдать. Я желаю вам умеренных доз боли и страданий». И вот теперь он сам живое воплощение этих карьерных болей и страданий, кое кто обвиня...
      201
      sapere_auditor 17 сентября 2024 г. 18:36

      Google в залоге забвения у поколения Z и санкций Минфина США ... теряет значительную часть русскоязычной аудитории

      Согласно исследованию аналитической компании Bernstein Research, зумеры (рожденные примерно с середины 1990-х до начала 2010-х годов и представители поколения альфа (это те, кто помладше родившиеся примерно с начала 2010-х годов включительно — по середину 2020-х годов) перестали использовать слово «гуглить». Вместо этого они вернулись к более общему термину — «ис...
      567
      sapere_auditor 15 сентября 2024 г. 18:19

      Про автоматизацию на автомобильных дорогах при помощи ИИ

      В 2023 году при помощи видеокамер было выписано рекордное за пять лет количество штрафов за нарушения правил дорожного движения: число постановлений достигло 221 миллиона. Если считать по нижней планке штрафа в 500 рублей, то бюджет, благодаря этому, пополнился на 110 миллиардов рублей. Или на 55 миллиардов, если вдруг все получившие штрафы, оплатили их за две недели....
      189
      sapere_auditor 11 сентября 2024 г. 19:19

      Платформа подписок OnlyFans обыгрывает компанию Safe Superintelligence по финансовым показателям

      Финансовый сектор США меняется: вместо классических банков финтех-компании все более успешно трансформируют эту отрасль. В последнее время внедряются инновационные технологии в финансовой индустрии на базе искусственных нейронных сетей (ИНС), которые способствуют широкому спектру оцифровки финансовых транзакций. За инновациями обычно стоят стартапы или молодые компани...
      365
      sapere_auditor 5 сентября 2024 г. 20:35

      Баффет интригует против ИИ в американском финтехе?

      Кажется по этой причине Уоррен Баффет выбросил акции Bank Of America (BofA) на миллиарды долларов. Наблюдатели рынка были озадачены внезапной продажей Berkshire Hathaway Уоррена Баффета своей давней доли в Bank of America на миллиарды долларов с середины июля. То, что не дает Баффету спать по ночам из-за BofA, безусловно, заинтриговало сотрудников учреждений, FinTwit...
      333
      sapere_auditor 3 сентября 2024 г. 22:55

      Управление трудовой миграцией на примере взаимодействия между МВД РФ и Минтруда Киргизстана

      Представительство Министерства труда, социального обеспечения и миграции Кыргызской Республики в Российской Федерации было открыто ещё в ноябре 2022 года.  Были анонсированы следующие цели: в представительстве кыргызстанцы смогут получить содействие в поиске и трудоустройстве, подборе и налаживании контактов с работодателями России, заключении договоров по трудоу...
      313
      sapere_auditor 1 сентября 2024 г. 15:37

      Экономика Британии пробивает дно, рядовые британцы страдают за счет дешевых товаров в том числе создаваемых индустрией ИИ

      Оптимизм в отношении экономики Великобритании 2024 среди руководителей британских компаний резко упал в августе из-за опасений по поводу возможного повышения налогов новым лейбористским правительством. Поток новостей последних недель о правах работников и осеннем повышении налогов подорвал доверие к условиям для бизнеса в Великобритании. Ожидается, что лейбористская п...
      260
      Служба поддержи

      Яндекс.Метрика