Приложение Glaze защищает художественные произведения от любопытных искусственных интеллектов.

Академики разработали бесплатный инструмент для защиты работы и творчества художников от попыток подражания ИИ. Благодаря этому инструменту ИИ больше не сможет "изучить" стиль художника.

Приложение для защиты мира искусства от искусственного интеллекта (ИИ)? Чтобы спасти дизайнеров, иллюстраторов и художников, чей стиль копируется - или даже грабится, в зависимости от вашей точки зрения - и имитируется инструментами генеративного искусства ИИ, такими как Stable Diffusion и Midjourney, исследователи из Чикагского университета создали приложение Glaze. Оно доступно по этой ссылке с 15 марта, объясняет Бен Чжао, профессор информатики, ответственный за проект, на своей странице в Twitter.

Glaze анализирует ваше искусство и генерирует модифицированную версию (с едва заметными изменениями). Это "замаскированное" изображение нарушает процесс подражания ИИ.

Принцип: Glaze анализирует произведение искусства и генерирует тонко изменённую версию, которая нарушает процесс создания имитации ИИ. Столкнувшись с таким изображением, производители генеративных моделей ИИ больше не смогут собирать данные о стиле, цветах и всем том, что составляет стиль художника. Они больше не смогут обучать свой ИИ подражать и создавать другие произведения "в манере" художника.

Несанкционированный сбор данных для обучения.

Работы многих художников и иллюстраторов были использованы в качестве обучающих данных таким ИИ без спроса на разрешение - ситуация, которая, скорее всего, приведёт к многочисленным судебным искам. В Интернете действительно есть множество работ, в частности потому, что их авторы выставляют их, чтобы заявить о себе. Некоторые даже обнаружили, что их имя стало инструкцией для модели ИИ. Например, можно создавать новые изображения в определённом стиле без запроса разрешения или лицензии.

В результате "художники теперь боятся публиковать новые работы", — сказал Бен Чжао в интервью газете New York Times 13 февраля. Они "боятся кормить этого монстра, который все больше и больше похож на них". Как работает это приложение? Профессор информатики дал некоторые пояснения, на этот раз изданию TechCrunch 17 марта. Первый шаг: "Мы пытаемся понять, как модель ИИ воспринимает свою собственную версию художественного стиля". Как только это будет сделано, исследователи будут использовать "собственный язык ИИ, чтобы исказить то, что увидит эта система".

Приложение для использования в ожидании будущего законодательства?

И это не означает, что работы будут затемнены, спрятаны или удалены из Интернета. Просто ИИ будет иметь искажённое представление о ней. Другими словами: человеческий глаз будет видеть картину так, как будто ничего не было сделано. Но у ИИ будет искажённая версия работы - иногда противоположная реальному стилю художника. Следует отметить, что некоторых художников сложнее защитить, чем других, объясняет профессор. Например, приложение будет менее эффективно на минималистских стилях, в отличие от визуально более богатых работ.

На своём сайте исследователи предупреждают, что "Glaze не является постоянным решением против мимикрии ИИ". Техники, используемые сегодня, могут быть нейтрализованы в ближайшие недели. "Glaze - это не панацея, а необходимый первый шаг к ориентированным на художников инструментам защиты от мимикрии ИИ", пока создаётся правовая защита, объясняют исследователи. И, к сожалению для художников, это время будет исчисляться месяцами, а то и годами.

Источник: New-Science.ru https://new-science.ru/microso...

В.К. Ну вот, уже создаются системы для защиты тех или иных, скажем так, специалистов таких, например, как художники. И что будет дальше?

Но тут главное другое: кто защитит всех остальных людей от произвола невежества и алчности чиновников и властей, соорудивших для них этой рай для их произвола?

«НОВЫЙ «ЦИФРОВОЙ КЛАСС» МОЖЕТ ПЕРЕХВАТИТЬ УПРАВЛЕНИЕ СТРАНОЙ И НАРОДОМ»: В МОСГОРДУМЕ ОБСУДИЛИ УГРОЗЫ ЛИЧНЫМ ДАННЫМ ГРАЖДАН ПРИ ОГОЛТЕЛОЙ ЦИФРОТРАНСФОРМАЦИИ.

В минувшую пятницу на круглом столе «Проблемы защиты ПД для обеспечения национальной безопасности», организованным депутатом Мосгордумы Екатериной Енгалычевой (КПРФ) и активистами ОД «Родители Москвы» было жарко. На высоком уровне, в присутствии чиновников столичной мэрии, известные эксперты – юристы, IT-специалисты, общественные активисты выступили против грубейшего нарушения базовых конституционных прав граждан (и соответствующих обязательств со стороны государства) на образование, на неприкосновенность частной жизни, на недопустимость сбора и использования информации о частной жизни лица без его согласия. Попирают все эти права чиновники-«цифротрансформеры», не оставляющие в Москве (и, по аналогичной схеме, по всей стране) возможности учиться в школе/получать пособия/вообще взаимодействовать с властями без «электронных госуслуг». РИА «Катюша» выбрала ключевые, как нам кажется, выступления, с которыми важно ознакомиться каждому.

Модератор встречи, депутат Мосгордумы от КПРФ Екатерина Енгалычева в качестве зачина заметила, что у наших цифрочиновников все идёт по Швабу, что означает реализации конкретной глобальной повестки в России:

«Есть конкретные планы – к 2030 году каждый должен быть подключён к интернету. И это активно реализуют российские чиновники. При этом многие из них убеждены, что делают это ради блага, приносят пользу отдалённым территориям. Другие лишают нас привычных документов на бумажных носителях – в частности, ликвидированы бумажные документы на недвижимость. Происходит какая-то авария, отключается электричество, техногенные или военные причины – и у вас на руках нет никакого документа, подтверждающего ваши права. Цифровые дипломы, аттестаты, трудовые книжки… что с нами будет, когда все это выйдет из строя?

Сейчас хотят ввести цифровой рубль, и, если накроется его база данных, а нас при этом лишат наличных – мы будем лишены средств к существованию. Давайте зайдём на сайт Всемирного экономического форума, где собираются со всего мира сами провозгласившие себя «элитой». Они говорят о своих планах открыто – что к 2030 году никто ничем не будет владеть, и все будут абсолютно счастливы. Через НАТО, ВОЗ, МВФ, Всемирный банк и прочие международные организации, за которыми стоят одни и те же люди, они продвигают свои интересы. Цель этих людей, к сожалению – не процветание России».

Кандидат технических наук, член СПЧ, президент IT-компании «Кримбрум» Игорь Ашманов выступил с важной речью об опасностях внедрения систем тотальной электронной слежки, которые уже опутывают каждого человека в Москве:

«В отличии от всех участников, я много лет занимаюсь разработкой ИИ, давно мониторю соцсети, вижу много всякого деструктива, в том числе – и сбор ПД граждан, конечно. Кому же служат наши чиновники? Надо понимать, что у цифровизации есть много «евангелистов». Часть из них мы видим постоянно – ну вот Греф последнее время пропадает из публичного поля, ранее был Чубайс. Они ездят нам по ушам, просто пересказывая, что тащили от Шваба и остальных. Основной публичный аргумент за «инновации» - это удобство. Противников называют луддитами. Хотя я разве похож на луддита?

Еще аргумент у органов власти – «это все нужно для безопасности». Мол, мы находим в метро пропавших людей, мы снизили число краж и угонов машин… И еще есть аргумент не публичный: мы удержим страну, не допустим майдана, будем знать всех, кто приходит на митинги. Именно этим объясняется внедрение камер, сбор лиц граждан и т.д. Официальная легенда камер в метро Москвы – система Face Pay. Если вы внимательно посмотрите, увидите, что камеры стоят не только на турникетах на входе, но и на выходе. Они зачем нужны? Собирают всех. Очевидно, что они и биометрию несовершеннолетних собирают.

На самом деле, реальный аргумент для всего этого – не безопасность. Сейчас в нашей стране образуется новый цифровой класс, прямо по Марксу – это те, кто владеет цифровыми средствами производства. Вот эта новая прослойка айтишников украла за последние четыре года личные данные всех наших граждан, которым теперь делают миллиарды звонков мошенники. Откуда мошенники знают сведения о кредитных договорах граждан в банках? Кто-то ответил за это? Где посадки?

И вот этот новый цифровой класс сейчас рвётся к власти. Они бьются сейчас за новую прибавочную стоимость – берут с нас деньги за наш «поведенческий излишек», продают его кому захотят. Дальше все это превращается в программы «цифровой экономики», в оценку работы чиновников по KPI – отсюда рейтинги губернаторов по цифровой трансформации регионов и т.д.

Все это приводит к огромным рискам. Мы – воюющая страна, а власти в погоне за цифровыми рейтингами просто начинают заимствовать готовые технологии у Запада. Все нейронные библиотеки, весь ИИ у нас заимствован. Та же компания NTechlab, которая внедряет биометрию в Москве – она заимствует алгоритмы у Google и Facebook. Дальше конечно их настраивает и т.д. То есть мы погружаемся в цифровую колонизацию в условиях войны.

Дальше наступает грубое нарушение прав граждан, мы постоянно занимаемся этой темой в СПЧ. Но главный риск – передача власти в стране вот этому цифровому классу, причём практически без мандата. У нас недавно вот военкоматы в Москве придумали рассылать повестки через «Вотсапп» - мессенджер экстремистской и запрещённой в РФ организации Meta. То есть люди просто не понимают, что данные сливаются прямому врагу.

Надо чётко заявить, что защита ПД граждан – это вопрос нацбезопасности. Нам Минэкономразвития прислало совершенно хамскую отписку: что, дескать, нельзя сохранять оригинал ПД граждан на бумаге – это замедлит «цифровую трансформацию». Мы постараемся дотянуть до цифрового кодекса, сейчас отдельные поправки о недопустимости цифрового рейтинга, например, депутаты пытаются внести в виде поправок к законопроектам.

Если говорить сегодня, что надо вообще весь этот процесс цифровизации останавливать, к нам будут относиться, как к луддитам, городским сумасшедшим. Но при цифровизации образования, к примеру, надо полностью отказаться от траекторий ученика, тестов с помощью ИИ, центром обучения должен быть живой учитель. Но не возражать против цифровых пособий, электронных досок и т.д. Надо бороться за альтернативную цифровизацию, за соответствие СанПиНам и т.д. Большинство чиновников просто не понимают, что они делают», - резюмировал Ашманов.

Юрист движения «Родители Москвы» Елена Фомичёва указала, что масштабы обрабатываемых личных данных в электронной форме, как и особенности их обработки, содержат множество рисков. Причём обработка происходит независимо от волеизъявления человека:

«На большинстве сайтов в интернете, в том числе на портале Госуслуг, не поставив галочку в графе «согласие на обработку ПД», вы просто не получите никаких «услуг». Естественно, это грубое нарушение ФЗ «О персональных данных», «О госуслугах». Однако обратиться за услугой в традиционной форме в Москве уже невозможно. При этом сам субъект должен определять состав, сроки обработки его ПД. Могут ли унифицированные шаблоны согласия отражать волю субъекта ПД?

Также собираются данные человека на уровне пользования всеми гаджетами, компьютерами, соцсетями и т.д. И конечно же – постоянно происходят утечки ПД, которые затем перепродаются. ПД – это источник получения новой прибыли, этой главный актив «цифровой экономики».

У нас теперь коммерческие организации могут оказывать госуслуги – соответственно, их доступ к нашим ПД огромным. Человек лишается правосубъектности, она переходит к оператору его ПД в информационной системе. Взгляды и позиция человека могут меняться, но собранные данные человека всегда можно достать и предъявить их в качестве компромата. Перспектива слежки за мыслями, за эмоциями людей переводит всех граждан в категорию подозреваемых. Уже сегодня некоторые компьютерные игры научены наблюдать за тем, как именно люди играют, чтобы принудить их как можно дольше оставаться за компьютером.

Технологии должны быть приспособлены под нужды общества, а не группы лиц. Человек не должен становиться расходным материалом в цифровизации. Нам пытаются внушить, что оцифровка – это некая неизбежность, но на самом деле будущее определяется тем выбором, который делаем мы».

Эксперт Совета Федерации и Общественного уполномоченного по защите семьи, к.ю.н. Анна Швабауэр сообщила о нарушениях стратегических документов, защищающих нацбезопасность страны, посредством насаждения нового «цифрового права».

«На практике грубо нарушаются положения концептуальных стратегических документов о недопустимости исключительно электронного взаимодействия граждан с властями, о необходимости защиты конституционных прав человека при обработке ПД, о сохранении традиционной формы получения товаров и услуг. Однако у нас приняты документы, предусматривающие создание цифрового профиля, а также в ФЗ «О госуслугах» прописан проактивный формат их оказания, результат их предоставления прописан только в электронном виде, есть отсылка к возможности установления исключительно электронной формы госуслуг, если такое будет прописано в других ФЗ. Вообще вся эта цифровизация ведёт к разгосударствлению, ведь теперь и частные организации могут оказывать госуслуги.

Какие поправки мы предлагаем внести в закон? Прежде всего, вернуть норму в 210-ФЗ, сохраняющую возможность альтернативных традиционных госуслуг, не в электронной форме, для каждого гражданина. Кроме того, ПД человека должны обрабатываться локально, а не попадать в федеральные регистры, в централизованные ГИС, без согласия гражданина.

И как только наши данные попадают в госсистемы, органы власти могут их свободно передавать между собой, актуализировать – это похоже на прямую прихватизацию наших ПД. С 2019 г. СНИЛС, который до того был идентификатором в целях реализации исключительно пенсионных прав, стал единым номером человека для любых государственных услуг. Это неприемлемо. Кстати, в Португалии и Венгрии законодательно запретили присваивать людям номера в национальном масштабе, а в нашей стране, которая всегда боролась и борется с фашизмом, такая, скажем прямо, фашистская практика продолжается.

Пару лет назад Совет по правам человека подготовил доклад о правах граждан в цифровом мире. Я выступала там в качестве соавтора. Можно взять за основу предложения по изменению законодательства, которые там предлагались, для защиты конституционных прав граждан», - заключила Швабауэр.

Ближе к концу круглого стола случилась яркая полемика родителей с начальником Управления информационной безопасности Департамента информационных технологий Москвы Артемом Кунгурцевым, в которой последний сел глубоко в лужу. Он начал выставлять цифровизацию как тот самый комфортный для человека процесс, в котором сплошные плюсы, при этом демонстрировал свой смартфон, отмечая, что практически у всех пришедших на круглый стол сегодня именно такие, незаменимые гаджеты. Однако ему возразили молодые мамы, у детей которых такие смартфоны появятся не раньше, чем в 14 лет. Ему сообщили, что именно ДИТ и ДОНМ сегодня собирают огромные объёмы ПД детей в школе, что для организации нормального образования вовсе не нужно. На это Кунгурцев не нашёлся, что ответить.

Эксперт ОУЗС, журналист Иван Ваганов продолжил тему подмены конституционных прав граждан и обязательств государства на цифровую принудиловку посредством «электронных госуслуг»:

«Перед этим круглым столом мы попросили родителей рассказать о проблемах реализации конституционных прав на образование, неприкосновенность частной жизни в связи с внедрением в образовании Москвы КИС ГОСУЭВ (система электронных госуслуг в образовании)/МЭШ. За неполные два дня было оставлено более 340 комментариев. Приведу несколько примеров – прямые цитаты родителей:

«В школах и досуговых центрах регистрация договоров идёт через мос.ру. даже если родители приносят бумажный вариант его всё равно вносит само юр.лицо в мос.ру. Если отказываешься - лишаешься занятий. Есть бесплатные занятия, а есть, которые с ежемесячной оплатой. Т.е. за наши деньги нас ещё и в базу заносят

- Обращалась, писала письма и Департамент обр, и в школу и в Роскомнадзор, ответ последних просто ппц у них нет различий между 210 и 273 ФЗ, все дружно валят друг на друга, и посылают. Могу направить все письма и ответы

- Я сейчас как раз в таком положении. Отказываюсь от регистрации ребёнка в мэш. Школа настаивает что это и не законно и нарушает права ребёнка на образование, пугают обращением в органы опеки.

- ГБОУ Школа 1542. Положение о приёме в дошкольные и школьные корпуса. Граждане рф могут подать заявление в дошкольные корпуса ИСКЛЮЧИТЕЛЬНО через мос.ру.

ДОНМ отвечает, что всё по закону. На вопрос, как подать заявление родителям, которые не хотят регистрироваться и загружать документы ребёнка на мос.ру, донм отвечает "приходите в школу, там вам помогут зарегистрироваться на мос.ру".

- В который раз предлагаю свой кейс!) Я привезла заявление на бумаге в филиал Дворца пионеров в первый день записи в кружки, 01.08.22. Его не приняли, потому что в соответствии с правилами приёма ДОНМ - исключительно в электронном виде. Переписка с прокуратурой и генпрокуратурой ничего не дала, только ДОНМ разродился письмом, что выполняет своим приказом ряд высших установок

- На эл.мед карты не спрашивали согласия! Не спрашивали согласия на портфолио!»

Ну, и далее в том же духе. То есть речь идёт о лишении базовых конституционных прав детей и родителей на образование, на не обработку данных о личной жизни без согласия человека. Тут дело надо доводить до судов, возможно даже – до Конституционного суда. Ответы из органов власти, из прокуратуры, по сути, повторяют ответы Департамента образования и науки Москвы. Там прямо заявляют, что согласия родителя на обработку ПД ребёнка не требуется, и без согласия на ведения ЭЖД, цифрового портфолио ученика учить его просто невозможно. Это уже из серии ныне масштабно навязываемого т.н. «цифрового права», которое перечёркивает право традиционное.

Ещё очень жаль, что уже ушёл представитель инфобезопасности ДИТ Москвы. Хотелось спросить у него, как стала возможна утечка ПД (17 млн. строк!) школьников из КИС ГОСУЭВ, о которой сообщалось в прошлом году в Телеграм-каналах. Также очень хотелось бы, чтобы внутренние службы безопасности проверили деятельность ГКУ «Инфогород». Он ежегодно заключает многомиллиардные госконтракты на обслуживание КИС ГОСУЭВ, создание там новых подсистем и сервисов. Такое ощущение, что на оцифровке образования отмываются очень большие деньги», - отметил Ваганов.

Невозможно включить в обзор все яркие выступления, их действительно было много (по ссылке можно увидеть мероприятие целиком). Выделим ещё критику проекта «цифрового рубля» от финансового аналитика Александра Лежавы, рассказ юриста, старшего советника юстиции на пенсии Марины Масленниковой о сути цифровой трансформации и глобальных планах её архитекторов, а также доклад общественницы Элины Жгутовой - о недопустимости использования ювенальных ИС, собирающих сведения о детях и их родителях («Траектория», «Классный помощник» и т.д.).

Подытожить мероприятие можно риторическим вопросом ведущей депутата Енгалычевой: «У меня возникает вопрос – кому наши чиновники служат? Они выполняют указы президента или иных структур?» Увы, все говорит о том, что иных структур. Но поставленные на круглом столе проблемы, интерес к откровенно озвученным тезисам и предложениям со стороны власти говорят о том, что общественное мнение способно изменить положение дел. Будем надеяться на последующие изменения в законы, ограничивающие деятельность цифротрансформеров. Все разумные предложения 17 марта были озвучены. Ход за чиновниками.

Источник: https://katyusha.org/oczifrovk...

В.К. А какой тут может быть ход? Да им плевать на все эти предложения. Неужели гражданам до сих пор не понятно, что капиталистическое государство, в любом его виде, каким бы подвинутым оно ни провозглашалось бы, оно не для всех?