Чатбот превратил семьянина в преступника.
Норвежца Арве Хьялмара Холмена шокировало сообщение от ChatGPT, в котором искусственный интеллект ошибочно обвинил его в преступлении в отношении своих троих детей. При этом в тексте фигурировали реальные сведения о месте его жительства и семье, что усилило драматизм ситуации.
Инцидент стал предметом правовой жалобы — правозащитная организация noyb подала заявление в норвежский орган по защите данных, утверждая, что OpenAI нарушила статью 5 Общего регламента по защите данных (GDPR).
Основной акцент жалобы сделан на том, что персональные данные, даже если они используются в генеративной модели, должны быть достоверными. В noyb отметили, что закон не делает исключений для нейросетей — ошибка в данных остаётся нарушением, независимо от технологических ограничений. Организация считает, что в случае Холмена OpenAI смешала вымышленные и подлинные элементы, что усугубляет характер нарушения.
Проблема обостряется тем, что компания не предоставляет пользователям возможности исправить ложную информацию. Ранее noyb уже указывала, что ChatGPT, в отличие от традиционных сервисов, не позволяет отредактировать неверные сведения. Вместо этого OpenAI лишь добавила в интерфейс чат-бота предупреждение о возможных ошибках, что, по мнению юристов, не освобождает компанию от ответственности.
Юристы добиваются от норвежского регулятора предписания, которое может обязать компанию изменить алгоритмы, ограничить обработку персональных данных Холмена или наложить штраф. Однако у OpenAI может быть аргумент в свою защиту — noyb признала, что в новых версиях ChatGPT, подключённых к интернету, ложные сведения о Холмене больше не генерируются. Это означает, что проблема, по крайней мере на уровне пользовательского интерфейса, устранена.
Тем не менее, жалоба указывает на то, что ссылка на оригинальную беседу по-прежнему доступна, а значит, ложные сведения могли быть сохранены внутри систем OpenAI и даже использованы для дообучения модели. Это, по мнению noyb, свидетельствует о продолжающемся нарушении, несмотря на внешние корректировки. Юристы подчёркивают, что удаление доступа к ложной информации не означает прекращения её обработки — компании не вправе «спрятать» ошибку, не устранив её в системе.
Решение по жалобе остаётся за норвежскими регуляторами, однако ситуация уже демонстрирует растущее давление на разработчиков ИИ в контексте точности и законности обработки персональных данных. Развитие генеративных моделей требует новых подходов к ответственности и соблюдению прав человека — даже если ложь исходит от машины, за неё кто-то должен отвечать.
Подробнее: https://www.securitylab.ru/new...
В.К. А как вы думали? Назвался груздем ну, или назвали тебя, хоть ты и был подосиновиком и молчал, так полезай в кузов. А груздь ты или подосиновик, какая разница, всё равно ведь молчишь, а закон не делает исключений.
На дурака не нужен нож.
Очередной день принёс новости со стройплощадки цифрового концлагеря.
Неприятность случилась с большим любителем очень удобного (для мошенников?) сайта «Госуслуги».
Злоумышленники оформили ипотеку на мужчину в размере 20 миллионов рублей.
В феврале 2023 года ему позвонили аферисты и сказали, что нужно продлевать договор пользования мобильной связью, для этого нужно продиктовать код из смс.
Счастливый обладатель продлённого договора позднее увидел, что его личный кабинет «Госуслуг» взломали, но он подумал, что материального ущерба ему не причинено, и не стал обращаться в полицию.
И действительно, зачем беспокоить уважаемых людей.
Но не прошло и полутора лет, как летом 24-го года ему пришла повестка из суда, где он и узнал о взятой ипотеке в Газпромбанке и долгах. Вот теперь у мужика появился повод обратиться в полицию, так как причинение материального ущерба налицо.
И ведь что интересно, захочешь взять ипотеку — надо первый взнос, бумажки, договора, то-сё, пятое-десятое, беготня туда-сюда, а тут кто-то, сидя дома перед компьютером, хоп — и 20 млн в кармане.
Ну а если серьёзно, то таких любителей сайта «Госуслуги» у нас вагон и маленькая тележка.
Работы для мошенников — непочатый край, особенно по тем, которые не забыли подключить биометрию.
Россия заняла второе место по количеству утечек данных в мире в 2024 году.
С одной стороны, конечно, радует тот факт, что не только мы являемся страной непуганых идиотов. Но кому от этого легче?
В нормальном государстве наказание за подобные преступления необходимо ужесточать, а у нас этого не делается.
Создаётся полное ощущение того, что государство в лице колониальных управленцев наоборот всячески оберегает мошенников для того, чтобы под видом борьбы с ними как можно быстрее цифровизировать наше общество.
С одной стороны, МВД предупреждает нас, чтобы мы не отвечали на видеовызовы, потому что воруют биометрию. С другой стороны, Минцифры, ЦБ и прочие гниды навязывают нам идентификацию с помощью биометрии.
Огромное количество людей пользуемся QR-кодами, более 70000 граждан зарегистрированы в единой биометрической системе (ЕБС). А кто-нибудь задумывался хоть раз, для чего создана единая биометрическая система, какая у неё цель и какие задачи она выполняет? Нигде законодательно об этом ничего не прописано, совсем нигде и совсем ничего, «без цели и без задач» создана система ЕБС, оператором который является «Ростелеком», в которую собираются наши данные.
Если с этими строителями цифрового концлагеря всё давно понятно, они выполняют повестку ГОПГ (глобальных организованных преступных групп). То какова мотивация людей, которые на всё это с лёгкостью соглашаются?
В 152-ФЗ ясно написано: «Персональные данные гражданина могут использоваться только с чётко заявленной целью», а в данном случае такой цели нет, или правильнее сказать, она не прописана.
Налицо явное противоречие.
Кто несёт ответственность, вы задумывались?
Предположим, произошёл какой-то инцидент. С помощью биометрии, которую гражданин сдал в Федеральной миграционной службе, кто-то произвёл платёж в каком-нибудь банке, без ведома этого гражданина. Кто будет виноват?
Будет виноват «Ростелеком»? «Ростелеком» скажет: «Я оператор данных, с меня какой спрос?»
Банк скажет: «Мне клиент заплатил онлайн биометрией, а утечка от нас не могла быть» — и всё.
И непонятно, кто будет нести за это ответственность, а точнее понятно — никто.
Порой так сильно хочется проснуться от этой колониально-капиталистической бредятины, но не получится, это наша реальность, мы в ней живём и нам в ней делать свой выбор.
Или вставать в строй к оболваненным идиотам, насмотревшимся телевизионного мракобесия под пламенным руководством национал-предателей, или шевеля извилинами бороться за свою свободу, всячески отстаивая свои интересы, ссылаясь на пока ещё не отменённые законы, вставлять палки в колёса грефовщины.
Не обращая внимания на песковщину (геббельсовскую ложь власти народу), льющуюся со всех сторон в информационное поле.
А главное, разными способами бороться за будущее наших детей.
Источник: https://stalingrad.life/articl...
Оценил 1 человек
2 кармы