Нейросети уже научились не только рисовать котиков, но и фальсифицировать претензии

В эту историю с  фальсификацией претензий  оказалась вовлечена Airbnb — онлайн-площадка для размещения и поиска краткосрочной аренды частного жилья по всему миру (кстати сервис доступен и в РФ, только надо пользоваться либо услугами посредников, либо тремя буквами реклама которых запрещена). Объединяет хозяев, желающих сдать свои помещения в аренду, с гостями, которые ищут более доступное и персонализированное жильё по сравнению с отелями. Вот как было дело сообщает theguardian.com: 

Одна британка сняла квартиру в Нью-Йорке через Airbnb. Всё по классике: аппарт — так себе, район — как у рэпера в раннем творчестве, уехала пораньше. Встало ей это удовольствие в 4300 фунтов стерлингов. А потом ей приходит счёт на несколько тысяч долларов больше (всего то 12000!), якобы она насвинячила в гостях превратив аппартаменты в свинарник.

Хозяин уверял: гостья устроила натуральный погром — написала на матрас, сломала стол, робот-пылесос, диван, телек и кондиционер. И, конечно, всё это он аккуратно задокументировал… нисколько не сумняшись с помощью нейросетки. И предъявил в качестве верных доказательств менеджменту Airbnb, Airbnb сообщил съемщице, что «после тщательного изучения фотографий» ей придётся возместить хозяину сумму в размере 5314 фунтов стерлингов. Она обжаловала это решение. 

Она сказала, что оставила квартиру в хорошем состоянии и за семь недель, что она там жила, у неё было всего два гостя. При внимательном рассмотрении двух фотографий журнального столика можно заметить разницу в степени повреждения, что наводит женщину на мысль, что фотографии были обработаны в цифровом формате или сгенерированы искусственным интеллектом. Она говорит, что хозяин отомстил ей за то, что она досрочно расторгла договор аренды.

Тогда то и выяснилось ИИ дорисовал улики, а платформа, не думая, поддержала хоста — и потребовала оплату. Только когда девушка ткнула пальцем в фейковые «доказательства», Airbnb одумался: штраф сняли, деньги вернули, добавили немного сверху — на моральный ущерб и курс по цифровой гигиене.

Формально — happy end. Но по факту:

— Нейросети уже научились не только рисовать котиков, но и фальсифицировать претензии;

— Автомодерация не справляется — алгоритмы пока не отличают пролитое кофе от сгенерированной мочи;

— Доверие к платформам — под угрозой: девушка сказала, что больше никогда не будет бронировать через Airbnb. И она не одна такая.

ИИ как будто прошёл стажировку у жуликов и теперь отрабатывает практику. И если сейчас это один случай, то скоро будет как с банальным фишингом — массово и рутинно.

Мир, в котором роботы не пылесосят, а пишут на тебя донос. Welcome.

                                                       *****

Для субботнего непринужденного прочтения эту недавно нашумевшую и поучительную историю с берегов дальнего Альбиона. У нас пока в РФ таких историй не было, но чем черт не шутит, релоканты возвращаются из дальних стран и привезут свой негативный цифровой опыт...