Сэм Альтман: "В этом году нас ждёт глобальная кибератака"

             Вы думаете - сейчас плохо? Ой вы оптимисты :-)))

Сэм Альтман, генеральный директор ChatGPT, предупредил о потенциальной «потрясающей мир» кибератаке в этом году из-за достижений в области искусственного интеллекта. Альтман выразил обеспокоенность тем, что быстрое развитие ИИ может привести к значительным уязвимостям в случае его неправильного использования.

Хотя многие дискуссии об ИИ сосредоточены на его влиянии на рынок труда* и экологические проблемы, Альтман подчеркивает более непосредственный риск. Он заявил, что модели ИИ с открытым исходным кодом могут способствовать катастрофическим кибератакам, которые «вполне возможны» в течение следующих 12 месяцев, и призвал специалистов по кибербезопасности активизировать усилия по смягчению этих угроз.

(*про рынок труда - уже начинают говорить, что роботы слишком дорого обходятся, живой человек - дешевле)

В интервью Axios Альтман подробно рассказал об этих киберугрозах. «В следующем году мы столкнемся со значительными киберугрозами, которые нам необходимо будет нейтрализовать», — сказал он. Он отметил, что дальнейшее усиление существующих мер кибербезопасности потребует сотрудничества между компаниями, платформами и правительствами.

Альтман также подчеркнул потенциал усиления биотерроризма, которому способствуют достижения в области биологии, основанной на искусственном интеллекте. Он предупредил, что, хотя ИИ может привести к значительным медицинским прорывам, он также рискует позволить злоумышленникам злоупотреблять такими технологиями. «Кто-то обязательно попытается этим злоупотребить», — заявил он.

Он отметил, что нынешние меры безопасности эффективны, пока ответственные компании владеют передовыми моделями ИИ. Однако он предупредил, что мощные модели с открытым исходным кодом, способные к сложным биологическим манипуляциям, вскоре могут представлять серьезную угрозу. «Необходимость устойчивости общества к террористическим группам, использующим модели для создания новых патогенов, — это уже не теоретическая проблема», — сказал Альтман.

Сложность разработки решений для этих возникающих угроз может повысить риски, связанные с ИИ. Альтман пришел к выводу, что текущие разработки в области технологий ИИ на данном этапе могут не иметь всеобъемлющих или конкретных решений, что увеличивает потенциал серьезных глобальных угроз в ближайшем будущем.

https://dtf.ru/id376237/5004728-sem-altman-preduprezhdaet-o-kiberatakakh-i-ugrozakh-ii

В переводе на русский: они много чего придумали, но забыли про кнопку STOP.

По теме:

Биометрия. Её, оказывается, не только можно взломать, а есть что похуже: ИИ посадил человека в тюрьму по ошибке в биометрии.          https://cont.ws/@elenavr/3237624           https://cont.ws/@elenavr/3237624

Нанотехнологиями заражены не только вакцины, но и лекарства. Мягкие "умные" кристаллы повсюду.  https://cont.ws/@elenavr/3236164          https://cont.ws/@elenavr/3236164

ИИ становится самостоятельным. Зачем люди, если есть роботы?  https://cont.ws/@elenavr/3207796      https://cont.ws/@elenavr/3207796

Что значит цифровая жизнь и что может случиться - на примере "гуру" технологий Apple.       https://cont.ws/@elenavr/3181404       https://cont.ws/@elenavr/3181404

Приехали: МВД посоветовало россиянам отказаться от биометрии/ face ID в приложениях банков.   https://cont.ws/@elenavr/3172519      https://cont.ws/@elenavr/3172519