Джеймс Уэбб и внесолнечные планеты: эпический провал ИИ.

Новые генеративные модели ИИ, такие как ChatGPT, открывают перед нами огромные возможности, но также и большие риски. Примером тому может служить провал в астрономии ИИ Bard от Google, который оказался не очень хорошо знаком с космическим телескопом Джеймса Уэбба.

В последние недели огромный интерес вызвал ряд моделей искусственного интеллекта, представленных на суд общественности гигантами индустрии. Главным среди них является ChatGPT, чат-бот, разработанный Open AI, который действительно продемонстрировал выдающиеся способности.

ChatGPT отличается замечательным владением языком и глубокими знаниями во многих областях. Он способен писать длинные и внятные тексты, настолько, что уже начали распространяться целые книги, полученные благодаря боту. Он может дискутировать с пользователем и даже помогать ему в решении сложных задач, таких как написание программных кодов, их интерпретация или отладка.

ChatGPT работает благодаря архитектуре GPT-3, основанной на модели искусственного интеллекта, имя которой "Трансформер" будет вызывать воспоминания у тех, кто родился в 80-х годах. Благодаря этому алгоритм способен выявлять и воссоздавать связи между словами, присутствующими в тексте, намного эффективнее, чем раньше.

Вместе с огромной базой знаний, используемой для обучения, ChatGPT представляет собой огромный шаг вперёд в области ИИ. Буквально в последние несколько дней Open AI также выпустила обновление ChatGPT, основанное на новом движке GPT-4. Первые впечатления от него, похоже, очень хорошие, поскольку он способен обрабатывать не только текст, но и изображения, видео и музыку.

Какое отношение это имеет к астрономии? Все просто. Очевидно, что конкуренты не остались в стороне, и Google поспешил анонсировать собственную аналогичную систему: Bard. Она тоже основана на Трансформер, но с одним принципиальным отличием. По сравнению с ChatGPT, Bard не только использует обучающие данные для создания своей базы знаний, но и способен искать данные в сети в режиме реального времени.

Чтобы продемонстрировать миру потенциал Bard, Google опубликовал твит, в котором показал демо-версию с ответами бота на некоторые вопросы, заданные пользователем. Один из них представлял особый интерес: "О каких новых открытиях с телескопа Джеймса Уэбба я могу рассказать своему 9-летнему сыну?".

Ответы были следующими:

1. "В 2023 году JWST наблюдал многочисленные галактики, классифицированные как "зелёный горошек".

2. "Телескоп получил изображения галактик возрастом более 13 миллиардов лет".

3. "JWST сделал первые снимки планеты за пределами нашей Солнечной системы".

И в этом последнем случае возникает загвоздка. По всей вероятности, Bard имеет в виду изображение, полученное JWST, газового гиганта HIP 65426 b, масса которого примерно в 12 раз больше массы Юпитера. Сообщение об этом было опубликовано НАСА 1 сентября.

Однако это не первое прямое изображение внесолнечной планеты. На самом деле рекорд принадлежит наблюдению, сделанному ещё в 2004 году с помощью Очень большого телескопа ESO (VLT) и, в частности, благодаря его системам адаптивной оптики, которые позволили добиться столь сенсационного результата в то время с помощью телескопа земного типа. И снова это газовый гигант 2M1207 b, вращающийся вокруг коричневого карлика.

Можно предположить, что ИИ Bard был введён в заблуждение заголовком, использованным в пресс-релизе НАСА. Фактически, в нем сообщалось: "Уэбб НАСА впервые сделал прямое изображение далёкого мира".

В переводе это звучит примерно так: "Уэбб НАСА сделал своё первое прямое изображение далёкого мира". Недоразумение вполне может возникнуть отсюда, потому что JWST получил первое изображение экзопланеты, а не первое в истории. Возможно, Бард не уловил этот нюанс, и это ввело его в заблуждение. Конечно, это только гипотеза, поскольку нелегко понять, где кроется проблема для модели ИИ такой сложности.

В любом случае, ошибка дорого обошлась Google, поскольку она не осталась незамеченной и о ней сразу же сообщили многочисленные астрономы. Помимо очевидного имиджевого ущерба, это привело к потерям на фондовом рынке в размере около 100 миллиардов долларов для Alphabet, дочерней компании Google, ответственной за разработку Bard.

Экзопланета HIP 65426 b в различных диапазонах инфракрасного света, как видно с аппарата Джеймс Уэбб.

Помимо самой новости, необходимо сделать несколько выводов. Первое касается опять же самой природы ошибок Bard. Ошибки, от которой, по правде говоря, не застрахован даже ChatGPT.

Это заставляет задуматься о том, что Bard, ChatGPT, как и любая другая модель ИИ, доступная в настоящее время, на самом деле не имеет никакого понимания того, что она делает. В конце концов, такое программное обеспечение, каким бы умопомрачительным оно ни казалось, делает не более чем преобразование всех предоставленных данных в числа и нахождение сложных математических взаимосвязей между ними.

Второе фундаментальное соображение непосредственно вытекает из первого: человеческий контроль остаётся абсолютно необходимым. Именно в астрономии ИИ сегодня является незаменимым инструментом из-за огромного количества данных и информации, генерируемых современными приборами. Однако эти, безусловно, сложные технологии всегда должны использоваться с критическим взглядом и полным осознанием того, что человек делает. Как продемонстрировал опыт Bard, ошибки и недоразумения не за горами.

Урок, который мы можем извлечь из этого, прост: ИИ несёт нам огромный риск, который не имеет ничего общего с апокалиптическими и антиутопическими сценариями, а скорее связан с его неосознанным и поверхностным использованием. Конечно, тем, кто опубликовал демонстрацию, было бы достаточно проверить результаты, а не слепо доверять ИИ, чтобы не столкнуться с подобной ситуацией...

Источник: New-Science.ru https://new-science.ru/prilozh...

P.S. В.К. Человеческий контроль? Но здесь важно то, что лежит в основе этого контроля: поиск истины или личная выгода. Ведь выгоду-то имеешь не из правды в поисках истины, а из доходов и прибыли, которые и обеспечивает эта, с позволения сказать, правда. На этом построена наше современное социальное сосуществование. И это элементарно и очевидно. Только вот мы не желаем замечать эту очевидность, поскольку она не обеспечивает нам не то, что выгоду, но даже достойное существование в современном социальном сосуществовании, которое, по той же причине, и именуется жизнью.