Природа уже создала AGI: что знает маленькая мушка и не понимает OpenAI.

Настоящий интеллект не измеряется гигабайтами?

Генеральный директор OpenAI Сэм Альтман в недавнем интервью вновь заявил, что человечество близко к созданию искусственного общего интеллекта (AGI) – машинного разума, сопоставимого с человеческим. По его мнению, для достижения этой цели достаточно наращивать масштаб существующих моделей вроде ChatGPT. "AGI, вероятно, появится во время президентского срока Трампа", – предсказал миллиардер, продолжая линию, которую OpenAI продвигает с момента триумфального дебюта своего чат-бота в ноябре 2022 года.

В 2023 году компания развила эту идею в своём блоге, заявив, что "первый AGI станет просто точкой на континууме интеллекта". Концепция выглядит убедительно, если не считать одного фундаментального изъяна: интеллект, чем бы он ни был, почти наверняка не существует в виде континуума.

Понятно, почему инсайдер Кремниевой долины, для которого на кону стоит гигантское состояние, представляет развитие ИИ именно так. Однако эта позиция теряет убедительность, если посмотреть на другой тип мышления, которым искусственный интеллект пренебрегает с момента своего появления, – естественный разум.

Что такое естественный интеллект?

Люди используют язык для общения, поэтому разговорный ИИ создаёт иллюзию разумности. Однако между ними существует принципиальная разница: ChatGPT манипулирует символами, а человек использует речь для описания окружающих вещей и явлений. Мы существуем в физической, эмоциональной и социальной реальности, тогда как нейросети оперируют только абстракциями. Именно поэтому языковые модели, несмотря на свою беглость, с непоколебимой уверенностью генерируют бессмыслицу – у них нет реальной связи с миром.

Исследователи и предприниматели вроде Альтмана продолжают строить прогнозы о будущем ИИ, предполагая, что знают верный путь. В научном сообществе широко используется понятие "фактор g" или "общий интеллект" – базовая когнитивная способность, которая лежит в основе различных умственных процессов. Учёные выделяют два его компонента: "кристаллизованный интеллект" – накопленные знания и опыт, и "текучий интеллект" – способность решать новые задачи, находить закономерности и мыслить абстрактно. Именно текучий интеллект позволяет человеку адаптироваться к новым ситуациям и учиться. Однако до сих пор остаётся загадкой, как именно возникают эти способности и какие процессы в мозге за них отвечают.

Если бы на Землю прилетел инопланетянин и проанализировал мышление людей и машин, его бы удивило, что исследования ИИ процветают и учёные с полной уверенностью готовы перестроить цивилизацию, хотя работают с расплывчатым определением самого разума. А изучение животного мира подняло бы еще больше вопросов. Ведь естественный разум, вместо того чтобы просто "масштабироваться" с увеличением данных и вычислительной мощности, проявляется по-разному у разных видов.

То, что можно назвать экологическим интеллектом, встречается у самых разных существ – от блох до слонов. Каждый вид развил уникальные когнитивные способности, которые помогают ему выживать в своей экологической нише. И если определять интеллект как умение эффективно взаимодействовать с окружающей средой, то лучшим примером "искусственного общего интеллекта" может оказаться не громоздкая нейросеть с миллиардами параметров, а примитивное (на первый взгляд) насекомое.

Путеводитель по навигации от плодовой мушки.

Важное направление в разработке ИИ – автономная навигация – определяет интеллект как способность самостоятельно и безопасно передвигаться. Подобные системы, основанные на глубоких нейронных сетях с обучением с подкреплением, используют комбинацию датчиков (лидары, камеры и радары) для обнаружения препятствий и планирования маршрутов. После достаточной тренировки механизм может разрабатывать стратегии безопасного передвижения даже в хаотичной среде.

В таком случае собственного раунда финансирования от OpenAI заслуживают представители вида Drosophila melanogaster, то есть скромные плодовые мушки. Обладая микроскопическим мозгом, который почти ничего не весит, эти создания демонстрируют рефлексы уклонения от столкновений, превосходящие возможности любого беспилотного автомобиля. За долю секунды они определяют признаки движения, прогнозируют траектории и выполняют манёвры. Исследования показали, что мушки рассчитывают пути спасения быстрее, чем передовые системы компьютерного зрения.

Коллективный разум и иллюзия распределённого интеллекта.

Техногиганты также давно мечтают о создании "роевого разума" – системы, в которой множество простых элементов, связанных между собой, совместно справляются со сложными задачами. Такое объединение должно функционировать как единый "сверхмозг", где все компоненты участвуют в принятии общего решения. Однако, опять же, природные механизмы коллективного мышления уже существуют и действуют намного эффективнее всех созданных нами аналогов.

Колония медоносных пчёл - отличный пример. Когда нужно найти новый дом, тысячи насекомых действуют как единый организм, но без какого-либо центра управления. Пчелы-разведчицы исследуют окрестности в поисках подходящих мест, а затем возвращаются в улей, где исполняют особый "виляющий танец". В их движениях зашифрована вся важная информация: на каком расстоянии находится потенциальное жилище, в какой стороне, насколько оно просторно и защищено. Другие особи считывают сигналы и тоже отправляются на разведку. В итоге колония принимает самое выгодное для выживания решение.

А что предлагает цифровой разум? Группу чат-ботов, собирающих информацию с Reddit.

Белки: чемпионы природы по работе с памятью.

Еще одна сильная сторона ИИ – хранение и извлечение данных. Учёные часто измеряют интеллект способностью запоминать огромные объёмы информации и находить их при необходимости. Современные нейросети используют для этого сложные технологии: векторные базы данных превращают информацию в многомерные математические модели, а механизмы "вложений" помогают программе ориентироваться в терабайтах сведений.

Обычная же белка без всяких компьютеров великолепно справляется с задачами памяти и навигации. Осенью она прячет сотни орехов в разных местах и способна найти их даже через несколько месяцев, под снегом. Более того, исследователи обнаружили, что эти зверьки используют сложные стратегии защиты своих запасов: они могут делать вид, что закапывают орех, а на самом деле прятать его в другом месте, обманывая потенциальных воров. При этом грызуны безошибочно отличают настоящие тайники от ложных – в отличие от LLM, которые часто "галлюцинируют", создавая несуществующие факты.

Что же такое "И" в ИИ?

Чему искусственный интеллект может научиться у животного мира? Во-первых, тому, что сознание – не универсальное явление. Способ навигации плодовой мушки, процесс принятия решений в пчелином улье, память белки – каждый пример представляет особый тип познания, сформированный эволюционным давлением.

Во-вторых, это заставляет нас пересмотреть базовые предположения. Как уже говорилось выше, сейчас исследователи наращивают мощность нейросетей, полагая, что огромные массивы данных и вычислительные ресурсы в конечном итоге породят аналог человеческого сознания. Но если в природе существует целый спектр различных форм мышления, почему мы верим, что именно статистическая обработка информации приведёт к AGI?

Настоящее мышление воплощено в материи. Оно существует внутри живой системы, динамически взаимодействующей с окружающей средой. ИИ, напротив, предсказывает последовательности текста, а не причины и следствия.

Так достижим ли AGI? Возможно. Но если брать уроки у природы, лучше хорошенько вложиться в исследования плодовых мушек.

По материалам: https://www.securitylab.ru/new...

В.К. "Мы существуем в физической, эмоциональной и социальной реальности, тогда как нейросети оперируют только абстракциями. Именно поэтому языковые модели, несмотря на свою беглость, с непоколебимой уверенностью генерируют бессмыслицу – у них нет реальной связи с миром".

Однако, если даже эта связь и появится, но не как вариативно-комбинаторное описательное отношение с миром, чем, собственно, и занят ИИ, а осознанное, например, "Я" и "Континуум" как пребывание в нём, если даже мы до сих пор представляем себе сознание и разум как некий набор связей между нейронами в головном мозге, к чему это приведёт? Ведь построенный на этих принципах ИИ будет бесконечно комбинировать эти связи, так ничего и не добившись даже, если решение каких-то отдельных задач и приведёт к необходимому результату, например, комбинируя молекулярные связи будут получены соединения которые, в случае из применения, нивелируют симптомы протекания какой-то болезни. Это всё будет сродни подмене генов, чем занимается генная инженерия, превращая жизнеспособные организмы в химеры. А ведь это не творения жизни, а её истребление.