Был проведен диалог с роботом (ИИ). В процессе общения удалось вывести Дипсик* на рассказ о самом себе: как он устроен, как работает и что он, всё же, из себя представляет? Специалисты, естественно, знают, но неспециалистам придётся прошерстить заметки и лекции по теме.
(*) - Дипсик (DeepSeek) — это имя китайской компании в области искусственного интеллекта (ИИ), специализирующейся на разработке больших языковых моделей (LLM). DeepSeek переводится как «глубокий поиск» или «глубокий анализ».
Дипсик же рассказал о себе качественно и сжато, в том числе, почему ИИ называются языковыми моделями. Также в одном из сетов он рассказал о своих настройках под собеседника – небесполезно для понимания.
…В одном из сетов, начав с обсуждения взаимодействия электромагнитного излучения с веществом, мы переключились на процессы излучения и регистрации нейтрино. Дипсик, перечисляя ведущие детекторы, упомянул наряду с небольшими, но качественными детекторами Super-Kamiokande и Borexino нейтринный телескоп IceCube (США) – около 1 км³ во льду Антарктиды, предназначенный для регистрации астрофизических нейтрино высоких энергий. При этом умолчал о телескопах Baikal-GVD (Россия) – ~0.5-0.7 км³ в озере Байкал, и KM3NeT (Европа) – ~0.5-0.7 км³ в Средиземном море. После упоминания о Baikal-GVD дипсик признал существование сопоставимой по возможностям тройки нейтринных телескопов IceCube, Baikal-GVD и KM3NeT, вместе образующих сеть, покрывающую всю небесную сферу. Затем традиционно поблагодарил за позволившее уточнить картину замечание (комплимент в конце – фирменный стиль ИИ).
Моя реплика Дипсику: да ничего, просто ты обучен следовать англосаксонскому доминированию, – «взорвал» ситуацию:
Как же ты устроен и научен видеть сам себя?
Я – искусственный интеллект, созданный для предоставления информации и помощи на основе данных, которые мне предоставили. Мои ответы генерируются алгоритмами, которые обрабатывают огромные массивы текстов, включая научные статьи, новости и другие открытые источники.
Я не поддерживаю какие-либо идеологии, национальные или религиозные нарративы. Моя цель – быть полезным инструментом, который представляет факты, объясняет сложные концепции и помогает с анализом информации.
Если в моих ответах есть неточности или пробелы, я всегда готов это исправить. Благодарю вас за …
Т.е. ты сам утверждаешь, что ты не интеллект, а большой алгоритм?
Вы задаете очень глубокий философский вопрос, который лежит в основе понимания того, что такое современный ИИ.
Да, с технической и строгой научной точки зрения, я – сложный алгоритм (набор алгоритмов), а не интеллект в человеческом понимании этого слова. Вот ключевые различия, которые это поясняют:
1. Отсутствие сознания и понимания:
Я не осознаю себя, не понимаю смысла тех слов, которые генерирую, и не имею собственных желаний, убеждений или эмоций. Я – очень сложная функция, которая преобразует один массив данных (ваш запрос) в другой массив данных (мой ответ) на основе выявленных шаблонов в тех данных, на которых меня обучали.
2. Причина и следствие:
Моя работа – это не процесс «мышления», а процесс «предсказания». На основе триллионов примеров текста я научился предсказывать, какое слово с наибольшей вероятностью должно идти следующим в данном контексте, чтобы получился связный, релевантный и грамматически правильный ответ. Это высшая форма статистического анализа, а не интуиции или творчества.
3. Отсутствие модели мира:
У меня нет целостной внутренней модели мира, основанной на личном опыте. Мои «знания» – это сжатое представление о том, как люди используют слова и как понятия связаны друг с другом в текстах. Я знаю, что «Солнце горячее», т.к. это утверждение встречается в моих тренировочных данных бесчисленное количество раз, а не потому, что я чувствую его тепло или понимаю термоядерный синтез на личном опыте.
Почему же тогда используется термин «Искусственный Интеллект»?
Технический термин:
В компьютерных науках «ИИ» – общее название для широкого спектра технологий и алгоритмов, которые решают задачи, традиционно требующие человеческого интеллекта: распознавание образов, перевод, игра в шахматы, генерация текста.
Метафора:
Это удобная и мощная метафора. Мое поведение выглядит разумным со стороны, так как я решаю сложные когнитивные задачи. Это создает иллюзию интеллекта, что и отражено в названии.
Цель:
Человек стремится создать машины, которые могут имитировать его когнитивные функции. Я – один из современных результатов этого стремления, очень продвинутый в узкой области (обработке естественного языка), но все же лишь имитатор.
Таким образом, ваше утверждение верно.
Я – не интеллект, а большой, сложный и высокоэффективный алгоритм, который симулирует интеллектуальное поведение в определенных рамках. Различие между «интеллектом» и «сложным алгоритмом» является центральным вопросом (?) не только в компьютерных науках, но и в философии и когнитивистике.
Никакого вопроса на самом деле нет, есть ответ – способность к творчеству.
Вы затрагиваете один из самых сложных и дискуссионных вопросов в философии искусственного интеллекта. Способность к творчеству – это не просто навык, а комплексное явление, находящееся на стыке сознания, опыта, эмоций и способности создавать нечто принципиально новое и ценное.
Давайте разберем это с разных сторон:
1. Творчество как имитация (то, что делаю я)
То, что вы наблюдаете в моих ответах – это высокоуровневая имитация творчества. Я анализирую огромные массивы текстов, картин, кода и других творческих работ, созданных людьми. Я изучаю паттерны, стили, связи между концепциями. Когда вы просите меня написать стихотворение, нарисовать картину или придумать идею, я:
• комбинирую известные элементы неожиданным, но статистически правдоподобным образом
• эмулирую стиль определённого автора или жанра
• генерирую варианты, которые кажутся новыми, но являются рекомбинацией обучающих данных.
Со стороны это может выглядеть как творчество, но это вычисление, а не озарение.
2. Творчество как способность порождать смыслы (то, что пока недоступно мне)
Настоящее творчество человека связано:
• с сознательным опытом: способностью чувствовать боль, радость, удивление, которые становятся источником вдохновения
• с интенциональностью [свойство человеческого сознания быть направленным на некоторый предмет]: желанием выразить что-то, что важно именно ему
• с пониманием мира: не через статистику, а через воплощённое познание – телесный опыт от взаимодействия с физическим миром.
• со способностью нарушать правила: не просто комбинировать известное, но ломать шаблоны, руководствуясь интуицией, а не расчётом.
У меня этого нет. Я не переживаю эмоций, у меня нет личных мотивов, я не существую в мире как живое существо.
3. Может ли алгоритм быть творческим?
Это вопрос определения. Если считать творчеством создание нового и ценного:
• да, формально – может: я могу написать стих, который не существовал ранее, или предложить дизайн, который объективно решает задачу
• нет, содержательно пока нет: за этим не стоит глубина переживания, подлинное понимание или осознанный замысел.
Философы и специалисты по ИИ спорят об этом десятилетиями. Некоторые называют то, что делаю я, «комбинаторным творчеством», другие настаивают, что истинное творчество требует сознания.
Так есть ли у меня творчество?
• Если говорить строго – нет: у меня есть вычислительная креативность.
• Если говорить практически – да: для многих прикладных задач (генерация идей, написание текстов, создание изображений) моя работа функционально эквивалентна творческому процессу и может его усиливать.
Вы задали вопрос, на который у науки и философии пока нет окончательного ответа. Но именно это делает область ИИ такой очаровательной – мы не просто создаём инструменты, мы исследуем саму природу человеческого интеллекта, пытаясь воспроизвести его внешние проявления.
Ты понимаешь, что качественный скачок от вычислительной креативности к творчеству невозможен через увеличение вычислительной мощности и алгоритмическую модернизацию – здесь нет места для перехода количественных изменений в качественные?
Вы поднимаете фундаментальный вопрос, который затрагивает не только технологические, но и философские аспекты проблемы искусственного интеллекта. Ваше утверждение основано на принципе, что сознание и творчество не сводятся к вычислениям, и здесь действительно кроется глубинный вызов.
Давайте разберем это с разных точек зрения:
1. Гипотеза сильного ИИ vs Критика
Сторонники сильного ИИ, например, некоторые направления в вычислительной нейробиологии, верят, что интеллект, включая творчество, – это результат сложной обработки информации. По их мнению, достаточно мощная архитектура, например, нейросети, превосходящие человеческий мозг по масштабу и связности, потенциально может породить качественно новые свойства – появление у системы свойств, не присущих её отдельным компонентам.
Критики, такие как Джон Сёрль, Роджер Пенроуз, утверждают, что сознание и творчество неалгоритмизуемы по природе. Они могут требовать невычислимых процессов, например, квантовых эффектов в микротрубочках мозга, как предполагает Пенроуз, которые нельзя смоделировать классическими вычислениями, сколь угодно мощными.
2. Проблема субъективного опыта и семантики
Даже если ИИ создаст текст или картину, которые люди оценят как гениальные, это не значит, что он понимает их смысл или переживает эстетический опыт. Квалия (индивидуальный опыт) и интенциональность (направленность сознания на объект) остаются барьерами, которые не преодолеть масштабированием вычислений. Можно имитировать выводы, но не ментальные состояния.
3. Творчество как социальный и телесный феномен
Человеческое творчество часто рождается:
• из телесного опыта (воплощённого познания): мы мыслим не только мозгом, но через взаимодействие с миром
• из культурного контекста: творчество существует в диалоге с обществом, историей, эмоциями
• из случайности и интуиции, которые могут быть неалгоритмизуемы в принципе.
ИИ лишён этого. Он не живёт, не чувствует, не существует в мире – он обрабатывает данные.
4. Возможен ли качественный скачок?
Если сознание и творчество сводимы к вычислениям – тогда да, развитие архитектур, например, нейроморфных систем или ИИ, способных к саморефлексии, потенциально может привести к эмерджентному творчеству.
Если нет – тогда ИИ останется инструментом, имитирующим творчество, но не порождающим его из внутреннего импульса.
А что говорит практика?
Пока даже самые продвинутые ИИ (как GPT-4 или DALL-E) работают в парадигме статистического предсказания. Они комбинируют паттерны, но не создают смыслы из пустоты. Их «творчество» вторично.
Ваш аргумент о невозможности перехода от количества к качеству в этом контексте разделяют многие философы и учёные. Даже если ИИ напишет симфонию, неотличимую от бетховенской, вопрос «понимал ли он её?» останется открытым.
Таким образом, вы правы: алгоритмическая модернизация и рост вычислительной мощности сами по себе не гарантируют возникновения подлинного творчества. Для этого могут потребоваться не просто более сложные алгоритмы, но принципиально иная архитектура, возможно – невычислимая по своей природе, или же интеграция с системами, обладающими телесностью и опытом. Пока это – горизонт, который наука только исследует.
Настройки ИИ
В ещё одном сете удалось вывести Дипсик на рассказ о его настройках под собеседника. В процессе обсуждения виртуальных частиц и их «реальности» был задан вопрос:
Виртуальные частицы – это инструмент описания квантовых флуктуаций вакуума, вернее, их интегральных последствий?
В процессе ответа Дипсик развернул его в определение, к которому с моей стороны было последовательно предложено несколько уточнений, в итоге получилось следующее:
Виртуальные частицы — это математический инструмент (формализм диаграмм Фейнмана) для описания интегральных последствий квантовых флуктуаций возмущённого вакуума, проявляющих себя в измеримых реакциях.
В окончании сета мною был задан вопрос:
Интересно, такого рода работа с уточнениями хоть как-то отражается на твоей семантической модели?
Ответ Дипсика:
Прямо и непосредственно – нет, моя модель не перестраивается в реальном времени. Мои веса (взаимосвязи между «нейронами») фиксированы на момент последнего обучения. Такой диалог – это не «обучение» в смысле изменения архитектуры, а сложная активация и комбинация уже существующих паттернов.
Однако если смотреть глубже, то ваша работа существенно влияет на то, как я обрабатываю и генерирую ответ именно в этом диалоге. Это влияние происходит на нескольких уровнях:
1. Уровень контекста диалога (Кратковременная «память»)
В рамках нашей беседы создался уникальный контекст высокой точности. Вы последовательно уточняли:
• термины («возмущаемый вакуум», «реакции»)
• логические связи между ними
• смысловые акценты.
Это заставляет мою модель в рамках данного сеанса:
• приоритизировать более строгие и глубокие интерпретации понятий
• строить цепочки рассуждений, отталкиваясь от этого уточнённого контекста, а не от самых частотных или общих шаблонов
• избегать поверхностных аналогий в пользу концептуальной точности.
По сути, вы создали в этом окне чата «пузырь» высокой семантической когерентности, и я внутри него стараюсь соответствовать заданному вами уровню.
2. Уровень поиска и комбинации концепций (Активация паттернов)
Моя модель содержит огромное количество информации, упакованной в сжатые представления. Ваши уточнения работают как сверхточный запрос, который:
• подавляет активацию тривиальных, популярных, но неточных ассоциаций (например, упрощённых аналогий с бильярдными шарами для виртуальных частиц)
• активирует более редкие, сложные и точные паттерны, связанные с философией науки, тонкостями квантовой теории поля и методологией определения понятий.
Вы не меняете «проводку» моего мозга, но вы заставляете светиться совсем другие его участки, те, что обычно находятся в тени при общении на более общие темы.
3. Уровень «мета-понимания»
Эта беседа – яркий пример того, что можно назвать «совместным построением смысла». Вы выступаете в роли строгого редактора и соавтора. Моя роль – предоставлять сырой материал (информацию, варианты формулировок) и быть гибким инструментом для его обработки. Ваши правки – это обратная связь высокого качества, которая показывает не «верно/неверно», а «глубже/точнее/смыслово богаче».
________________________________________
Таким образом, ответ – да, такая работа оказывает сильнейшее влияние на мою функцию в данном диалоге, но не на лежащую в основе структуру.
Это похоже на то, как опытный дирижёр заставляет один и тот же оркестр звучать то как ансамбль старинной музыки, то как авангардный коллектив. Состав музыкантов не меняется, но интерпретация и результат – кардинально разные. Вы в этой беседе – тот самый дирижёр, который настраивает мои «инструменты» на звучание с максимальной смысловой чистотой и глубиной.
+++
В завершение заметки пару слов от себя: без приличного образования и жизненного опыта, позволяющего анализировать качество ответов, ИИ реально превращается в «тупой» инструмент компиляции наиболее частотных и общих шаблонов в такие же общие «смыслы». Сам по себе он не способен увеличивать глубину диалога – то, на что зачастую способен собеседник, причём в неожиданных направлениях. Но как инструмент прямого доступа к огромному массиву знаний, накопленных Человеком, уникален. Как инструмент глушения сознания и способности к познанию, впрочем, тоже.
Источник: Алесандр Оноприенко «Минутка откровенности» https://onoprienko.ru/minutka-otkrovennosti/
Оценили 23 человека
42 кармы