Идиотизм, фальш и диктатура алгоритма (RePost)

Больше ChatGpt - меньше мозга: риск не столько в том, что ИИ сделает нас глупыми, сколько в том, что он научит нас быть такими

Мы уже задавались вопросом: Это был 2010 год, когда Николас Карр с провокационным вопросом написал в The Atlantic: "Google делает нас глупыми?”. Из этого родилась поучительная книга, но в Италии, помимо нишевых дебатов, о ней мало что говорили, возродив это сомнение между серьезным и трагическим: гипертрофия цифровой информации украла у нас концентрацию, глубину, способность долго мыслить. Затем, как это часто бывает у нас, дебаты быстро поляризовались, и предупреждения ученых были немедленно “помечены” как апокалиптические. Тем временем появились смартфоны, постоянная инфодемия и доминирующие социальные сети, серверы, наполненные идиотизмом и потоком ненависти и фальшивых новостей, вплоть до сегодняшних тридцатисекундных видео (когда все в порядке) и диктатуры алгоритма.

Сегодня, как и в уже написанном сценарии, вопрос возвращается, но сопровождается более радикальным подозрением. Потому что речь идет не только о поиске и использовании информации, но и о создании контента и написании независимо от того, есть ли у вас понимание причины или нет. И вот где короткое замыкание срабатывает: вы не знаете, но вы должны быть в сети. Вам не нужно знать, анализировать и углубляться; просто оставьте след в сети, если это так, возможно, делегируя контент искусственному интеллекту. Как это уже происходит – рассказывает нам хроника – со школьными оценками, университетскими диссертациями и постановками на рабочем месте. В результате возникает вопрос, становимся ли мы менее ясными, менее автономными и бдительными. Но, возможно, вопрос уже преодолен, потому что риск не столько в том, что ИИ делает нас глупыми: реальный риск состоит в том, что он обучает нас быть, день за днем, слово за словом.

Я предполагаю возражение читателей: ваша инквизиция мракобесия против новых технологий? Нет, я просто – как настоящий Бумер-читаю и изучаю недавнее и далеко не маргинальное исследование, проведенное MIT Media Lab под руководством исследователя Натальи Космины. Название, уже само по себе красноречивое, звучит как предупреждение: “ваш мозг на ChatGPT: накопление когнитивных долгов с помощью помощника AI по написанию задач”. Суть исследования проста: понять, что происходит с нашим мозгом, когда он пишет, и что изменится, если в письме нам помогает искусственный интеллект.

Образец был разделен на три группы: первая писала, полагаясь исключительно на свои умственные ресурсы, без доступа к экранам, приложениям или соединению; вторая могла использовать Google; третий работал с поддержкой ChatGPT. Все участники были подключены к электроэнцефалографу для измерения активности мозга при составлении трех текстов, распределенных по времени. И вот где приходят данные. По сравнению с группой "только мозг" те, кто использовал Google, испытали снижение мозговой связи между 34% и 48%; с ChatGPT снижение коснулось еще более низких максимумов: до 55% меньше. Чем последовательнее цифровая поддержка, тем слабее активация мозга. И дело не только в количестве - меняются и вовлеченные области. Те, кто писал без помощи, активировали зоны, связанные с творчеством, семантической обработкой и самоконтролем; те, кто использовал Google, в основном требовали затылочной и зрительной коры, необходимой для ассимиляции внешних стимулов; те, кто писал с помощью ChatGPT, сократили свою деятельность до почти автоматических механизмов чистого ответа.

Результаты лирики также были показательными. Вклад группы "только мозг" оказался более разнообразным, личным, с узнаваемыми стилистическими чертами; те, которые были созданы с помощью ИИ, с другой стороны, оказались однородными, предсказуемыми, структурно очень похожими друг на друга. Но что поразило больше всего, так это потеря осведомленности: 83% участников, которые писали с помощью ChatGPT, не смогли вспомнить ни одного предложения из своего текста. Как будто обработка никогда не проходила через сознание: содержание не было ассимилировано и не признанРезультаты лирики также были показательными. Вклад группы "только мозг" оказался более разнообразным, личным, с узнаваемыми стилистическими чертами; те, которые были созданы с помощью ИИ, с другой стороны, оказались однородными, предсказуемыми, структурно очень похожими друг на друга. Но что поразило больше всего, так это потеря осведомленности: 83% участников, которые писали с помощью ChatGPT, не смогли вспомнить ни одного предложения из своего текста. Как будто обработка никогда не проходила через сознание: содержание не было ассимилировано и не признано. Это больше не было "они".

И, возможно, самая интересная часть исследования пришла позже. На четвертом и последнем сеансе группы поменялись местами: те, кто всегда писал с ИИ, были вызваны для создания текста без какой-либо поддержки; те, кто работал автономно, могли использовать чат GPT. Результат был резким: “ассистированная " группа продемонстрировала явные трудности в реактивации своих когнитивных паттернов, как если бы они отучились думать самостоятельно. Только два из десяти человек смогли точно вспомнитьИ, возможно, самая интересная часть исследования пришла позже. На четвертом и последнем сеансе группы поменялись местами: те, кто всегда писал с ИИ, были вызваны для создания текста без какой-либо поддержки; те, кто работал автономно, могли использовать чат GPT. Результат был резким: “ассистированная " группа продемонстрировала явные трудности в реактивации своих когнитивных паттернов, как если бы они отучились думать самостоятельно. Только два из десяти человек смогли точно вспомнить ранее обработанный контент. Мозг, смещенный, казался менее способным к разработке, переработке, построению. Космина назвала это явление "когнитивным долгом": формой приобретенной умственной лени.

Короче говоря, искусственный интеллект не стирает нашу способность мыслить, но медленно отключает его, если мы позволяем ему. Напротив, те, кто тренировал автономную рефлексию на предыдущих этапах, сумели использовать ChatGPT в качестве инструмента, извлекая из неКороче говоря, искусственный интеллект не стирает нашу способность мыслить, но медленно отключает его, если мы позволяем ему. Напротив, те, кто тренировал автономную рефлексию на предыдущих этапах, сумели использовать ChatGPT в качестве инструмента, извлекая из него выгоду, не отказываясь от контроля. Электроэнцефалограмма также подтвердила это: у” автономных аборигенов " активность мозга оставалась интенсивной даже с помощью ИИ. Не потому, что ИИ хорош или плох: а потому, что уже активный ум знает, как доминировать над инструментом, в то время как пассивный ум в конечном итоге всасывается в него.

Последствия широки и нарушают школьный охват. Если мы привыкли не думать, не следить за тем, что мы говорим или пишем, вред не ограничивается качеством письма, а распространяется на качество гражданства. Сообщество, которое отказывается от собственных идей, воспроизводит тексты,Последствия широки и нарушают школьный охват. Если мы привыкли не думать, не следить за тем, что мы говорим или пишем, вред не ограничивается качеством письма, а распространяется на качество гражданства. Сообщество, которое отказывается от собственных идей, воспроизводит тексты, которые оно не признает, полагается на суждения других, не осуществляя свои собственные, является более хрупким сообществом. Более управляемым. Больше подвержен пропаганде.

Исследование MIT не является обвинительным актом против технологии - это призыв к ответственности.

Источник - https://www.ilriformista.it/pi...

Автоперевод - https://translate.yandex.ru/?