Человечество уже через несколько лет потеряет возможность контролировать действия ИИ

ДМИТРИЙ  СМИРНОВ

Эксперт по искусственному интеллекту Симон Хегелих - о том, что человечество уже через несколько лет потеряет возможность контролировать действия ИИ:

✔️Общий искусственный интеллект повлияет и изменит всю цивилизацию. Вопрос в том, к лучшему или к худшему.

✔️ Уже сегодня благодаря существующим системам ИИ, у нас есть невероятно мощные инструменты, с помощью которых можно построить думающую машину. И я бы сказал, что мы понимаем законы мышления уже добрых 200 лет. Потому что Гегель с невероятной дотошностью описал их в своей «Логике». Если мы поместим это в алгоритм, у нас появится общий ИИ.

✔️У людей, есть проблема: мы накопили столько знаний, что, когда дело доходит до конкретных вопросов, никто не может даже начать использовать весь спектр. Если у нас появится машина, с которой мы можем вести настоящий диалог, то мы с ее помощью сможем по-новому взглянуть на себя, окружающую среду и общество.

✔️Людям придется создать независимые системы ИИ, которые помогут нам справиться с ИИ. Потому что если ИИ начнет манипулировать информацией, мы, люди, потеряем над ним контроль.

✔️В 2026 или 2027 году у нас будет думающая машина. Однако я бы исключил возможность существования у таких машин сознания, чувств или других эмоций. Нам еще далеко до этого. Глава Tesla и SpaceX Илон Маск недавно заявил, что ожидает появления общего ИИ в ближайшие три года. С аналогичным заявлением выступил глава американского производителя чипов Nvidia. И я сам говорил в 2017 году, что в 2022 году мы увидим первые компьютеры, которые выглядят так, как будто они думают независимо — даже если на самом деле это не так. Этот прогноз оказался верным для ChatGPT. Нынешние ИИ, такие как ChatGPT, сами ускоряют развитие в этой области.

✔️Роль ИИ в будущих конфликтах — сложный вопрос. Даже если система будет запрограммирована этически обоснованным образом — к примеру, с учетом принципа, что жертв среди гражданского населения следует избегать любой ценой. А что, если компьютер подсчитает, что бомбардировка больницы может в долгосрочной перспективе избежать гражданских целей? Это абсолютно реалистичный сценарий, и никто не узнает, как компьютер вообще додумался до такого. Нам нужны международные соглашения, запрещающие использование AI в войне. Кто в конечном итоге это будет соблюдать, вопрос, конечно, открытый, но нам нужен такой сигнал по международному праву.