Генератор текста OpenAI выпустят в ограниченный доступ. Раньше его считали слишком опасным, а эксперты предупреждали, что злоумышленники могут воспользоваться им для своих целей.
Лаборатория искусственного интеллекта OpenAI объявила о том, что их нейронная сеть для обработки естественного языка станет доступна для ограниченного распространения. Компания, основанная Илоном Маском и получившая грант от Microsoft в размере 1 млрд долларов, разработала генератор текста, который создает отрывки, практически неотличимые от тех, что написаны человеком.
Сначала OpenAI собирает огромные объемы данных из интернета и анализирует их на предмет стилистических закономерностей, которые позволяют реалистично предсказать, какие буквы или слова будут написаны следующими.
Когда пользователь подает в генератор слово, фразу или более длинный фрагмент текста, он улучшает этот инструмент. Полученные результаты можно использовать для создания рассказов, диссертаций, игры в шахматы, решения математических задач или создания текстовых сценариев.
Эксперты предупреждали, что система генерирует тексты очень реалистично, а мошенники могут использовать ее для публикации фейк-новостей. Первоначально исследователи анонсировали систему в феврале 2019 года, но отказались публиковать полную версию программы. Они опасались, что ее будут использовать для распространения фальшивых новостей, спама и дезинформации.
Модель является частью нового поколения систем генерации текста, которые произвели впечатление на экспертов своей способностью генерировать текст из минимальных подсказок. Эту систему подготовили на основе 8 млн текстовых документов. К примеру, используя несколько заголовков СМИ, она может написать целую новость или, используя строчку из стихотворения, создать целый стих.
Однако эксперты, с которыми поговорило издание The Verge, отмечают, что легкий доступ к новейшим исследованиям в области генерации текста может позволить злоумышленникам пользоваться ими. Они отмечают, что OpenAI должна была ограничить публикацию своей модели по этим причинам.
Оценили 10 человек
17 кармы