Миллиардер Илон Маск и другие эксперты призвали ученых сделать паузу в разработке мощных систем искусственного интеллекта (ИИ), чтобы убедиться в их безопасности.
Открытое письмо на конференции в Монреале подписали более тысячи человек, включая Маска и соучредителя Apple Стива Возняка. Такая реакция была вызвана выпуском GPT-4 от компании OpenAI, поддерживаемой Microsoft.
«Системы ИИ, где интеллект сопоставим с человеческим, могут представлять большую опасность для человечества, потому что существует риск, что такая система выйдет из под контроля и станет неуправляемой» - говорится в письме. Подписано оно технологическими мировыми титанами, часто конкурирующими в разработках друг с другом, - сообщает earth-chronicles.ru.
Канадский пионер ИИ Йошуа Бенгио, также подписавший письмо, предупредил, что «общество не готово» к этому мощному инструменту.
«Давайте притормозим и убедимся, что мы разработали более надежные ограждения», - сказал Бенгио. Он тоже считает, что нужны протоколы безопасности, которые минимизируют риск от ИИ.
Подписанты призвали правительства вмешаться и наложить мораторий, если компании не смогут договориться.
В письме не было подробного описания опасностей, выявленных GPT-4. Но исследователи, утверждают, что, к примеру, чат-боты - отличные лжецы и могут стать суперраспространителями дезинформации.
Однако писатель Кори Доктороу утверждает, что, как потенциал, так и угроза систем ИИ, были сильно преувеличены подписантами.
